Закон і Бізнес


Основний закон для роботів


Робота нелегко навчити звичкам людини, але британські вчені вірять, що закласти в програму демократичні цінності буде простіше.

№27 (1325) 08.07—14.07.2017
4895

Американський письменник-фантаст Айзек Азімов свого часу сформулював три закони, що визначають взаємини між людьми і роботами. Сьогодні британські вчені пропонують замінити їх одним.


У доповіді, опублікованій Королівським науковим співтовариством і Британською академією, мовиться, що немає ніякої потреби в трьох законах робототехніки, які можна замінити одним універсальним правилом: «Людина має досягати успіху». Цей принцип процвітання людства повинен бути покладений в основу всього управління системами штучного інтелекту, повідомляє Бі-Бі-Сі.

У документі міститься заклик до створення нової організації, яка повинна потурбуватися про те, щоб розумні машини служили суспільству, а не контролювали його.

У ньому говориться, що для регулювання процесів розроблення самонавчальних машин необхідна система демократичного нагляду. Без подібної системи такі машини можуть заподіяти людству страшну шкоду.

Мова поки що не йде про те, що роботи зможуть поневолити людей. Але коли машини, здатні до самонавчання й прийняття самостійних рішень, стануть повсюдно використовуватися вдома, в бізнесі й у сфері державних послуг, можливість втрати контролю над ними лякає. Це змушує замислитися над новим регулюванням.

Автори доповіді закликають установити для роботів правила, що за умовчанням ставлять інтереси людини вище від інтересів машини.

Створення такої системи правил не може спиратися виключно на технічні стандарти. Розумні машини повинні будуть керуватися етичними й демократичними цінностями, вважає заступник голови лобістської групи TechUK Ентоні Вокер і один з авторів опублікованої доповіді. «Технології можуть дати нам безліч переваг, але люди мають бути впевнені, що ці системи добре продумані, безпечні й керовані», — відзначив він.

У документі пропонується абсолютно новий підхід до цієї проблеми: створення «наглядової ради» у складі експертів і зацікавлених сторін. Вона займеться створенням етичної бази для технологічних розробок у сфері штучного інтелекту.

 

ДОВІДКА «ЗіБ»

Три закони А.Азімова

1. Робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людині була завдана шкода.

2. Робот повинен підкорятися всім наказам, які дає людина, крім випадків, коли ці накази суперечать першому закону.

3. Робот повинен піклуватися про свою безпеку тією мірою, якою це не суперечить першому або другому законам.