Основной закон для роботов
Робота нелегко навчити звичкам людини, але британські вчені вірять, що закласти в програму демократичні цінності буде простіше.
Американский писатель-фантаст Айзек Азимов в свое время сформулировал три закона, определявшие взаимоотношения между людьми и роботами. Сегодня британские ученые предлагают заменить их одним.
В докладе, опубликованном Королевским научным обществом и Британской академией, говорится, что нет никакой нужды в трех законах робототехники, которые можно заменить одним универсальным правилом: «Человек должен преуспевать». Этот принцип процветания человечества должен быть положен в основу всего управления системами искусственного интеллекта, сообщает Би-Би-Си.
В докладе содержится призыв к созданию новой организации, которая должна позаботиться о том, чтобы умные машины служили обществу, а не контролировали его.
В нем говорится, что для регулирования разработки самообучающихся машин необходима система демократического надзора. Без подобной системы такие машины могут причинить человечеству страшный вред, говорится в докладе.
Речь пока не идет о том, что роботы смогут поработить людей. Но когда машины, способные к самообучению и принятию самостоятельных решений, станут повсеместно использоваться дома, в бизнесе и в сфере государственных услуг, возможность утраты контроля над ними выглядит пугающе.
Доклад призывает установить для роботов правила, по умолчанию ставящие интересы человека превыше интересов машины.
Создание такой системы правил не может опираться исключительно на технические стандарты. Умные машины должны будут руководствоваться этическими и демократическими ценностями, считает заместитель главы лоббистской группы TechUK Энтони Уокер и один из авторов опубликованного доклада. «Технологии способны дать нам массу преимуществ, но люди должны быть уверены, что эти системы хорошо продуманы, безопасны и управляемы», — замечает он.
В докладе предлагается совершенно новый подход к этой проблеме: создание некоего «наблюдательного совета» в составе экспертов и заинтересованных сторон. Он займется созданием этической базы для технологических разработок в области искусственного интеллекта.
СПРАВКА «ЗиБ»
Три закона А.Азимова
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.