Не допустить господства ИИ над человечеством призвал папа римский
Лев XIII подчеркнул необходимость принятия общего этического кодекса в отношении технологий ИИ, а также призвал учить тому, как контролировать связанные с ними риски. Фото: Getty Images
Технология не является «силой, враждебной человеку» или «злом», но она и не «нейтральна», так как «принимает облик тех, кто ее создает, финансирует, регулирует и использует».
Этот постулат напомнил папа римский Лев XIV в энциклике Magnifica Humanitas, в которой рассуждает об ИИ и рисках для человечества, которые несут технологии, пишет «Закон и Бизнес».
200-страничный документ разделен на пять глав. В нем понтифик размышляет о роли ИИ и новых технологий в целом в жизни человечества, призывая уделять больше внимания этическим вопросам.
«В эпоху искусственного интеллекта, когда человеческое достоинство рискует быть заслонено новыми формами дегуманизации, мы обязаны оставаться глубоко человечными», — пишет понтифик. Он призывает «разоружить» ИИ. «Разоружить не значит отвергнуть технологии, а значит не допустить, чтобы они господствовали над человечеством», — уточняет Лев XIV.
Понтифик убежден: технологии не должны быть сосредоточены в руках немногих, усугубляя разрыв между теми, кто включен в цифровую революцию, и теми, кто из неё исключен.
Один из ключевых пунктов документа касается использования искусственного интеллекта в военной сфере. Папа осуждает расширение индустрии вооружений, гонку ядерных вооружений и появление новых группировок, которые, по его словам, подпитывают конфликты ради выгоды и власти. На этом фоне звучит его жёсткий призыв против оружия на основе ИИ.
«Нет такого алгоритма, который мог бы сделать войну морально приемлемой, — пишет понтифик, критикуя привлечение технологий для того, чтобы сделать конфликты «более быстрыми и обезличенными», снижая моральный порог применения насилия.
В энциклике также рассматривается вопрос «стоимости» цифровой экономики — от нестабильной занятости людей, занятых обучением моделей ИИ, до добычи редкоземельных элементов, нужных в производстве микропроцессоров и электронных устройств.
«В некоторых регионах мира подростки и дети работают в опасных условиях, занимаясь дроблением материалов, из которых извлекают редкоземельные элементы. Тела изранены, искалечены, изнурены, лишь бы поток вычислений не прекращался», — обращает внимание Лев XIV.
Ранее он распорядился создать комиссию, которая исследует последствия внедрения новинки для общества, а также посоветовал католическим священникам не пользоваться ИИ при подготовке проповедей.
Magnifica Humanitas, как сообщает Святой престол, приурочена к 135-летию публикации энциклики папы Льва XIII Rerum Novarum, в которой говорилось о социальных вопросах и труде.