«Особое мнение» реальности: переписку с нейросетью посчитали подготовкой к убийству в Бразилии
Задолго до эпохи нейросетей, в триллере «Особое мнение» уже поднималась эта дилемма: где грань между прогнозом преступления и его реальным совершением. Кадр из фильма.
Можно ли переписку с чат-ботом о поиске или изготовлении яда считать подготовкой к убийству? А желание убить наркоторговцев? Прецедент с арестом собеседника ИИ вызвал юридические споры не только в Бразилии.
В июне этого года здесь арестовали 36-летнего фермера, который два месяца обменивался с ChatGPT сообщениями, в которых, по версии полиции, планировал убить восьмилетнего сына, напасть на других людей, а затем покончить с собой, пишет «Закон и Бизнес».
OpenAI, разработчик ChatGPT, обратил внимание ФБР на эти сообщения, американское ведомство, в свою очередь, уведомило бразильские власти, что в конечном итоге привели к аресту, отмечает бразильская служба Би-Би-Си
По словам бразильских полицейских, подозреваемый практически не общался с сыном, ограничиваясь выплатой алиментов. Следователи полагают, что недовольство необходимостью этих выплат могло стать одним из мотивов предполагаемого преступления. При обыске его дома полиция обнаружила четыре бутылки с неустановленными веществами, а также веревку с завязанной петлей, что, по мнению следователей, могло свидетельствовать о намерении покончить с собой.
В одном из сообщений, с которым ознакомилась Би-Би-Си, говорилось: «Если я приду туда, где торгуют наркотиками, и убью примерно четырех преступников, то стану знаменитым в городе. После этого мне останется только убить одного-двух полицейских, и я смогу спокойно умереть».
По данным следствия, мужчина также искал информацию о токсичных веществах, в том числе рицине, и пытался обойти защитные ограничения ChatGPT, переформулируя свои вопросы.
Сам мужчина отрицает, что намеревался причинить вред своему сыну. Проведя под стражей 54 дня, он был освобожден без предъявления обвинения, но расследование продолжается.
Согласно бразильскому законодательству, как правило, преступление считается совершенным лишь после того, как начинается стадия его непосредственного исполнения. Защита настаивает, что никаких подобных действий мужчина не предпринимал.
«Если разговоры с искусственным интеллектом и всякая чушь, сказанная ему, — это преступление, тогда в тюрьму придется отправить всех», — заявил Би-Би-Си адвокат фермера.
Дело фермера стало первым в штате случаем, когда основанием для проверки послужил сигнал от самой системы искусственного интеллекта, и лишь третьим подобным случаем во всей Бразилии.
Однако использование подобных сигналов от ИИ-компаний в расследованиях порождает целый ряд вопросов. Так, следователи утверждают, что OpenAI предоставила им данные пользователя и отправленные сообщения, однако не передала ответы ChatGPT, что создает проблему с точки зрения доказательной базы.
По словам адвоката по уголовным делам Маиры Фернандес, в данном случае решение передать информацию властям можно объяснить тем, что предполагаемой жертвой был конкретный ребенок, личность которого можно установить. Однако юрист предостерегает от превращения расследований, основанных исключительно на оценках искусственного интеллекта, в обычную практику. «Иначе расследование можно будет начать против любого человека просто потому, что ИИ именно так истолковал его слова», — отметила она.
Профессор и специалист по цифровому праву Патрисия Пек, считает, что это дело отражает более масштабную трансформацию роли искусственного интеллекта: из инструмента для создания контента он превращается в интерактивную систему, «способную выявлять модели поведения, связанные с потенциально опасными действиями». По ее мнению, при определенных обстоятельствах у ИИ-компаний может возникать юридическая обязанность сообщать об угрозе властям.