«Окрема думка» реальності: листування з нейромережею розцінили як підготовку до вбивства в Бразилії

Чи можна листування з чат-ботом про пошук або виготовлення отрути вважати підготовкою до вбивства? А бажання вбити наркоторговців? Прецедент із арештом співрозмовника ШІ викликав юридичні суперечки не лише у Бразилії.

У червні цього року тут заарештували 36-річного фермера, який два місяці обмінювався з ChatGPT повідомленнями, в яких, за версією поліції, планував убити восьмирічного сина, напасти на інших людей, а потім накласти на себе руки, пише «Закон і Бізнес».

OpenAI, розробник ChatGPT, звернув увагу ФБР на ці повідомлення, американське відомство, своєю чергою, повідомило бразильську владу, що зрештою призвело до арешту зловмисника, зазначає бразильська служба Бі-Бі-Сі.

За словами бразильських поліцейських, підозрюваний практично не спілкувався із сином, обмежуючись виплатою аліментів. Слідчі вважають, що невдоволення необхідністю цих виплат могло стати одним із мотивів передбачуваного злочину. Під час обшуку його будинку поліція виявила чотири пляшки з невстановленими речовинами, а також мотузку із зашморгом, що, на думку слідчих, могло свідчити про намір накласти на себе руки.

В одному з повідомлень, з яким ознайомилася Бі-Бі-Сі, говорилося: «Якщо я прийду туди, де торгують наркотиками, і вб’ю приблизно чотирьох злочинців, стану знаменитим у місті. Після цього мені залишиться лише вбити одного-двох поліцейських, і я зможу спокійно померти».

За даними слідства, чоловік також шукав інформацію про токсичні речовини, у тому числі рицин, і намагався обійти захисні обмеження ChatGPT, переформулюючи свої питання.

Сам чоловік заперечує, що мав намір завдати шкоди своєму синові. Провівши під вартою 54 дні, він вийшов на свободу без пред’явлення обвинувачення, але розслідування триває.

Згідно з бразильським законодавством, як правило, злочин вважається скоєним лише після того, як починається стадія його безпосереднього виконання. Захист наполягає, що жодних подібних дій чоловік не вчинив.

«Якщо розмови зі штучним інтелектом і всяка нісенітниця, сказана йому, — це злочин, тоді до в’язниці доведеться відправити всіх», — заявив Бі-Бі-Сі адвокат фермера.

Справа фермера стала першою у штаті випадком, коли підставою для перевірки послужив сигнал від самої системи штучного інтелекту, і лише третім подібним випадком у всій Бразилії.

Однак використання подібних сигналів від ШІ-компаній у розслідуваннях породжує цілу низку питань. Так, слідчі стверджують, що OpenAI надала їм дані користувача та надіслані повідомлення, проте не передала відповіді ChatGPT, що створює проблему з точки зору доказової бази.

За словами адвоката у кримінальних справах Маїри Фернандес, у цьому випадку рішення передати інформацію владі можна пояснити тим, що ймовірною жертвою була конкретна дитина, особу якої можна встановити. Проте юрист застерігає від перетворення розслідувань, заснованих виключно на оцінках штучного інтелекту, на звичайну практику. «Інакше розслідування можна буде почати проти будь-якої людини просто тому, що ШІ саме так витлумачив її слова», — зазначила вона.

Професор і фахівець із цифрового права Патрісія Пек вважає, що ця справа відображає більш масштабну трансформацію ролі штучного інтелекту: з інструменту для створення контенту він перетворюється на інтерактивну систему, «здатну виявляти моделі поведінки, пов’язані з потенційно небезпечними діями». На її думку, за певних обставин у ШІ-компаній може виникати юридичний обов’язок повідомляти про загрозу владі.

Закон і Бізнес