Источник повышенной опасности

Почему ИИ — это не поисковая база и кто отвечает за галлюцинации в судебных документах

Мы долго не признавали моноколесо источником повышенной опасности. Похоже, так же долго будем идти к тому, чтобы признать таковым ИИ. А пока — 1093 задокументированные галлюцинации в судебных документах и никакой ясности с ответственностью.

Напрямок здорового глузду

Cуддя Касаційного цивільного суду, к.ю.н. Василь Крат виступив на круглому столі «Штучний інтелект в діяльності нотаріуса», організованому Нотаріальною палатою України в рамках підвищення професійного рівня нотаріусів.

Розпочавши виступ із посилання на окрему думку Лорда Мансона із Сінгапурського суду — органу, до складу якого залучені лорди британського Верховного суду, — спікер окреслив головний вектор дискусії. «Закон має бути адаптований до нового світу програм і штучного інтелекту таким чином, щоб результат у будь-якому випадку зводився до того, про що ми говоримо з точки зору здорового глузду», — навів він цитату. За його словами, саме «напрямок здорового глузду» й є орієнтиром у цій сфері.

Ситуація, яка хвилює правничу спільноту, насправді є загальноцивілізаційною. Спікер навів красномовний приклад: Папа Римський застеріг священників від спокуси готувати проповіді за допомогою ШІ. Якщо перенести цю логіку на правничу сферу, йдеться про спокусу готувати правничі документи так само.

«Мені б не хотілося потрапити до лікаря, який запитує в штучного інтелекту, як лікувати, до нотаріуса, який написав проєкт за допомогою програми, до адвоката, який запитує в ChatGPT, що йому робити в цій ситуації», — підкреслив суддя.

Принципова позиція спікера: ШІ — це програма. А програма, навіть коли вона навчена на конкретній базі даних, дає відмінні результати залежно від того, як поставити питання.

«Ми маємо чітко артикулювати, що ця програма може давати неочікуваний результат. Так само, як ми довго не йшли до того, щоб сказати, що моноколесо є джерелом підвищеної небезпеки, я очікую, що років 10 будемо йти до того, щоб сказати: ШІ є джерелом підвищеної небезпеки. Тож усі, хто його тестував, вважайте себе володільцями такого джерела», — додав він з іронією.

1093 галюцинації

Окремий блок доповіді спікер присвятив проблемі «галюцинацій» — ситуацій, коли ШІ видає неіснуючі судові рішення, неправильні номери постанов або просто вигадані правові аргументи. Один із дослідників створив інтернет-ресурс, на якому відстежуються такі випадки з усього світу: два роки тому там було 12 рішень, зараз — 1093.

Лідер за кількістю випадків — США, на другому місці — Канада. З’явилися навіть прецеденти в міжнародному комерційному арбітражі — середовищі, де арбітрів обирають насамперед за репутацію. «Мене цей момент дуже здивував», — зізнався суддя.

На практиці касаційної інстанції В.Крат виокремив кілька характерних схем: посилання на неіснуючі постанови Верховного Суду в касаційних скаргах; спроби обґрунтувати пропуск строків відсутністю доступу до ШІ; заяви про те, що доказ протилежної сторони створено за допомогою ШІ.

«Якщо попросити ШІ написати апеляційну чи касаційну скаргу, лише в одиничних випадках трапиться жива постанова, яка є в реєстрі», — констатував він.

Нотаріус, експерт і авторське право

Три сфери тяжіння ШІ в праві спікер позначив чітко: судочинство, нотаріат й інтелектуальна власність.

У контексті нотаріату В.Крат провів паралель: так само як для перевірки правоздатності і дієздатності особи «в голову не залізеш», але є зовнішні маркери — так само є маркери того, що документ написаний ШІ. Про ці маркери говорив і німецький суд: структурованість тексту, розбивка на розділи, правові аргументи, певний тип речень. «Зрозуміло, що дуже мало людей пишуть структуровано. Це одиниці. А якщо зараз подивитися численні документи — вони структуровані», — пояснив суддя.

Показовим є прецедент із медичною експертизою: коли експерт підготував висновок за допомогою ШІ, суд констатував, що висновок не був зроблений особисто, а відтак не може використовуватися як доказ і не підлягає оплаті. Загальний принцип, який суддя сформулював, спираючись на позицію Касаційного господарського суду: «Технологію слід використовувати лише для підтримки та посилення верховенства права. Ухвалення рішень все рівно має здійснюватися тільки суддями. Так само нотаріальна дія має вчинятися нотаріусом».

У сфері інтелектуальної власності Україна зробила крок уперед: нова редакція закону про авторське право та суміжні права допускає правову охорону об’єктів, отриманих за допомогою ШІ. Водночас у патентному праві картина інша — спроби отримати охоронний документ на об’єкт, згенерований ШІ (справи Стівена Тейлора в різних правопорядках), завершилися однаково: програма не є винахідником у розумінні закону.

Стандарт, якого дотримується сам спікер: ШІ — для картинок і привернення уваги. «Якщо подивитися на них, то вони однотипні. Він не може поки що рухатися інакше. Для іншого я його не використовую», — підсумував суддя.

Чек-лист з прозорості, конфіденційності, відповідальності та верифікації, показаний наприкінці доповіді, він також зробив за допомогою ШІ — і спеціально залишив у ньому помилку: «Щоб проілюструвати, що навіть при правильно заданому промті він все

Закон і Бізнес