Человек в контуре

Кто ответит за ошибку ИИ в юридической практике?

Искусственный интеллект все чаще берет на себя рутинные решения в юридической практике, но отвечать за его ошибку все равно придется человеку. Где проходит граница между пользой метода и контролем над рисками?

Чорна скринька алгоритму

Юрист, комплаєнс-офіцер Владислав Михайличенко запропонував учасникам вебінару Асоціації адвокатів України поглянути на штучний інтелект крізь призму регуляторних ризиків, безпеки та стандартів комплаєнсу. За його словами, сьогодні ШІ присутній практично всюди — від автоматизованого скринінгу пошти до систем ухвалення рішень при наймі персоналу та оцінці клієнтів.

«Хто відповідає за галюцинації алгоритму, хто несе юридичну відповідальність і як варто інтегрувати ці інновації в юридичну практику», — окреслив коло питань спікер, додавши, що інтеграцію варто здійснювати, не гальмуючи роботу зайвими перевірками.

За словами В.Михайличенка, поширена помилка — сприймати ШІ як суто технічний інструмент. Насправді це самостійний об'єкт комплаєнс-ризику: сам він не є суб'єктом права, не піде до суду і не сплатить штраф, тому відповідальність за будь-яке рішення, ухвалене за участю алгоритму, завжди несе конкретна людина — здебільшого та, що підписує чи подає документ.

Юрист назвав три причини, чому ШІ потребує окремого регулювання. По-перше, використання алгоритмів без внутрішньої політики — це порушення належного врядування: без чітких інструкцій співробітники застосовують будь-які інструменти на власний розсуд, а адвокати втрачають контроль над тим, куди потрапляє інформація, захищена адвокатською таємницею.

По-друге, це проблема «чорної скриньки» — сучасні нейромережі настільки складні, що навіть розробники не завжди можуть пояснити, чому система дійшла того чи іншого висновку. А це критично, «особливо коли відбір кандидата на посаду або відмова клієнту в послугах відбувається суто через штучний інтелект», — застеріг спікер.

По-третє — відповідальність за помилки. Йдеться, зокрема, про посилання на неіснуючу судову практику чи неактуальні норми закону. «Ви не зможете стати перед суддею і сказати: вибачте, це ChatGPT так написав, я піду на нього посварюсь, а ви на це не зважайте», — іронічно зауважив В.Михайличенко, додавши, що відповідальність за таку помилку суд або клієнт покладе саме на юриста.

Спікер закликав закладати оцінку ризиків ще на етапі впровадження ШІ — за принципом by design, аби згодом не перебудовувати всю систему. Серед типових ризиків він назвав правові (модель, навчена на даних без ліцензії), фінансові (некоректна оцінка контрагента, що призвела до втрати клієнта) та репутаційні — насамперед алгоритмічну упередженість: за словами спікера, у 2025 році фіксувалися випадки, коли компанії, раніше засуджені за дискримінацію при наймі, після «виправлення» алгоритму згодом знову відтворювали ті самі патерни.

Ключовим інструментом протидії таким ризикам спікер назвав принцип tone at the top: керівництво само дотримується правил використання ШІ, і лише тоді ці правила виконують інші співробітники. Обов'язковим елементом є human in the loop — фінальне рішення завжди ухвалює людина, а не алгоритм, — а також регулярне навчання команди, оскільки написана, але не роз'яснена політика на практиці не працює.

Санкції під наглядом людини

Другий блок доповіді В.Михайличенко присвятив протидії відмиванню коштів і роботі з санкційними списками, які з початком повномасштабної війни оновлюються дедалі частіше. Бізнесу складно відстежувати, чи можна укладати угоду з контрагентом, особливо якщо він пов'язаний із підсанкційною особою опосередковано.

За словами спікера, ШІ здатний аналізувати величезні масиви даних і виявляти приховані зв'язки з підсанкційними особами, суттєво прискорюючи перевірку клієнтів за принципом KYC (Know Your Client). «Якщо раніше якась перевірка могла зайняти до тижня, зараз це може бути пів дня або й менше», — навів приклад юрист. Утім і тут остаточне рішення повинна ухвалювати людина: повна автоматизація створює «сліпі зони» і підвищує кількість хибнопозитивних спрацювань (false positives), тому фахівець має перевіряти висновок алгоритму на відповідність законодавству.

Окремо спікер звернув увагу на поширення діпфейків при спробах обійти процедуру дистанційної ідентифікації клієнтів: синтетичні фото та голос сьогодні легко проходять застарілі системи перевірки. Протидіяти цьому, за його словами, можна лише за допомогою інших алгоритмів ШІ, натренованих виявляти ознаки штучно згенерованого контенту.

Дані як паливо для ШІ

«Для штучного інтелекту дані — це буквально паливо: без них він узагалі не існує», — зазначив В.Михайличенко. Водночас надмірне «годування» алгоритму конфіденційною інформацією про клієнтів чи комерційну таємницю компанії загрожує серйозними наслідками, і саме на це спрямований GDPR.

Спікер назвав чотири принципи, яких варто дотримуватися, щоб не порушити регламент:

однозначна згода клієнта на використання його персональних даних, оформлена окремим помітним пунктом, а не дрібним шрифтом у договорі;

сувора анонімізація, за якої алгоритм не має змоги ідентифікувати конкретну людину;

privacy by design, тобто закладення комплаєнс-контролю в систему ще на етапі побудови;

право на забуття — технічно видалити дані з уже навченої моделі майже неможливо, але за вимогою клієнта компанія зобов'язана це забезпечити.

Юрист зауважив, що в Євросоюзі точаться дискусії про пом'якшення останньої вимоги, оскільки ЄС розглядає можливість розвивати власний ШІ на рівні США чи Китаю.

Окрему увагу спікер приділив захисту адвокатської та комерційної таємниці. Типова помилка, за його словами, — коли юрист копіює документ клієнта і надсилає його в публічний чат-бот на кшталт ChatGPT, Claude чи Gemini з проханням проаналізувати документ.

«Публічні великі мовні моделі за замовчуванням використовують будь-яку інформацію для подальшого навчання», — попередив В.Михайличенко, додавши, що раніше траплялися випадки витоку даних із деяких моделей.

Щоб мінімізувати ризик, спікер порадив три практичні кроки:

відмовитися від невідомих неліцензованих моделей на користь перевірених — ChatGPT, Claude, Gemini мають надійні протоколи захисту;

перейти на корпоративні enterprise-версії, де дані зберігаються окремо і не використовуються для навчання базової моделі;

за наявності ресурсів — розгортати локальний ШІ на власному сервері.

Останній варіант спікер назвав найбезпечнішим, хоч і найдорожчим.

ШІ на службі розслідувань

Завершив доповідь В.Михайличенко блоком про застосування ШІ у внутрішніх розслідуваннях. Тут алгоритм, за його словами, може виступати водночас інструментом і об'єктом перевірки: як форензик-помічник він здатний за лічені хвилини проаналізувати масиви листування, контрактів і логів та виявити ознаки шахрайства, розкрадання чи змови. Водночас якщо саме рішення алгоритму — наприклад, відмова у наймі — стало предметом розслідування, перевіряти доведеться вже сам код і дані, на яких він навчався.

Спікер застеріг, що ШІ, як і людина, здатен переймати упередженості тих, хто його навчає, — це особливо помітно в моделях, які використовують для добору персоналу. Аналіз варто проводити виключно в ізольованому середовищі — щонайменше в enterprise-версії моделі, аби виключити витік конфіденційної інформації в публічний простір.

Якщо порушення все ж сталося, важливо встановити, хто саме за нього відповідає — розробник, який припустився помилки в коді, провайдер, у якого виникли технічні проблеми, чи внутрішній користувач, що застосував інструмент некоректно. Від цього залежить подальша тактика: тимчасова відмова від сервісу, звернення до провайдера або додаткове навчання співробітників.

Закон і Бізнес