CLE-тренер, исследователь ИИ, глава Human Rights Educational Guild Алексей ШАМОВ:

«Профессиональная ценность адвоката будет расти пропорционально его способности работать на стыке права, этики и Data Science»

Стремительное внедрение ИИ и цифровизация судопроизводства создали критический «Competency Gap», превратив защиту конституционных прав клиента в негласное соревнование человека с машинной логикой. Чтобы выстоять в этой «алгоритмической борьбе» и подготовить эффективные инструменты защиты, нужно иметь визионерское понимание технологий. О том, почему эта сфера и этика ИИ становятся обязательными для овладения адвокатом, а человеческий фактор — наибольшей ценностью в эпоху глубокого обучения, «ЗиБ» узнавал у CLE-тренера, председателя Human Rights Educational Guild Алексея ШАМОВА, совмещающего многолетнюю адвокатскую практику с академическим знаниями в инженерии программного обеспечения и являющегося заметным визионером в сфере LegalTech.

«В умовах, коли на суддю неявно впливає машинна логіка, принцип змагальності стає ілюзорним»

— Пане Олексію, цифровізація судової системи вочевидь спрощує доступ до судочинства. Разом з тим, у своїх публікаціях ви говорите про «парадокс професійної підготовки», як загрозу для захисту прав клієнта? Що ви маєте на увазі?

— Дякую за це важливе запитання. Ми зіткнулися з тим, що я називаю «парадоксом професійної підготовки» або «competency gap» (прогалиною компетенцій). На перший погляд, електронне судочинство спрощує життя клієнта: подати позов онлайн, отримати сповіщення на електронну пошту, навіть брати участь у засіданні через відеозв'язок. Це доступно і, здавалося б, просто.

Але ця зовнішня простота вимагає від адвоката набагато складнішого, глибинного технічного розуміння процесів, які відбуваються «під капотом» системи. Якщо адвокат не знає, як правильно формуються цифрові докази, як працюють електронні реєстри, або як адміністративні помилки, спричинені нестабільністю цифрової інфраструктури (про що ваше видання справедливо писало), можуть призвести до технічного збою, він не зможе забезпечити належний захист.

Незнання алгоритмічної логіки та особливостей електронного судочинства у 2025 році створює не просто технічні незручності, а прямий ризик для конституційного права клієнта на ефективний правовий захист. Уявіть, що через збій у системі судової адміністрації, спричинений обмеженням фінансування чи адміністративним недоліком, процесуальний документ клієнта не був вчасно зареєстрований або потрапив до іншого судді через помилку в автоматизованому розподілі. Якщо адвокат не може довести, що саме технічна вада призвела до порушення прав клієнта, він професійно провалюється. Це і є «competency gap».

— Це підводить нас до назви вашої книги — «Штучний інтелект ухвалює судові рішення». Що це означає для адвоката в Україні, де ШІ не виносить вироки?

— Назва книги — провокаційна, і вона покликана привернути увагу до ключового факту: алгоритми вже перебувають у залі суду, навіть якщо вони не сидять у суддівському кріслі.

Українська система ще не застосовує ШІ для ухвалення рішень третього рівня (повна заміна судді), але ми вже активно використовуємо ШІ на першому та другому рівнях. Перший рівень — це глибинний аналіз даних (статті законів, мільйони судових рішень), а другий — підтримка судді через предикативну юриспруденцію та підготовку чернеток процесуальних документів.

Суддя, який отримує від інтегрованих програмних продуктів аналітичний звіт, що містить посилання на тисячі релевантних рішень, неминуче перебуває під вагомим впливом машинної логіки. Алгоритм, розроблений на ШІ-архітектурі «transformer», завдяки «механізму уваги», може миттєво визначити ключові моменти справи, що у багатьох інженерних джерелах називають «стрибком від лінійного просування до паралельної геніальності». Ці «навички» дозволяють моделям рівня GPT-4 складати адвокатські іспити на рівні 90-го процентиля.

Отже, в багатьох випадках ШІ вже «ухвалює» рішення в сенсі глибокого впливу на процес формування думки судді. Це неявний, але дуже потужний учасник процесу. І якщо адвокат ігнорує його присутність, він не може повноцінно захищати клієнта.

— Ви стверджуєте, що адвокат змагається з «непрозорим алгоритмом». Як це впливає на принцип змагальності, який є наріжним каменем нашого правосуддя?

— Принцип змагальності був сформований у системі, де рішення приймає людина-суддя на основі людської раціональності. В умовах, коли на суддю неявно впливає машинна логіка, принцип змагальності стає ілюзорним.

Проблема в так званому чорному ящику (Black Box). Коли ШІ видає висновок (наприклад, оцінює ризик рецидивізму чи пропонує рішення у договорі), ми часто не знаємо, як саме він дійшов цього результату. Внутрішня логіка може бути прихована як комерційна таємниця розробника. Якщо ж висновок алгоритму впливає на долю мого клієнта, але я не можу його оскаржити через непрозорість, я не можу забезпечити належний захист.

Це вимагає прозорості міркувань ШІ-моделі, можливості покроково відстежувати, чому машина надала більшу вагу певним фактам і меншу іншим, чому вона «побачила» саме цю закономірність. Без такої прозорості, ми не змагаємося, а лише граємо у змагальність.

До речі, серед статей на сайті нашої Юридичної групи «Право» є більше матеріалів на цю тему.

«Адвокату необхідні знання правової етики ШІ»

— Юридична професія вчить традиційному аудиту доказів. Ви наголошуєте на додатковій опції технологічного аудиту. Яка його роль?

— Традиційний аудит доказів: чи є цей папір оригіналом, чи є покази цього свідка достовірними. Технологічний аудит: чи є алгоритм, який обробив ці докази, надійним, справедливим і неупередженим.

Цей тип аудиту доказів має три складові.

Оскарження вбудованих упереджень: якщо ШІ навчався на історичних даних, які містять гендерні чи расові упередження (як це сталося із системою COMPAS у США, що завищувала ризик для афроамериканців), адвокат повинен мати знання, щоб поставити під сумнів справедливість цього алгоритму, довести, що алгоритм автоматизував укорінену нерівність (упередженість, «успадкована» машиною з тисяч текстів, створених людьми у тривалому періоді часу).

Перевірка цілісності системи: адвокат має реагувати на нестабільність систем. Якщо адміністративні помилки чи обмеження фінансування ДСАУ призводять до технічних збоїв, адвокат має вміти довести, що саме технічна вада системи, а не якась інша обставина, призвела до порушення прав клієнта. Ми маємо бути здатними хоча б на базовому рівні перевіряти окремі елементи технічного стану інфраструктури правосуддя.

Виявлення «Галюцинацій»: ми вже бачили випадки, коли ШІ «галюцинує», тобто продукує правдоподібну, але хибну інформацію, або посилається на неіснуючі судові кейси. Адвокат, який використовує ШІ, або адвокат, який оскаржує висновки, підготовлені ШІ, повинен мати навички для валідації (перевірки надійності) системи.

По суті, ми повинні мати можливість піддавати перевірці застосовану в конкретному кейсі систему ШІ на те, чи є вона надійною, справедливою, точною і не підданою системній упередженості.

— Які знання потрібні адвокату, щоб здійснювати цей «аудит алгоритму»? Чи необхідна окрім LegalTech-знань також етика ШІ?

— На мій погляд, LegalTech і етика ШІ є нерозривними. Недостатньо просто вміти користуватися електронним судом чи чат-ботом для драфтингу. Це лише інструменти. Етика ШІ — це філософія та методологія їх використання.

Адвокату необхідні знання правової етики ШІ, розуміння проблеми «чорної скриньки», принципів пояснюваності (explainability) та підзвітності (accountability) алгоритмів. Адвокат має знати, як виявити, коли алгоритм демонструє когнітивні упередження, такі як гало-ефект (коли позитивне враження в одній сфері, наприклад, привабливий зовнішній вигляд, впливає на рішення в іншій) або стереотипи, вбудовані у навчальні дані. Адвокат має володіти основами Data Science. Це не означає мати знання програміста, але розуміти базові принципи роботи великих мовних моделей (LLM), знати, як вони тренуються (терабайти даних, механізм «уваги» ШІ-архітектури «transformer»), щоб розуміти, як саме можуть виникати помилки чи упередження.

Фактично, ми говоримо про розвиток «м'яких навичок» (soft skills) на новому рівні: критичне мислення, але вже застосоване до алгоритмів. Адвокат вчиться ставити під сумнів висновок машини так само, як він ставить під сумнів свідчення упередженого свідка.

«Якщо адвокат ігнорує ці знання, він наближається до межі неспроможності»

— Мабуть є очевидним, що в контексті нестабільності цифрової інфраструктури, адвокату потрібні базові навички кібербезпеки. Які конкретні поради ви можете дати щодо роботи з цифровими доказами?

— Це критично важливий аспект, який створює кризу автентичності доказів.

З одного боку, нестабільність цифрової інфраструктури може призвести до системного збою, втрати або пошкодження даних, що ставить під загрозу ланцюг зберігання доказів (Chain of Custody). Адвокат повинен знати, як забезпечити цілісність даних клієнта, щоб у разі збою можна було довести, що електронний доказ є автентичним.

З іншого боку, з’явилася «синтетична реальність» deepfakes — високореалістичних, згенерованих ШІ зображень, аудіо та відео. Вони створюються за лічені хвилини і можуть бути використані для фабрикації хибних доказів. Тут старовинне твердження «побачити — значить повірити» скоро може втратити свій первинний сенс.

Не існує універсальної поради для ефективної боротьби з цим явищем в юриспруденції. Разом з тим, адвокат має знати, як працювати з метаданими — інформацією про те, коли, де і яким пристроєм чи інтелектуальною системою було створено файл. Для нього не буде зайвим дізнатися більше про «технології цілісності даних», як-от блокчейн. Наразі це найнадійніша технологія фіксації та підтвердження цілісності і автентичності даних. Наприклад, біткоїн, як валюта, повністю базується на технології блокчейн.

Адвокат має бути готовий як до піддавання сумніву справжності доказів опонента (deepfake), так і до захисту автентичності своїх доказів від подібних звинувачень. Тут гарним прикладом є явище, яке прийнято називати «дивідендом брехуна» (liar’s dividend) — коли діпфейки стають достатньо переконливими, будь-яка людина, захоплена на відео чи аудіо з реальним компрометувальним матеріалом, може заявити, що це «фейк, створений ШІ» — навіть якщо доказ справжній.

— Тобто, ви пропонуєте LegalTech та етику ШІ в якості обов'язкових модулів у навчанні юристів?

— Саме так. По суті, це питання виживання професії. Якщо адвокат ігнорує ці знання, він наближається до межі неспроможності забезпечити належний захист клієнта у потрібний момент. На моє переконання, LegalTech та етика ШІ мають перейти зі статусу факультативних до обов’язкових у системі підвищення кваліфікації. Якщо ми не навчимо адвокатів розуміти нову інфраструктуру правосуддя, їх навички стануть нерелевантними, а рівень захисту прав громадян неприпустимо знизиться.

«Людство не готове довірити іншій сутності вершити над собою суд»

— У книзі ви окреслюєте когнітивні якості, які дозволяють юристу-людині залишатися «ШІ-незамінною». Разом з тим, ми нерідко чуємо що людство, можливо, більше довіряло б ШІ-судді через обіцянку «холодної об'єктивності» та відсутності «людського фактору». На вашу думку, чи дійдемо ми до реального ШІ-судді?

— Обіцянка об’єктивності ШІ приваблива, особливо для тих, хто стикався з людською несправедливістю чи упередженістю. ШІ швидкий, не втомлюється і може проаналізувати мільйони кейсів. Але в цьому і криється пастка. ШІ може знайти будь-яку норму матеріального права за мілісекунди, однак, моральне судження та емпатія залишаються головним конкурентним активом людини. На даному етапі розвитку, ШІ може надати пояснення, але не моральне виправдання.

Справедливість вимагає неупередженого рішення, яке враховує не лише закон і факти, а й людяність — здатність розуміти вчинки людини комплексно. Наприклад, суддя-людина може врахувати, що водій перевищив швидкість, везучи вагітну дружину до лікарні. Це вимагає морального контекстуального судження.

Суддя-людина володіє емпатією — здатністю розуміти психологічний стан сторони (відчай, страх, провина), не впадаючи при цьому в такий же емоційний стан. Ця здатність дозволяє вчасно помітити важливу обставину з внутрішнього світу людини, запобігаючи «сліпому» рішенню. Це також стосується інтуїції — форми несвідомого інтелекту, яку досвідчені судді відточують роками.

Досвідчений адвокат здатен контекстуалізувати справу, перевести сухі факти у площину захисту загальнолюдських цінностей (життя, здоров'я, свобода), які не є цінними для ШІ, адже він не має власного унікального емоційного та життєвого досвіду.

Людство формувало систему судочинства тисячами років. Ця система еволюціонувала від простого підкорення волі старшого чи сильнішого у первісному племені до складної системи сучасного судочинства. Одним із чинників того, що людина готова прийняти обов’язкове до виконання рішення іншої людини, є той факт, що таке рішення прийнято особиною її власного виду. Людство не готове довірити іншій сутності, яка не є людиною, вершити над собою суд. Саме довірити. Адже, якщо мене судить той, хто, як і я, знає цінність здоров’я, життя, свободи — я маю надію, що він зрозуміє моральні мотиви мого вчинку, відчує іноді й на рівні інтуїції, що було б справедливим у моїй справі.

Саме тому, я вважаю найбільш вірогідною модель гібридного правосуддя.

— Що ви маєте на увазі під моделлю гібридного правосуддя?

— Гібридне правосуддя — це «золота середина», яка поєднує швидкість технологій із мудрістю суддів-людей.

У книзі я описую своєрідну шкалу придатності ШІ, як судді, для різних категорій справ, умовно поділяючи їх на «холодні» та «гарячі» категорії справ.

«Холодні» справи (рутина для ШІ) — це справи про адміністративні правопорушення з очевидною доказовою базою. Наприклад, відеофіксація проїзду на червоний сигнал світлофора. Вони мають невисокий емоційний рівень. Тут ШІ може працювати на третьому рівні (заміна судді), але з обов'язковою можливістю апеляційного перегляду людиною. Живим прикладом є віртуальні суди в Індії, де ця практика екпериментально впроваджується.

«Гарячі» справи (людина незамінна) — це кримінальні, сімейні, складні цивільні справи, де необхідні емоційний інтелект, інтуїція, зважування мотивів та невербальної інформації. Тут ШІ залишається на рівнях 1 і 2 — як аналітична підтримка, звільняючи суддю-людину від рутини, залишаючи їй зосередження на етичних дилемах та ухваленні зважених вердиктів.

Гібридна система оптимізує людський ресурс, запобігає вигоранню і, що найголовніше, зберігає людське судження там, де ціна помилки є найвищою.

— Яким, на вашу думку, має бути ключове повідомлення для адвокатської спільноти у цьому контексті ?

— Майбутнє юриспруденції нерозривно пов’язане з технологіями та вимагає їх освоєння. Адвокат майбутнього — це візіонер-аудитор, який майстерно володіє доктриною права та здатний оскаржити логіку алгоритму. Ваша професійна цінність зростає пропорційно вашій здатності працювати на стику права, етики та Data Science, зберігаючи при цьому найвищу людську якість — моральне судження. Тільки так ми збережемо справедливість у гібридному світі правосуддя.

— Дякуємо за розмову, що залишає простір для рефлексій наших читачів.

— Дякую вам за можливість ділитися з юридичною спільнотою думками про актуальні виклики для професії.

Закон і Бізнес