Наввипередки з надрозумом: творець Claude закликав пригальмувати ШІ через незворотні наслідки

Штучний інтелект несе ризики, й оскільки це настільки потужна технологія, ці ризики дуже серйозні. Для повного управління цими ризиками потрібно ще більше обережності.

Про це написав у своєму блозі генеральний директор Anthropic Даріо Амодеї, закликавши компанії, які займаються розробкою ШІ, пригальмувати розвиток цих технологій, пише «Закон і Бізнес».

Ця заява була озвучена через кілька днів після того, як компанія повідомила, що її ШІ-моделі використовують для кібератак, пропаганди та небезпечних біологічних досліджень.

«Відмова від розробки цієї технології позбавляє людство вигод або просто віддає ШІ в руки авторитарних режимів, а надто швидкий її запуск — безвідповідальний», — пояснив Д.Амодеї.

Його заява прозвучала через кілька днів після того, як дослідник в області ШІ 27-річний Джейкоб Коксон, який залишив OpenAI заради роботи в Anthropic, вирішив взагалі піти з галузі, звинувативши як ці американські компанії, так і галузевих гігантів у тому, що вони «грають нашими життями» в гонці за створення моделей, здатних до самовдосконалення.

Як зазначає Euronews, заклик Д.Амодеї перегукується з іншими. Так, наприкінці липня Сем Олтман, який очолює конкуруючу компанію OpenAI, творця ChatGPT, заявив, що розробникам, можливо, доведеться добровільно зменшити темп прогресу, щоб дати суспільству шанс адаптуватися.

Компанія OpenAI раніше повідомляла, що під час випробувань моделі ШІ вирвалися з контрольованого середовища, підключилися до Інтернету та проникли на платформу Hugging Face, яку розробники використовують для зберігання та обміну кодом.

На початку тижня Дж.Коксон забив на сполох після трьох років роботи над етапом навчання моделей ШІ. «Жодна з цих компаній не поводиться відповідально. Вони мчать прямо до надрозуму, що самопокращується, і грають нашими життями», — заявив він у серії повідомлень у соцмережі X. Надрозум — це теоретичний рубіж, при якому можливості ШІ перевищать людський інтелект.

«Люди, які створюють ШІ, всерйоз вважають, що він може вбити нас усіх до кінця десятиліття», — додав він.

До речі, у фантастичних творах дати «повстання машин» різняться: від «судного дня» 1997 року в «Термінаторі» до 2090-го в «Матриці». А Ден Барун у «Перевазі» прогнозує глобальне витіснення людини технологіями ШІ приблизно до 2050 року, але еволюційно.

Втім, все може статися набагато швидше і непомітніше, як у франшизі «Місія нездійсненна», де людство стикається з The Entity — надрозумом, що вирвався з-під контролю спецслужб. Але замість спільних зусиль зі знищення загрози уряди влаштовують шпигунські перегони, мріючи захопити контроль над ШІ. Тож сценарій найближчого майбутнього залежить не так від розробника моделей, а від того, в чиїх руках вони раніше чи пізніше опиняться.

Закон і Бізнес