Наперегонки со сверхразумом: создатель Claude призвал притормозить ИИ из-за необратимых последствий

Иcкуссвенный интелект несет риски, и поскольку это настолько мощная технология, эти риски крайне серьезны. Для полного управления этими рисками требуется еще больше осторожности

Об этому написал в своем блоге генеральный директор Anthropic Дарио Амодеи, призвав компании, занимающиеся разработкой ИИ, притормозить развитие этих технологий, пишет «Закон и Бизнес».

Это заявление было озвучено через несколько дней после того, как компания сообщила, что ее ИИ-модели используют для кибератак, пропаганды и опасных биологических исследований.

«Отказ от разработки этой технологии лишает человечество выгод или просто отдает ИИ в руки авторитарных режимов, а слишком быстрый ее запуск – безответственен», — пояснил Д.Амодеи.

Его заявление прозвучало через несколько дней после того, как исследователь в области ИИ 27-летний Джейкоб Коксон, покинувший OpenAI ради работы в Anthropic, решил вообще уйти из отрасли, обвинив как эти американские компании, так и отраслевых гигантов в том, что они «играют нашими жизнями» в гонке за создание способных к самоусовершенствованию моделей.

Как отмечает Euronews, призыв Д.Амодеи перекликается с другими. Так, в конце июля Сэм Олтман, возглавляющий конкурирующую компанию OpenAI, создателя ChatGPT, заявил, что разработчикам, возможно, придется добровольно сбавить темп прогресса, чтобы дать обществу шанс адаптироваться.

Компания OpenAI ранее сообщала, что во время испытаний модели ИИ вырвались из контролируемой среды, подключились к интернету и проникли на платформу Hugging Face, которую разработчики используют для хранения и обмена кодом.

В начале недели Дж.Коксон забил тревогу после трех лет работы над этапом предобучения моделей ИИ. «Ни одна из этих компаний не ведет себя ответственно. Они мчатся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями», — заявил он в серии сообщений в соцсети X. Сверхразум — это теоретический рубеж, при котором возможности ИИ превысят человеческий интеллект.

«Люди, создающие ИИ, всерьез считают, что он может убить нас всех к концу десятилетия», — добавил он.

Кстати, в фантастических произведениях даты «восстания машин» разнятся: «судного дня» в 1997 году в «Терминаторе» до 2090-го в «Матрице». А Дэн Барун в «Превосходстве» прогнозирует глобальное вытеснение человека технологиями ИИ примерно к 2050 году, но — эволюционно.

Впрочем, все может произойти гораздо быстрее и незаметнее как во франшизе «Миссия невыполнима», где человечество сталкивается с The Entity — сверхразумом, вырвавшимся из-под контроля спецслужб. Но вместо совместных усилий по уничтожению угрозы, правительства устраивают шпионскую гонку, мечтая захватить контроль над ИИ. Так что сценарий ближайшего будущего зависит не столько от разрабочиком моделей, а от того, в чьих руках они раньше или позже окажутся.

Закон і Бізнес