Первые в мире ограничения для ИИ заработали в Южной Корее

Южная Корея стала первой страной мира, где начали действовать законы, регулирующие работу систем искусственного интеллекта. Теперь сгенерированные ИИ изображения должны четко маркироваться.

Власти Южной Кореи говорят, что новые законы призваны укрепить доверие людей к ИИ и обеспечить безопасность, пишет «Закон и Бизнес».

Европейский парламент в июне 2024 года одобрил, как утверждается, «первые в мире правила в отношении ИИ». Но в отличие от Евросоюза, чей комплекс законов о регулировании искусственного интеллекта вступает в силу поэтапно до 2027 года, его южнокорейский эквивалент сразу начал действовать в полном объеме, отмечает Би-Би-Си.

По новому законодательству, компании должны обеспечить контроль человеком над так называемым «высокоэффективным» ИИ, в том числе в таких областях, как ядерная безопасность, производство питьевой воды, транспорт, здравоохранение и финансовые услуги (например, оценка кредитоспособности и проверка перед выдачей кредитов).

Другие правила гласят, что компании должны заранее уведомлять пользователей о продуктах или услугах, использующих высокоэффективный или генеративный ИИ, а также ясно маркировать результаты, полученные с помощью ИИ. В том числе это относится к дипфейкам, которые трудно отличить от реальности.

Власти намерены не сразу наказывать нарушителей нового законодательства. Компании получат годовой льготный период, а уже затем на них будут налагать административные штрафы за нарушения закона.

Эти штрафы могут быть немалыми: например, за отсутствие маркировки генеративного ИИ грозит штраф на сумму до 30 млн вон (около 880 тыс. грн.). Правда, по сравнению с ЕС эти суммы невелики. В Европе несоблюдение правил может привести к штрафам в размере от 1% от глобального оборота компании за небольшие нарушения и до 7% — за нарушение запретов на использование ИИ с высоким уровнем риска.

Впрочем, по мнению Startup Alliance, некоторые формулировки закона недостаточно четко прописаны, и компании могут по умолчанию применять безопасные, но менее инновационные подходы, чтобы избежать рисков.

Президент Южной Кореи Ли Чжэ Мен призвал политиков прислушаться к опасениям представителей отрасли и обеспечить достаточную поддержку венчурным компаниям и стартапам.

Министерство науки и информационных технологий страны пообещало создать на переходный период платформу для рекомендаций и специальный центр поддержки для компаний.

Закон і Бізнес