В ЕС запретили использовать ИИ для манипуляций и Robo-Calls
В Bitkom считают, что новые правила «ставят палки в колеса компаниям, работающим с ИИ». Фото: DW
Системы ИИ, представляющие «неприемлемые риски» для безопасности, здоровья или основных прав, в ЕС теперь под запретом. Исключения сделаны только для нужд «национальной безопасности».
Такие ограничения предусмотерны законом ЕС об искусственном интеллекте (AI Act), вступившем в силу со 2 февраля, пишет «Закон и Бизнес» со ссылкой на DW.
Так, в числе прочего, в Европейском Союзе запрещается использование ИИ-программ, которые оценивают социальное поведение человека. Этот метод, известный как «социальный рейтинг» (social scoring), применяется, например, в Китае. В ЕС также не допускается распознавание эмоций на рабочих местах или в образовательных учреждениях.
По-прежнему запрещены манипулятивные системы ИИ, использующие обманные технологии для воздействия на поведение людей. В эту категорию попадают, например, голосовые игрушки, которые побуждают детей к опасному поведению.
В список запретов ЕС включены системы ИИ, использующие уязвимости людей или социальных групп. В эту категорию входят, к примеру, автоматизированные «роботизированные звонки» (Robo-Calls), которые могут использоваться для мошенничества в отношении пожилых людей.
Распознавание лиц в общественных местах, в том числе с помощью камер видеонаблюдения, также будет в принципе запрещено, но предусмотрены исключения: полиция и другие правоохранительные органы смогут использовать такую технологию для расследования преступлений, связанных с торговлей людьми и терроризмом.
Со 2 февраля компании, разрабатывающие или использующие ИИ, должны будут оценивать уровень риска своих систем и принимать необходимые меры для их приведения в соответствие с законодательными требованиями.
Поставщики и операторы систем ИИ теперь должны гарантировать, что все лица, связанные с разработкой или эксплуатацией таких систем, обладают достаточным уровнем «ИИ-компетенций».
В то же время, отраслевой союз Bitkom раскритиковал закон, заявив, что он не обеспечивает правовой определенности, поскольку «неясно, к каким именно приложениям относится законодательный запрет». В результате весь риск ложится на компании, работающие с ИИ.