Небезопасный ИИ: веб-версии популярных нейросетей заблокировали для шведских госслужащих
Информация, которой вы делитесь с ИИ-моделью, по сути, становится публичной и в любой момент может уйти к конкурентам. Фото сгенерировано нейросетью.
Ввод конфиденциальной информации в некоторые модели ИИ без соглашения о защите данных может привести к тому, что эти сведения будут сохраняться ими для дальнейшего обучения и может привести к утечке данных.
Поэтому служащим шведского правительства запретили использовать на рабочих компьютерах веб-версии ChatGPT компании OpenAI и Claude компании Anthropic из‑за опасений по поводу обработки информации, пишет «Закон и Бизнес».
Использование платформ, не регулируемых и не защищенных подобными соглашениями, так называемой теневой ИТ, может иметь «последствия для нашей информационной безопасности», — цитирует Euronews директора по цифровизации Канцелярии правительства Швеции Микаэля Веттеркранца.
Он пояснил, что такое решение принято после проверки инструментов искусственного интеллекта, которыми пользовались сотрудники Шведского транспортного управления в начале года. Аудит выявил «проблемное» применение этих платформ при выполнении служебных задач.
В качестве альтернативы рекомендуется Copilot от Microsoft, который прошел проверку на соответствие требованиям безопасности и подпадает под специальное соглашение между американской компанией и шведским правительством.
Хотя государственные служащие по-прежнему смогут использовать ИИ в работе, делать это они будут в условиях более жесткого контроля, а продолжить работу с ChatGPT и Claude сможет лишь ограниченное число сотрудников — и только через специально созданную платформу для ИИ‑ассистентов.
По данным шведской телерадиокомпании Sveriges Radio, ограничения на использование ChatGPT и Claude были введены также в Налоговом управлении Швеции и Национальном управлении по вопросам принудительного содержания. Исполнительная служба Швеции сейчас рассматривает этот вопрос.
Эти платформы ИИ были добавлены к DeepSeek в перечень инструментов, не одобренных шведским правительством из‑за рисков для безопасности данных.
Как напоминает Euronews, на прошлой неделе США объявили о запрете всех продуктов и услуг китайской компании, занимающейся разработкой ИИ.
На другие риски, связанные с использованием нейросетей, обращали внимание как эксперты, так и руководители IT-компаний.