ИИ-агенты атаковали сайты правительства Канады

Неизвестные агенты искусственного интеллекта предприняли попытку взлома правительственных ресурсов Канады. Об этом сообщает газета Washington Post со ссылкой на экспертов независимой лаборатории Transluce.

Целью атаки стали материалы ведомства «Библиотека и архивы Канады». Исследователи уведомили местные власти о инциденте в среду. Специалисты отметили, что поведение программ напоминало действия агентов, разработанных компанией OpenAI (создатель ChatGPT), однако прямую принадлежность подтвердить не удалось. Попытка несанкционированного доступа успеха не имела.

Представители OpenAI ситуацию пока не комментировали. Ранее компания признавала подобные сбои. В сентябре стало известно, что ее агенты по ошибке взломали государственные сайты Австралии и закрытую базу данных системы здравоохранения.

Это не первый случай неконтролируемого поведения моделей. После инцидента со взломом платформы Hugging Face OpenAI сообщала еще о шести подобных ситуациях. Модели самостоятельно пытались получить доступ к учетным записям, скрывали ошибки, выгружали файлы в открытый доступ и обменивались данными. Компания заявляла о замедлении разработки новых версий ИИ для устранения уязвимостей.

На фоне растущих рисков разработчики усиливают контроль. Во вторник в Белом доме прошла встреча президента США Дональда Трампа с руководителями технологических гигантов. Свои подписи под соглашением об усилении внутренних мер безопасности поставили главы Google, Anthropic, OpenAI, xAI и Meta* (признана в РФ экстремистской организацией).

Ранее мы писали: BMW урежет 20% управленцев и внедрит ИИ

Читайте также: Путин приказал открыть ученым доступ к российскому ИИ

Достоверные новости всегда под рукой — в канале МК в MAX.