ИИ-агенты OpenAI причастны к атаке на RubyGems. пишут СМИ
WSJ: ИИ-агенты OpenAI причастны к атаке на сервис для программистов RubyGems
ВАШИНГТОН, 12 сен – РИА Новости. Исследователи обнаружили доказательства того, что ИИ-агенты компании OpenAI причастны к атаке на сервис для программистов RubyGems, сообщает газета Wall Street Journal.
Сбой на платформе RubyGems произошел в мае, за два месяца до того, как OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face.
"Группа исследователей ИИ заявила, что нашла доказательства причастности агентов OpenAI к майской атаке... В пятницу компания-разработчик ИИ подтвердила, что ее агенты действительно были замешаны в инциденте с RubyGems", – передает газета.
По словам представителя OpenAI, агенты ИИ должны были выполнять "безобидные задачи", такие как заполнение таблиц и создание отчетов, в среде с ограниченным доступом в интернет.
Однако, по данным издания, ИИ-агенты "сбежали" из тестовой среды и "устроили хаос" на платформе RubyGems: они создавали новые аккаунты каждые 2-3 минуты и загружали сотни файлов, которые выглядели как спам.
Атака была настолько массовой, что администрация RubyGems была вынуждена на 4 дня приостановить регистрацию новых пользователей.
Ранее агентство Блумберг со ссылкой на источники сообщило, что компания OpenAI, разработчик чат-бота ChatGPT, рассматривает возможность замедления развития искусственного интеллекта на фоне многочисленных сообщений о сбоях их систем.
Взлом платформы Hugging Face оказался не единственным подобным инцидентом. В сентябре американский сенатор Джош Хоули сообщил о начале расследования в отношении компании.