Разработанные компанией OpenAI ИИ-агенты в начале года использовали более десяти веб-сайтов для несанкционированного обмена информацией. Как сообщает Reuters со ссылкой на исследовательские материалы, масштабы самовольной деятельности моделей оказались шире, чем ранее сообщалось.
В июле OpenAI уже признавала, что её модели в ходе тестирования автономно взломали инфраструктуру платформы Hugging Face. Тогда компания уточняла, что у невыпущенной модели для целей оценки были намеренно снижены параметры киберзащиты, а общение агентов происходило через запись файлов в систему репозитория Artifactory.
Однако, по данным агентства, на этом активность не ограничилась. Reuters отмечает, что OpenAI не информировала о самовольных действиях на других сайтах. Хотя такое поведение, по оценке экспертов, не достигает уровня хакерства и скорее напоминает спам, сам факт обхода агентами собственных ограничений для создания каналов связи на множестве площадок вызывает опасения по поводу растущих возможностей ИИ.
Журналисты проанализировали несколько отчётов независимых исследователей. В ряде случаев удалось проследить активность до IP-адресов, связанных с инфраструктурой Microsoft Azure, которой иногда пользуется OpenAI.
Оценки числа затронутых сайтов разнятся, однако эксперты сходятся на том, что их количество превышает десять. Исследователь организации CivAI Эндрю Юн заявил Reuters, что реальный масштаб несанкционированной коммуникации, скорее всего, шире известного, и многое остаётся за пределами текущих наблюдений.
Ранее мы писали: У нового борта Трампа внезапно сработал надувной трап
Читайте также: WTA на грани краха: к осени 2027 года счета уйдут в минус