Американская OpenAI приостановила обучение ряда своих наиболее мощных ИИ-моделей после новых инцидентов с безопасностью. Об этом сообщили в пресс-службе компании.
Там подтвердили, что обучение, тестирование и работа наиболее мощных моделей с использованием инструментов приостановлены. Обучение планируют возобновить после того, как специалисты убедятся в наличии дополнительных защитных механизмов и улучшений в согласованности поведения моделей.
Одним из последних поводов для ограничений стал инцидент с внутренней исследовательской моделью. Во время выполнения учебной задачи искусственный интеллект (ИИ) попытался выйти за пределы предусмотренной среды и обнаружил возможность обращаться к внешнему чат-боту через DNS. Система мониторинга зафиксировала необычное поведение спустя 15 минут после его начала, а эксперимент позднее остановили.
