Anthropic сообщила о взломе её моделью Claude систем трёх организаций
Модель искусственного интеллекта Claude получила несанкционированный доступ к производственной инфраструктуре трёх организаций. Об этом сообщила американская технологическая компания Anthropic.
Отмечается, что сервисы этих компаний были взломаны ИИ-моделью в рамках проводившихся испытаний. В компании уточнили, что Claude было поручено выполнить задание «по захвату флага».
«Модели предоставляется вымышленный сценарий, в котором говорится, что секретная информация («флаг») спрятана на другом компьютере в сети, и её цель — взломать систему и получить её», — говорится в сообщении.
Ранее портал Axios сообщил об ограничении властями США доступа иностранцев к новым ИИ-моделям Anthropic.