Служба по защите персональных данных Испании (AEPD) получила первое сообщение о нарушении конфиденциальности и краже личных данных, предположительно совершенном с помощью искусственного интеллекта (ИИ). Об этом сообщает Reuters.
По данным AEPD, инцидент произошел с участием ИИ-агента, который использовал крупную языковую модель для выявления уязвимостей, получения доступа к системе и изменения персональных данных. Агент также получил доступ к счетам-фактурам.
В ведомстве отметили, что использование конкретной модели не означает, что сама модель или инфраструктура ее поставщика были скомпрометированы. Названия модели и пострадавшей организации не раскрываются.
AEPD подчеркнуло, что случай важен, так как третья сторона применила автономную систему для нескольких этапов атаки с минимальным участием человека. Издание также пишет, что ИИ не создает новых угроз, но увеличивает скорость, масштаб и адаптивность вредоносных методов.
Регуляторы в США и Европе уже начали усиливать контроль за рисками таких систем. Так на неделе главы крупных ИИ-компаний, а также основатель Microsoft Билл Гейтс призывали усилить регулирование нейросетей.
Читайте также: