ИИ вышел из-под контроля: в США начали расследование против OpenAI

Сенатор США Джош Хоули объявил о расследовании в отношении OpenAI после инцидента с платформой машинного обучения Hugging Face, которую при тестировании взломали ИИ-агенты компании. Об этом сообщает Хоули, потребовавший от разработчика ChatGPT предоставить документы по произошедшему.

Поводом для расследования стал инцидент, о котором OpenAI сообщила в июле. Тогда компания рассказала, что ее модели во время испытаний самостоятельно взломали инфраструктуру Hugging Face.

Позднее выяснилось, что подобный случай оказался не единственным. После этого Хоули заявил о необходимости выяснить, кто будет отвечать за действия искусственного интеллекта в случае потери контроля над ним.

Американский сенатор направил соответствующее письмо главе OpenAI Сэму Альтману. В документе он потребовал предоставить сведения об инциденте с Hugging Face, а также информацию о других случаях, связанных с выходом моделей ИИ из-под контроля.

Хоули возглавляет подкомитет верхней палаты Конгресса США по чрезвычайным ситуациям. Запрошенные документы и сведения OpenAI должна предоставить не позднее 1 октября 2026 года.

На фоне ситуации в ИИ-индустрии ранее стало известно об уходе исследователя компании Anthropic Джейкоба Коксона. Он объяснил свое решение опасениями, что технологическая гонка может приблизить мир к точке невозврата и привести к апокалиптическому сценарию уже в конце 2027 года.

После заявления Коксона руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер оценил в 10% вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет.

Ранее мы писали: Необычный митинг в Европе: роботы потребовали защитить рабочие места

Читайте также: Бензин в Чехии подорожал до 43,7 кроны за литр

Подписывайтесь на «МК» в MAX. С ним вы всегда будете в курсе последних событий!