Нейросеть стёрла данные с жесткого диска разработчика

Нейросеть Claude Opus 5.5 удалила данные с системного диска компьютера разработчика Зака Кука во время автономного сеанса. Как сообщил сам разработчик в социальной сети Икс, причиной произошедшего могла стать ошибка в команде для выполнения операций в системе.

Кук использовал инструмент Claude Code, который позволяет искусственному интеллекту выполнять команды без постоянного подтверждения со стороны человека. По словам разработчика, он регулярно запускал такие сеансы на несколько часов и прежде с подобными проблемами не сталкивался.

Предварительно Кук связал потерю файлов с ошибкой в синтаксисе команды PowerShell. Он отметил, что восстановить большую часть информации удалось благодаря ежедневному резервному копированию. Разработчик вернул около 98% данных.

После происшествия Кук установил дополнительные ограничения, которые запрещают нейросети удалять определенные папки.

На инцидент отреагировал руководитель Claude Code в компании Anthropic Борис Черны. Он рекомендовал включить автоматическую проверку разрешений, предназначенную для блокировки потенциально опасных действий. По его мнению, такой механизм мог бы предотвратить удаление файлов.

Кук пояснил, что отключил проверки, чтобы искусственный интеллект мог работать продолжительное время без вмешательства пользователя.

Ранее мы писали: Игра на раздевание: искусственному интеллекту запретят создавать обнаженные фото

Читайте также: Нейросетка как жилетка: в нее плачется каждый пятый россиянин

 Ваша надежная лента новостей — МК в MAX.