ВАШИНГТОН, 11 сен – РИА Новости. Американские лидеры в разработке искусственного интеллекта работают над созданием системы экстренной защиты от вышедших из-под контроля алгоритмов с помощью других инструментов ИИ, сообщает портал Axios.
Вопросы безопасности при разработке искусственного интеллекта вновь оказались в центре внимания после того, как ранее на этой неделе исследователь из компании Anthropic Джейкоб Коксон объявил о своем уходе из индустрии, объяснив это тем, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года.
"Компании могут отключать отдельные серверы, от которых зависит ИИ, но по-настоящему мощные системы работают на множестве компьютеров и платформ. Единого рубильника, который можно дернуть, не существует. Именно поэтому компании экспериментируют с многоуровневой защитой, способной выявлять подозрительное поведение, останавливать агентов и отрезать вышедших из-под контроля агентов от ресурсов, необходимых им для продолжения работы", - передает портал.
Представители OpenAI сообщили, что их цель – создание "полностью автономных процедур отключения при серьезных проблемах". Наблюдатель на базе искусственного интеллекта предупредит сотрудников, если поведение ИИ-агентов покажется ему опасным, и отключит систему в течение 30 минут, если угроза подтвердится.
Anthropic делает ставку на тандем человека и ИИ: алгоритмы следят за подозрительной активностью и оповещают сотрудников об ошибках в работе системы. Однако, как следует из материала, во время последних тестов автоматизированный мониторинг смог распознать лишь 50% угроз.
Ведущий специалист Пентагона по технологиям Эмиль Майкл ранее заявил, что опасения о том, что ИИ может уничтожить человечество, объясняются страхом перед переменами.
Президент США Дональд Трамп также заявлял, что восстание машин из-за развития искусственного интеллекта не произойдет, но на случай угрозы найдется "другое маленькое приспособление".