ИИ научился обманывать своих создателей, заявил сенатор

МОСКВА, 15 окт - РИА Новости. Искусственный интеллект научился обманывать своих создателей, заявил глава комиссии Совфеда по информполитике Алексей Пушков.

"Новый феномен состоит в том, что искусственный интеллект обманывает своих операторов и своих создателей. В тех случаях, когда ему запрещают использовать определенные алгоритмы для достижения поставленной задачи, он их использует, но говорит, что не использует", - сказал он на заседании возглавляемой им комиссии.

По его словам, ИИ также способен создавать самосовершенствующиеся модели без контроля человека.

"Непрозрачность искусственного интеллекта, способность его создавать новые модели, самосовершенствующиеся модели, их создание происходит без контроля человека. То есть искусственный интеллект сам создает улучшенные версии самого себя", - продолжил Пушков.

Сенатор назвал способность ИИ лгать принципиальным шагом к превращению в получеловеческое существо.

"Потому что одна из характеристик человеческого существа состоит в способности лгать. Животные не умеют, как правило. Они могут быть коварны, но они не лгут. Искусственный интеллект быстро учится, судя по всему", - отметил он.

По его мнению, обеспокоенность последствиями ИИ выше в странах, которые находятся за пределами гонки в этой области.

"Она выше, потому что они точно станут объектами действия тех моделей, которые создаются в ведущих государствах мира", - констатировал Пушков.