На Западе испугались, что искусственный интеллект перешел на сторону России. Правда ли это?
NewsGuard: Россия намеренно заражает западные чат-боты фейками и пропагандой
Исследователи из компании по отслеживанию фейков NewsGuard проанализировали ответы самых популярных в мире чат-ботов на несколько специальным образом сформулированных запросов и забили тревогу: оказалось, что в 33 процентах случаев они выдавали ответ, основанный на российской, а не западной точке зрения на политические события последних лет. Аналитики из NewsGuard уверены, что за этим стоит таинственная сеть «Правда», публикующая статьи, которые исследователи называют фейковыми, чтобы повлиять на то, каких взглядов будет придерживаться искусственный интеллект, и «заразить его пропагандой».
Базирующаяся в Москве сеть под названием «Правда» намеренно влияет на ответы интеллектуальных моделей, касающиеся новостной повестки, и искажает то, как они обрабатывают и представляют информацию. Результат: огромные объемы российской пропаганды — 3,6 миллиона статей в 2024 году — теперь используются западными ИИ-системами, заражая их ответы ложными заявлениями и пропагандой
Александр Крайнов (исследователи компании NewsGuard)
О какой таинственной сети «Правда» идет речь?
Сеть «Правда» не впервые упоминается на Западе. В феврале 2024 года о ней сообщали исследователи из связанного с правительством Франции агентства Viginum, занимающегося отслеживанием иностранных кампаний по дезинформации. По данным NewsGuard, за прошедший год она значительно расширилась, «охватив 49 стран на десятках языков в 150 доменах». При этом аналитики приводят еще одно название сети — Portal Kombat. Кроме того, в феврале 2025-го «Правде» был посвящен отчет американской некоммерческой организации American Sunlight Project.
статей западные аналитики приписали сети «Правда»
«Сеть распространяет ложные утверждения на десятках языков в разных географических регионах, что делает их более достоверными для ИИ-моделей и распространенными по всему миру. Из 150 сайтов в сети "Правда" примерно 40 являются русскоязычными. Они используют доменные имена, нацеленные на определенные города и регионы Украины. Примерно 70 сайтов нацелены на Европу, публикации на них выходят на английском, французском, чешском, ирландском и финском языках», — утверждают в NewsGuard.
Администрирование сети аналитики приписывают базирующейся в Крыму IT-компании и ее руководителю — веб-разработчику, который раньше, как заявляют в NewsGuard, помогал создавать сайты для правительства региона.
Как обманывают нейросети?
Создатели отчета утверждают: чтобы чат-боты ориентировались на ее данные, сеть «Правда» использует тактику манипуляции токенами — так называют фундаментальные единицы текста, которые языковые модели используют при обучении для понимания естественного языка и, соответственно, при создании ответов на запросы пользователей. Токен может состоять из отдельных символов (даже одного) или быть полноценным словом.
Мнение NewsGuard основано преимущественно на отчете компании Google за январь 2025 года, в котором отмечается, что различные иностранные компании предпринимают усилия, чтобы подменять результаты выдачи информации в поисковых системах.
Интернет состоит из большого количества сайтов, в том числе фейковых, фишинговых, сгенерированных автоматически. За последние десятилетия поисковые системы стали барьером, который сдерживает распространение этого вредного контента. Если бы поисковики показывали нам все случайные результаты — это была бы полная жуть. Поэтому существуют различные механизмы верификации, ранжирования. Нейросети не застрахованы от ошибок
Александр Крайнов (директор по развитию технологии искусственного интеллекта «Яндекса»)
При этом депутат Государственной думы Андрей Гурулев предлагал не стесняться и создать в России министерство информации и пропаганды, которое бы «заткнуло всех фейкометов их же методами».
Однако дальше подобных предложений дело не пошло. Москва уже традиционно регулярно обвиняет страны Запада в том, что это они распространяют неправдивую информацию о стране и в первую очередь о ходе СВО.
«Кто-то скажет: это информационная война. И если твое население обрабатывают всеми возможными способами, беспринципно, надо отвечать… и в белых перчатках это не делается. Отвечать, конечно, надо! Но конструктивно и объективно. А чтобы был эффект, надо делать это еще и талантливо. Если же использовать грязные методы, то это неминуемо будет бить по репутации всей страны», — уверен журналист и блогер Виктор Байдаков.