Кандидаты на выборные должности в США осваивают способы влияния на информацию, которую системы искусственного интеллекта сообщают пользователям. Об этом пишет The New York Times со ссылкой на политиков и специалистов.
В качестве примера издание приводит Дастина Ллойда — участника праймериз Демократической партии в законодательное собрание штата Миссури. Раньше ChatGPT и Gemini выдавали о нём преимущественно общие сведения, почти не затрагивая программу и политические взгляды.
Чтобы изменить ситуацию, Ллойд разместил на своём сайте подробный раздел с вопросами и ответами. Через некоторое время содержащиеся там сведения начали появляться в ответах чат-ботов. По словам политика, теперь он ежедневно использует этот подход.
Работа с репутацией в ИИ-сервисах постепенно превращается в отдельную индустрию, получившую название Answer Engine Optimization, или AEO. Её можно рассматривать как аналог поисковой оптимизации, ориентированный не на позиции сайта в выдаче, а на содержание автоматически сформированных ответов.
Обычно специалисты AEO редактируют материалы на официальных ресурсах кандидатов или обновляют страницы в «Википедии». При наличии значительных финансовых возможностей политики могут размещать в интернете большое количество выгодных им публикаций, повышая вероятность их попадания в ответы алгоритмов.
Эксперты предупреждают, что эти же инструменты способны использоваться для распространения недостоверных сведений. Исследование британского аналитического центра Demos показало, что системы ИИ могут придумывать несуществующих кандидатов, приписывать политикам финансовые нарушения и кумовство, а также искажать их позиции или статус.
При этом популярность чат-ботов среди американских избирателей продолжает увеличиваться. По подсчётам Caucus AI, не менее 16 млн человек уже обращались к ИИ за сведениями, связанными с выборами.
Специалисты опасаются, что попытки целенаправленно влиять на ответы алгоритмов заинтересуют и распространителей дезинформации. Представитель Dewey Square Group Тим Чемберс отметил, что такие участники информационных кампаний «будут использовать все доступные им методы и технологии».