Он отметил, что именно эти схемы самые прибыльные и самые разрушительные по сумме ущерба на одну жертву.
«В России точная статистика по ИИ-мошенничеству не выделяется в отдельный массив, но, по нашим оценкам, до 90% кибергруппировок, работающих по модели социальной инженерии, так или иначе используют нейросети — для генерации текстов, аудиовизуального контента, создания фишинговых сайтов или автоматизации скриптов звонков», — рассказал Бедеров.
Специалист также разъяснил, как именно ИИ может быть использован в мошеннических схемах.
«Я бы выделил пять основных направлений в мошенничестве, в которых активно применяется ИИ. Это вишинг нового поколения с использованием клонирования голоса, видеодипфейки в реальном времени, гибридные схемы «руководитель — силовик». Кроме того, ИИ применяется для первичной отработки жертв, а также генерации фишингового контента и сайтов», — добавил киберэксперт.
Отвечая на вопрос, может ли человек распознать ИИ по каким-либо отличительным признакам, собеседник RT уточнил, что люди распознают качественные видеодипфейки лишь в 24,5% случаев. А голосовое клонирование перешло «порог неразличимости» и человек на слух уже не может надёжно отличить клонированный голос от настоящего.
«Тем не менее определённые маркеры пока существуют. В их числе неестественная смена интонации или манеры речи, особенно на стыках фраз, неестественные движения лица и тела, особенно рта и глаз, избыточная правильность в стиле и речи», — перечислил Бедеров.
Однако рассчитывать на глазок отличить качественный дипфейк от реальности — опасная иллюзия.
«Стратегия должна быть не в распознавании подделки, а в верификации источника. Договоритесь с близкими о кодовом слове. Проверяйте любую просьбу о деньгах через отдельный, независимый канал. Ограничьте объём личной информации в открытом доступе. Не доверяйте срочности. Искусственное ограничение по времени — классический инструмент социальной инженерии, и ИИ его только усилил», — заключил киберэксперт.
Ранее главный редактор аналитического издания Runet Владимир Зыков рассказал, что мошенники могут копировать манеру письма с помощью ИИ.
Подробнее — в материале RT.