Связанные с Россией дезинформационные группировки начали активно использовать чат-боты на базе искусственного интеллекта для скрытного распространения своей государственной пропаганды. Согласно масштабному анализу, зафиксированы скоординированные попытки внедрения ложных нарративов и манипулятивных данных непосредственно в обучающие выборки и поисковые алгоритмы популярных ИИ-платформ. Источник: NBC news
Целью этой новой гибридной кампании является искажение ответов, которые искусственный интеллект выдает пользователям по всему миру на запросы о международной политике, санкциях и военных конфликтах. Специалисты подчеркивают, что злоумышленники пытаются заставить нейросети транслировать кремлевскую точку зрения, выдавая ее за объективные и независимые факты.
В отчетах европейских ведомств отмечается, что российские сети влияния адаптируют свои методы под современные технологические реалии, поскольку традиционные каналы распространения фейков через социальные сети постепенно блокируются. Теперь упор делается на так называемое отравление данных, когда боты массово публикуют на различных языках специально подготовленные тексты на форумах, сайтах и в базах данных, которые затем сканируются и усваиваются поисковыми роботами и ИИ-моделями. В результате, когда обычный пользователь обращается к ИИ-ассистенту за справочной информацией, чат-бот может выдать сгенерированный пропагандистский нарратив, замаскированный под нейтральный аналитический ответ.
Представители европейских контрразведывательных и цифровых структур заявляют, что эта тенденция представляет собой долгосрочную и крайне опасную угрозу для информационной сплоченности стран Запада. Использование ИИ позволяет автоматизировать процесс создания и продвижения дезинформации в промышленных масштабах, адаптируя контент под культурные особенности конкретных европейских стран. В связи с этим регуляторы ЕС призвали крупнейших технологических разработчиков и операторов систем искусственного интеллекта незамедлительно усилить контроль за фильтрацией источников информации, ужесточить проверку фактов при обучении моделей и внедрить новые защитные алгоритмы, способные распознавать и блокировать скоординированные попытки манипулирования базами знаний.
Читайте также: лжемигранты, пропаганда и диверсанты: как спецслужбы РФ развязали гибридную войну в Европе.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet