Российские структуры начали масштабную кампанию по внедрению пропаганды и дезинформации непосредственно в обучающие наборы данных для систем искусственного интеллекта. Источник: InsightNews
Эксперты по кибербезопасности предупреждают о новой угрозе — «отравлении» алгоритмов, которые лежат в основе популярных чат-ботов и поисковых систем. Цель этой стратегии заключается в том, чтобы сделать российские нарративы неотъемлемой частью ответов ИИ, заставляя нейросети выдавать искаженную информацию за объективные факты.
Механизм этой операции строится на использовании огромного количества автоматизированных аккаунтов и специализированных сайтов, которые генерируют контент, оптимизированный специально для парсеров — программ, собирающих данные для обучения ИИ.
Россия создает миллионы статей, постов и комментариев на разных языках, в которых продвигаются нужные Кремлю нарративы. Поскольку разработчики нейросетей используют для обучения открытые данные из интернета, эти манипулятивные тексты попадают в «мозг» искусственного интеллекта. В результате, когда пользователь спрашивает ИИ о международных конфликтах или политических событиях, алгоритм может выдать ответ, основанный на подготовленной дезинформации, полагая, что это общепринятая точка зрения.
Специалисты отмечают, что такая тактика гораздо опаснее традиционных ферм троллей, так как она нацелена на сам фундамент современных технологий. Если раньше пропаганда была направлена на людей в соцъсетях, то теперь она пытается изменить логику работы программных продуктов, которыми пользуются миллионы людей по всему миру. Это создает долгосрочную угрозу, так как однажды усвоенная «отравленная» информация крайне сложно вычищается из структуры обученной модели. Расследователи подчеркивают, что российские специалисты по информационным операциям детально изучили принципы работы алгоритмов ранжирования и сбора данных, что позволяет им эффективно вбрасывать нужные смыслы в цифровое пространство.
Также РФ создала целые сети подставных новостных ресурсов, которые выглядят как авторитетные региональные СМИ. Эти сайты перепечатывают друг друга, создавая иллюзию подтвержденности информации из нескольких источников. Искусственный интеллект воспринимает такую повторяемость как признак достоверности. Эксперты призывают технологические компании пересмотреть подходы к фильтрации данных для обучения и внедрить более жесткие механизмы верификации источников, чтобы предотвратить превращение ИИ в инструмент глобальной манипуляции общественным мнением. Ситуация осложняется тем, что темпы генерации дезинформации со стороны России постоянно растут, опережая возможности защитных систем по ее выявлению и блокировке.
Читайте также: Россия усиливает операции влияния через дипфейки и соцсети — отчет
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet