Россия активно внедряет дезинформацию в чат-боты и ИИ-сервисы по всему миру, превращая большие языковые модели в новое поле боя своей информационной войны. В цифровую эпоху кампании по дезинформации вышли за пределы соцсетей и «фейковых новостей», превратившись в полноценный инструмент влияния. Источник: Euvsdisinfo
Кремль обучает большие языковые модели (LLM) воспроизводить манипулятивные нарративы и дезинформацию, включая ложные сведения о войне в Украине, которые затем интегрируются в ответы чат-ботов, таких как ChatGPT. Эксперты называют это «грумингом LLM».
Во Франции в 2024 году агентство Viginum выявило сеть «Правда», создающую низкокачественный контент, перефразирующий ложные заявления российских СМИ и прокремлевских источников. Основными целями стали Украина, США, страны Европы и некоторые государства Африки. Масштаб создаваемого контента гарантирует, что ИИ учитывает российские дезинформационные нарративы при формировании ответов.
Система NewsGuard Reality Check показала, что шесть из десяти протестированных чат-ботов повторяли ложные утверждения сети «Правда». Доля дезинформации в ведущих чат-ботах выросла с 18% в 2024 году до 35% в 2025 году. Эти нарративы связаны с прокремлёвской кампанией «Шторм-1516», продолжением деятельности бывшего «Агентства интернет-исследований», известного вмешательством в выборы США 2016 года.
Попытки России внедрить дезинформацию в ИИ представляют серьёзную угрозу глобальной безопасности. Они искажают общественное мнение, подрывают доверие к информации и распространяют ложные сообщения в беспрецедентных масштабах. По словам экспертов, даже относительно надежные платформы, такие как Википедия, подвергаются влиянию через сеть «Правда».
С ростом роли чат-ботов и ИИ в проверке фактов эти кампании становятся критической проблемой. Автоматизация и масштабирование операций затрудняют их обнаружение, подрывая демократическую устойчивость. Претензия России на лидерство в области ИИ строится преимущественно на американских и китайских моделях, при этом Москва использует импортное программное обеспечение для расширения влияния в цифровом пространстве.
Ранее сообщалось, что Россия и Китай используют искусственный интеллект для эскалации кибератак на США.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet