Фабрики троллей России и Китая активно используют искусственный интеллект для усиления своих операций влияния, улучшения качества контента, расширения многоязычного охвата и модернизации визуального оформления, а не просто для наращивания объемов публикаций. Эксперты портала GBHackers провели детальное исследование фейковых аккаунтов, поддерживающих Россию и Китай, на платформе X за период с 2024 по 2026 год. Для выявления скрытых сетей влияния использовался продвинутый алгоритм машинного обучения, сочетающий в себе кластеризацию без учителя и классификаторы с учителем, предварительно обученные на сигналах, размеченных человеком. В ходе исследования данный конвейер машинного обучения продемонстрировал высокую эффективность, достигнув средней точности 86 процентов и полноты 83 процентов при определении вероятных поддельных учетных записей. Источник: Letsdatascience
Анализ собранных данных показал, что медианный объем и частота публикаций в этих сетях ботов снизились примерно на 50 процентов в период с 2024 по 2026 год, в то время как количество активных поддельных аккаунтов оставалось стабильным и составляло от 5000 до 11000 единиц на одну группу злоумышленников. В то же время специалисты зафиксировали резкий рост числа оригинальных постов, содержащих различные изображения. В аккаунтах, поддерживающих Россию, использование визуального контента возросло более чем в четыре раза, а в аккаунтах, поддерживающих Китай, этот показатель увеличился вдвое. При этом значительную часть опубликованных изображений эксперты уверенно идентифицируют как сгенерированные с помощью искусственного интеллекта. Замеченный сдвиг от массового автоматического размещения текстового спама к созданию более качественного мультимодального контента отражает новую глобальную тенденцию в IТ-отрасли.
«Фабрики троллей» применяют генеративные модели для максимизации убедительного воздействия на аудиторию, одновременно уменьшая количество шума и помех, которые обычно запускают алгоритмы автоматической модерации социальных сетей.
Также компания OpenAI выпустила публичный отчет, сообщив, что ей удалось выявить и полностью пресечь пять тайных операций по оказанию влияния, напрямую связанных с Россией, Китаем, Ираном и Израилем. Организаторы этих кампаний использовали коммерческие инструменты OpenAI для генерации качественного многоязычного текста, создания фейковых биографий для учетных записей, подбора убедительных комментариев в социальных сетях, написания полноценных статей, отладки программного кода, генерации картинок и осуществления точных переводов. Главный исследователь группы разведки и расследований OpenAI Бен Ниммо констатировал, что различные угрожающие субъекты целенаправленно используют их платформу для улучшения своего контента и повышения эффективности дезинформационных операций.
Читайте также: Россия и Китай усиливают влияние в развивающихся странах через ядерный экспорт
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet