Компания OpenAI опубликовала отчет, в котором раскрыла деятельность китайской группы влияния, использовавшей инструменты искусственного интеллекта для воздействия на политические процессы в Японии. Источник: Asia.Nikkei
Основной мишенью злоумышленников стала Санаэ Такаити, занимавшая на тот момент пост министра экономической безопасности и претендовавшая на лидерство в правящей Либерально-демократической партии.
Исследователи обнаружили, что связанная с Китаем сеть под кодовым названием Hi-Volt использовала большие языковые модели для генерации контента на японском и английском языках с целью дискредитации политика. Это первый зафиксированный случай, когда подобные технологии были направлены против конкретных японских политических деятелей в рамках скоординированной информационной операции.
В ходе расследования выяснилось, что учетные записи в социальных сетях, причастные к кампании, публиковали сообщения, в которых Такаичи подвергалась критике за ее посещения храма Ясукуни и позицию по вопросам безопасности. Искусственный интеллект применялся для создания текстов, которые выглядели как естественные комментарии обычных пользователей, что должно было придать манипуляциям вид подлинного общественного мнения.
Представители OpenAI отметили, что использование нейросетей позволяет иностранным агентам значительно увеличивать масштаб своих операций и адаптировать пропаганду под культурные особенности конкретной страны. Помимо критики отдельных лиц, сеть Hi-Volt распространяла сообщения, направленные на подрыв доверия к союзу Японии и США, а также ставила под сомнение экологическую безопасность сброса очищенной воды с атомной электростанции Фукусима-1.
Несмотря на технологическую продвинутость методов, в OpenAI подчеркнули, что данные попытки влияния не получили широкого охвата и не смогли вызвать массового резонанса среди японских избирателей. Большинство сгенерированных сообщений практически не имели взаимодействий, таких как лайки или репосты, что говорит о низкой эффективности текущей стратегии Пекина. Тем не менее компания приняла решение заблокировать ряд учетных записей, которые систематически нарушали правила использования платформы для ведения скрытых операций влияния.
В отчете также указывается, что аналогичные методы китайские группы пытались применять в отношении Тайваня и США, используя ИИ для создания новостных статей, мемов и ответов в социальных сетях. Эксперты предупреждают, что по мере совершенствования алгоритмов распознавать подобное вмешательство будет все сложнее, поэтому технологические гиганты намерены усиливать мониторинг активности, связанной с государственными структурами Китая, особенно в периоды важных политических событий в демократических странах. Все выявленные материалы были переданы специалистам по безопасности и правительственным структурам Японии для дальнейшего анализа и принятия мер по защите информационного пространства.
Напомним, Китай активизировал операции по подрыву позиций Японии в Индо-Тихоокеанском регионе.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet