США сталкиваются с новой волной иностранных операций влияния, в которых активно используется искусственный интеллект. Россия и Китай применяют генеративный ИИ для масштабного распространения дезинформации, что делает такие кампании практически неотличимыми от обычных публикаций в соцсетях. Источник: Axios
Иностранная дезинформация стала серьезной угрозой для США, где Москва и другие государства пытаются повлиять на выборы и усилить внутренние противоречия. Генеративный ИИ значительно повышает эффективность таких действий и усложняет их выявление. Бывший глава АНБ генерал Пол Накасоне заявил, что сейчас такие технологии разрабатываются и внедряются с беспрецедентной скоростью, эффективностью и масштабом.
Одним из примеров является китайская технологическая компания GoLaxy, которая, согласно просочившимся документам, использует искусственный интеллект для проведения операций влияния в Тайване и Гонконге. GoLaxy применяет ИИ для анализа социальных сетей и создания контента, который выглядит достоверно, адаптируется в реальном времени и уходит от обнаружения. Компания задействует инструменты, включая модель DeepSeek с открытым исходным кодом, чтобы создавать синтетические личности, способные подстраивать сообщения под целевую аудиторию и даже подражать реальным людям.
Исследователи установили, что GoLaxy формировала виртуальные профили не только для избирательной кампании на Тайване в 2024 году и кампании против оппозиции закону о национальной безопасности в Гонконге, но и для 117 членов Конгресса США и более 2 тысяч американских политических деятелей.
Эксперты предупреждают, что большие языковые модели, такие как ChatGPT, могут значительно расширять возможности злоумышленников. Бретт Голдштейн, бывший директор Цифровой службы обороны США, отметил, что это новый уровень конфликтов в так называемой «серой зоне» и подчеркнул необходимость выработки стратегии для противодействия.
Россия, в свою очередь, уже успешно проводит операции влияния за пределами страны, используя компании для организации бот-ферм и создания фейковых новостей через легальные медиа. При этом пророссийские структуры экспериментируют с ИИ, имитируя работу известных западных СМИ, включая ABC и Politico.
Axios подчеркивает, что Китай активно сотрудничает с сетью подрядчиков, которые занимаются кибератаками против США. Все это происходит на фоне того, что администрация Дональда Трампа расформировала ряд ключевых подразделений, занимавшихся борьбой с иностранной дезинформацией. В частности, Агентство по разведке и безопасности, ФБР и Госдепартамент сократили структуры, отвечавшие за обмен информацией с частным сектором о зарубежных операциях влияния.
Напомним, Россия и Китай лидируют в глобальных операциях влияния: Google усиливает борьбу.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet