Россия, Китай и Северная Корея все чаще используют искусственный интеллект, включая ChatGPT, для проведения кибератак и операций по оказанию влияния на общественное мнение, говорится в новом отчете OpenAI. Источник: San
По данным компании, эти государства применяют инструменты ИИ для создания сценариев, перевода контента, генерации видеоподсказок, описаний видео и хэштегов для кампаний в социальных сетях, направленных на распространение влияния.
В отчете отмечается, что российские операторы вводят длинные тексты на русском языке, чтобы на их основе создать видеоскрипты, затем переводят их на другие языки и формируют SEO-оптимизированные описания и хэштеги. Видео, сгенерированные при помощи ИИ, публикуются в таких социальных сетях, как TikTok и X. Эксперты отмечают использование подделки личности, клонирования голоса, глубоких фейков и скриптов, вводящих в заблуждение чиновников и общественность.
Северная Корея использует ChatGPT для разработки вредоносного ПО, систем управления и создания фишинговых писем, маскирующихся под сообщения государственных органов или финансовых организаций. Фишинговые кампании были направлены и на южнокорейские дипломатические миссии.
Китайские пользователи, связанные с государственными структурами, просили модели генерировать предложения для мониторинга социальных сетей и других крупных систем. OpenAI заблокировала несколько таких аккаунтов, в том числе сеть, задействованную в тайной операции по оказанию влияния, распространявшую контент на английском языке с критикой Вьетнама, Филиппин и политических вопросов США.
Специалисты отмечают, что использование ИИ в кибератаках и кампаниях по дезинформации становится все более эффективным, сложным для обнаружения и автоматизированным, что создает новые вызовы для существующих систем защиты и безопасности.
Ранее сообщалось, что Россия и Китай лидируют в глобальных операциях влияния.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet