Компания OpenAI обнаружила и заблокировала два случая использования искусственного интеллекта в рамках китайских кампаний влияния. Одна из них была направлена на распространение антиамериканской дезинформации на испанском языке. Источник: Axios
Согласно последнему отчету OpenAI об угрозах, злоумышленники использовали ChatGPT для создания англоязычных комментариев с нападками на китайского диссидента Цай Ся, а также испаноязычных статей, критикующих США.
Эти материалы публиковались в соцсети X и на латиноамериканских новостных сайтах, в том числе в формате спонсируемого контента. По словам главного исследователя группы разведки и расследований OpenAI Бена Ниммо, это первый зафиксированный случай, когда китайская операция влияния целенаправленно переводила длинные статьи на испанский язык и распространяла их в Латинской Америке.
Еще одна кампания, которую OpenAI назвала «экспертной оценкой», включала использование ChatGPT для создания маркетинговых материалов для инструмента прослушивания соцсетей. Предположительно, он применялся для отправки отчетов о протестах в китайские службы безопасности. OpenAI заблокировала учетные записи, задействованные в этих операциях, отметив, что компания запрещает использование ИИ для слежки или несанкционированного мониторинга.
В отчете также упомянуты другие случаи злоупотребления ИИ, включая мошеннические схемы и кампании влияния, связанные с Северной Кореей, Ираном и попыткой повлиять на выборы в Гане.
Напомним, ранее OpenAI разоблачила использование ИИ в тайных операциях влияния, проводимых Китаем.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet