OpenAI разоблачила использование ИИ в тайных операциях влияния, проводимых Россией, Китаем, Израилем и Ираном. Источник: The Guardian
В четверг OpenAI опубликовала свой первый отчет, посвященный тому, как инструменты искусственного интеллекта (ИИ) используются для проведения тайных операций влияния. В отчете говорится, что компания сорвала кампании по дезинформации, организованные из России, Китая, Израиля и Ирана.
Злоумышленники использовали генеративные модели ИИ OpenAI для создания и публикации пропагандистского контента в социальных сетях, а также для перевода его на разные языки. Согласно отчету, ни одна из этих кампаний не получила широкого распространения и не охватила большую аудиторию.
Отчет OpenAI, состоящий из 39 страниц, является одним из самых подробных отчетов компании ИИ об использовании ее программного обеспечения для пропаганды. OpenAI утверждает, что ее специалисты обнаружили и заблокировали учетные записи, связанные с пятью тайными операциями влияния за последние три месяца, которые проводились как государственными, так и частными лицами.
В отчете подчеркивается, что генеративный ИИ используется в дезинформационных кампаниях как инструмент для улучшения некоторых аспектов создания контента, например, для создания более убедительных сообщений на иностранном языке, но он не является единственным инструментом пропаганды.
Все эти операции в той или иной степени использовали искусственный интеллект, но ни одна не использовала исключительно его. Созданный искусственным интеллектом материал был лишь одним из многих типов контента, который они публиковали, наряду с более традиционными форматами, такими как написанные вручную тексты или мемы, скопированные из Интернета, говорится в отчете.
Хотя ни одна из кампаний не оказала заметного влияния, использование ими этой технологии показывает, как злоумышленники обнаруживают, что генеративный ИИ позволяет увеличить производство пропаганды. Написание, перевод и публикацию контента с помощью инструментов ИИ теперь можно осуществлять более эффективно.
За последний год злоумышленники использовали генеративный ИИ в странах по всему миру, чтобы попытаться повлиять на политику и общественное мнение. Созданные искусственным интеллектом дипфейки, аудио, изображения и текстовые кампании использовались для срыва избирательных кампаний, что привело к усилению давления на такие компании, как OpenAI, с целью ограничить использование их инструментов.
OpenAI заявила, что планирует регулярно публиковать подобные отчеты о тайных операциях влияния, а также удалять учетные записи, нарушающие ее политику.
Напомним, Иран, Россия и Китай ведут беспрецедентную информационную кампанию против Израиля и США.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet