Компания OpenAI заявила, что за последний год ей удалось нарушить работу более 20 операций и сетей, которые пытались использовать ее технологии генеративного искусственного интеллекта для вмешательства в политические процессы по всему миру, включая выборы в США, говорится в ее последнем отчете об угрозах. Источник: Cyberscoop
Согласно отчету, злоумышленники из таких стран, как Китай, Россия, Иран и других, пытались использовать инструменты OpenAI, включая ChatGPT, для анализа и генерации контента для социальных сетей, написания поддельных статей, разработки вредоносного ПО и выполнения других задач, связанных с влиянием в интернете. Некоторые злоумышленники, например, использовали ИИ для создания фальшивых новостей, комментариев к спорным темам или даже для помощи в кибератаках.
Несмотря на эти попытки, компания не зафиксировала существенных успехов злоумышленников в создании принципиально новых угроз или вирусного контента. Бен Ниммо, главный исследователь OpenAI, отметил, что злоумышленники продолжают экспериментировать с технологиями, но пока это не привело к значительным прорывам. В отчете подчеркивается, что усилия злоумышленников скорее носят вспомогательный характер, чем меняют правила игры.
Отчет также описывает ряд попыток, предпринятых злоумышленниками для использования технологий OpenAI против самой компании. Так, одна из китайских сетей рассылала фишинговые письма с использованием инструментов ИИ, пытаясь установить троянские программы на устройства сотрудников OpenAI.
Некоторые группы, связанные с Ираном, использовали ChatGPT для создания вредоносных скриптов, в том числе для поиска уязвимостей в программном обеспечении и осуществления атак на критическую инфраструктуру. Однако основное внимание этих операций было сосредоточено на информационных кампаниях, направленных на распространение дезинформации и усиление политических разногласий, в частности в США.
OpenAI также подтвердила, что её инструменты помогли усилить анализ угроз, сократив время на обработку данных с нескольких дней до минут, что позволяет оперативнее реагировать на попытки использования ИИ в злонамеренных целях.
Напомним, Иран, Россия и Китай ведут беспрецедентную информационную кампанию против Израиля и США.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet