Компания Anthropic, занимающаяся разработкой искусственного интеллекта (ИИ), сообщила, что ее чат-бот Claude был использован неизвестными злоумышленниками для проведения операций влияния с помощью взаимодействия с подлинными аккаунтами в социальных сетях Facebook и X. По информации компании, эта сложная кампания, ориентированная на финансовую выгоду, включала в себя координацию действий 100 человек, которые создавали политически ориентированные аккаунты, взаимодействующие с «десятками тысяч» реальных пользователей. Источник: thehackernews
Исследователи Anthropic утверждают, что операция, которая была прервана, сосредотачивалась не на краткосрочной эффективности, а на долгосрочной устойчивости. Ее цель заключалась в усилении умеренных политических позиций, поддерживающих или подрывающих интересы Европы, Ирана, Объединенных Арабских Эмиратов (ОАЭ) и Кении.
Например, операцией продвигалась идея ОАЭ как «деловой среды», критиковалась европейская нормативная база, акцентировались проблемы энергетической безопасности для европейцев и культурной идентичности для иранцев.
Кибероперация также включала в себя распространение нарративов в поддержку албанских политиков и критику оппозиционных деятелей в одной европейской стране, а также продвижение инициатив и политических деятелей в Кении. Эти кампании соответствуют действиям, связанным с государственным влиянием, хотя точная сторона, стоящая за ними, пока не установлена.
Новшеством в этой операции стало то, что чат-бот Claude использовался не только для генерации контента, но и для принятия решений о том, когда аккаунты ботов будут лайкать, комментировать или пересылать посты реальных пользователей социальных сетей. По словам разработчиков, Claude был в роли организатора, который принимал тактические решения на основе политически мотивированных персонажей. ИИ генерировал ответы на языке пользователей, а также создавал подсказки для инструментов генерации изображений.
Предполагается, что операция была частью коммерческой услуги, обслуживающей разные страны и клиентов. По меньшей мере, было выявлено четыре отдельные кампании с использованием этой технологии. Используя высокоорганизованный подход и программную структуру на базе JSON, операторы смогли стандартизировать и масштабировать свои усилия, а также отслеживать и обновлять атрибуты персон, взаимодействующих на нескольких платформах.
Еще одной особенностью кампании было использование автоматизированных аккаунтов для ответа сарказмом и юмором на обвинения, что они могут быть ботами. Это показывало новую стратегию вовлечения и манипуляции, способствующую дальнейшему укреплению влияния.
Anthropic заявила, что этот случай подчеркивает необходимость разработки новых методов оценки операций влияния, ориентированных на построение отношений и интеграцию сообщества. Компания также предупредила, что подобные злоупотребления станут обычным явлением в будущем, поскольку искусственный интеллект снижает барьер для создания эффективных кампаний влияния.
Ранее сообщалось, что Россия, Китай и Иран используют ChatGPT для операций влияния.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet