Фейки, связанные с конфликтом, были ограничены и по большей части неубедительны, но их присутствие заставляет людей сомневаться в реальных доказательствах. После теракта ХАМАСа 7 октября специалисты по надзору за дезинформацией опасались, что фейки, созданные с помощью инструментов искусственного интеллекта, в том числе реалистичные изображения, известные как дипфейки, смутят общественность и поддержат пропагандистов. Источник: NYTimes
До сих пор они были правы в своем прогнозе, что эта технология будет иметь большое значение в войне, но не совсем по той причине, по которой они думали.
Исследователи дезинформации обнаружили относительно мало подделок искусственного интеллекта, и еще меньше убедительных. Однако сама возможность распространения ИИ-контента заставляет людей отвергать подлинные изображения, видео и аудио как недостоверные.
На форумах и платформах социальных сетей, таких как X, Truth Social, Telegram и Reddit, люди обвиняют политических деятелей, средства массовой информации и других пользователей в наглых попытках манипулировать общественным мнением путем создания ИИ-контента, даже если этот контент почти наверняка подлинный.
«Даже по стандартам тумана войны, к которым мы привыкли, этот конфликт является особенно запутанным», — сказал Хани Фарид, профессор информатики Калифорнийского университета в Беркли и эксперт в области цифровой криминалистики, искусственного интеллекта и дезинформации.
За последний год искусственный интеллект значительно улучшился, позволяя практически любому создавать убедительную фальшивку, вводя текст в популярные генераторы искусственного интеллекта, которые создают изображения, видео или аудио, или используя более сложные инструменты. Когда весной 2022 года было опубликовано дипфейковое видео президента Украины Владимира Зеленского, оно было широко высмеяно как слишком грубое, чтобы быть правдой; аналогичное фальшивое видео президента России Владимира Путина оказалось достаточно убедительным, чтобы несколько российских радио- и телекомпаний показали его в июне этого года.
На фоне очень эмоциональных дискуссий о Газе, многие из которых происходят на платформах социальных сетей, которые изо всех сил пытаются защитить пользователей от графического и неточного контента, доверие продолжает ослабевать. А теперь эксперты говорят, что злоумышленники пользуются доступностью ИИ, чтобы отклонить подлинный контент как фейковый — концепция, известная как дивиденд лжеца.
Их неверное направление во время войны частично подкреплялось наличием некоторого контента, созданного искусственно.
В посте на X, получившем 1,8 миллиона просмотров, утверждалось, что футбольные фанаты на стадионе в Мадриде держат огромный палестинский флаг; пользователи отметили, что искаженные тела на изображении являются явным признаком поколения ИИ. Аккаунт X, связанный с ХАМАС, поделился изображением, которое должно было показать палаточный лагерь для перемещенных израильтян, но на нем был изображен флаг с двумя синими звездами вместо одиночной звезды, как на настоящем израильском флаге. Позже пост был удален. Пользователи Truth Social и Telegram-канала, связанного с ХАМАС, поделились фотографиями премьер-министра Израиля Биньямина Нетаньяху, искусственно обработанными так, чтобы они выглядели залитыми кровью.
Напомним, что TikTok заявил о «мобилизации ресурсов» на борьбу с пропагандой ХАМАС.
Перед этим Евросоюз начал расследование в отношении соцсети Х из-за дезинформации и пропаганды ХАМАС.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet