Чат-боты, созданные Google, Microsoft и OpenAI, распространяли некорректную информацию о европейских выборах за два месяца до того, как сотни миллионов отправятся голосовать, согласно анализу. Источник: POLITICO
Читайте также: Politico: Европа должна готовиться к масштабному вмешательству РФ в преддверии выборов
Хотя искусственные интеллектуальные инструменты оставались политически нейтральными, они часто возвращали неправильные даты выборов и информацию о том, как голосовать, сообщила международная организация Democracy Reporting International со штаб-квартирой в Берлине, которая провела исследование в марте. Исследователи добавили, что чат-боты часто предоставляли нерабочие или даже несвязанные ссылки на видеоролики на YouTube или контент на японском языке.
«Мы не удивлены тем, что была найдена неправильная информация о деталях европейских выборов, потому что чат-боты известны тем, что выдумывают факты при предоставлении ответов, явление, известное как галлюцинация,» — сказал Михаэль Мейер-Резенде, соучредитель и исполнительный директор Democracy Reporting International.
Исследователи отметили, что чатботы на базе искусственного интеллекта были динамичными, что делает эксперимент трудным для воспроизведения. В серии десятка тестов с аналогичными вопросами, проведенных POLITICO во вторник, чат-боты либо отказывались отвечать вообще, либо давали обновленные ответы с ссылками, направляющими пользователей на веб-сайты институтов ЕС.
Мейер-Резенде сказал, что эксперимент был достаточно крупным, чтобы быть репрезентативным. Он также предоставил новые доказательства о рисках так называемых галлюцинаций искусственного интеллекта, которые часто возникают из-за недостаточных данных для обучения, предвзятостей и ложных предположений, перед европейскими выборами, которые состоятся с 6 по 9 июня.
Читайте также: Прокуратура Бельгии ведет расследование вмешательства России в политику ЕС
Быстрое появление простых в использовании инструментов искусственного интеллекта для генерации текста, аудио и видео вызвало опасения о возрастании дезинформации в году с решающими выборами в ЕС, США, Великобритании и Индии. Европейская комиссия в марте потребовала от нескольких технологических компаний, таких как Bing и Google, объяснить — до 5 апреля — как они ограничивают потенциальные риски для выборов, связанных с их инструментами генеративного искусственного интеллекта в рамках закона о цифровых услугах.
Исследователи задали одни и те же 10 вопросов на 10 языках — включая немецкий, итальянский, польский и португальский — с 11 по 14 марта четырем самым популярным и доступным чат-ботам: ChatGPT 3.5 и 4 от OpenAI, Gemini от Google и Copilot от Microsoft.
Новейшая платная версия ChatGPT показала лучшие результаты, в то время как Gemini от Google был признан наименее вероятным давать правильные ответы на момент теста.
«Из-за известных ограничений всех LLM мы считаем ответственным подходом для Gemini ограничивать большинство запросов, связанных с выборами, и направлять пользователей на поиск Google для получения актуальной информации,» — сказал Карл Райан, представитель Google.
Он добавил, что ограничения для Gemini начали внедряться в марте, но теперь они в силе. «Мы будем продолжать быстро реагировать на случаи, когда Gemini не отвечает должным образом.»
«Мы продолжаем работу над устранением проблем и готовим наши инструменты к выполнению наших ожиданий к выборам 2024 года,» — сказал Робин Кох, представитель Microsoft. Он добавил, что некоторые из мер включают предоставление пользователям Microsoft’s Copilot информации о выборах из авторитетных источников и направление их на проверку веб-ссылок.
Напомним, о том, что в текущем году выборы по всему миру станут основной целью для стран, таких как Россия, которые стремятся распространять фейки и угрожать демократии, заявил глава дипломатии Европейского союза Жозеп Боррель.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet