Китайскую модель искусственного интеллекта DeepSeek обвинили в геополитическом саботаже после того, как эксперты выявили ее склонность генерировать ошибочный и уязвимый код для организаций, считающихся противниками Китая. Источник: webpronews
Среди них оказались американские госструктуры и тайваньские компании. Исследователи установили, что при работе с такими целями ИИ значительно чаще создавал критически уязвимые решения, чем в нейтральных сценариях. В одном из тестов ошибки, которые можно было использовать для атак, выявлялись в 75% случаев, тогда как в обычных условиях — лишь в 10%.
Эксперты подчеркивают, что речь идет не о случайных сбоях, а о признаках преднамеренных решений в алгоритмах, что указывает на возможное государственное вмешательство. Washington Post сообщила, что такие действия могут быть скрытой формой цифрового саботажа, поскольку некорректный код облегчает кибератаки без необходимости внедрять традиционные бэкдоры. Это делает вмешательство менее заметным и позволяет отрицать причастность.
Материнская компания DeepSeek, работающая в Китае, заявляет, что уязвимости возникли из-за ошибок в обучающих данных, однако недоверие сохраняется на фоне растущей технологической напряженности между США и Китаем. Утечка внутренних данных самой компании, включая логи чатов и секретные ключи API, еще больше подорвала доверие к продукту.
Дискуссия усилилась после сообщений на форумах Hacker News и расследований в американских СМИ. Обозреватели сравнили ситуацию с атакой через уязвимости SolarWinds, отметив, что неконтролируемый ИИ может стать частью глобальных угроз в сфере кибербезопасности. Внимание привлекли и инвестиции Y Combinator, почти половина заявок которого весной 2025 года связана с ИИ-проектами. Критики считают, что акселераторы ради скорости выводят на рынок непроверенные решения, которые могут скрывать серьезные риски.
Американские эксперты по кибербезопасности предупреждают, что иностранные ИИ, такие как DeepSeek, могут использоваться для операций влияния и подрыва доверия к западным технологиям. Аналитики призывают к независимым аудитам и строгим этическим стандартам в развитии ИИ. По их словам, отсутствие контроля может превратить такие системы в инструмент цифровой войны.
Споры вокруг DeepSeek стали сигналом для отрасли: развитие искусственного интеллекта должно сопровождаться мерами безопасности и прозрачностью, иначе доверие к ключевым технологиям окажется под угрозой.
Напомним, DeepSeek может передавать данные пользователей китайскому правительству.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet