В свете предупреждений экспертов, что контент, созданный с помощью искусственного интеллекта, включая различные изображения, аудио и видео, может влиять на предстоящие осенние выборы, OpenAI выпускает инструмент, способный обнаруживать контент, сгенерированный ее известным сервисом DALL-E. Однако известный стартап в области AI признает, что его новый инструмент — лишь небольшая часть того, что потребуется для борьбы с так называемыми дипфейками в ближайшие месяцы и годы. Источник: NYT
Читайте также: АНБ выпустило руководство по повышению безопасности систем искусственного интеллекта
Во вторник OpenAI объявила, что предоставит свой новый детектор дипфейков небольшой группе исследователей в области дезинформации для тестирования инструмента в реальных условиях и определения способов его улучшения.
«Это стимулирует новые исследования, что сейчас очень важно», — заявила Сандини Агарвал, исследователь OpenAI, специализирующийся на безопасности и политике.
OpenAI сообщали, что ее новый детектор может правильно идентифицировать 98,8% изображений, созданных DALL-E 3, последней версией ее генератора изображений. Однако компания признает, что инструмент в теории не разрабатывался для работы с изображениями, созданными другими генераторами, такими как Midjourney и Stability. Стандарт, продвигаемый «Коалицией за происхождение и подлинность контента», показывает, когда и как изображения были созданы или изменены. Поскольку этот тип детектора дипфейков основан на вероятностях, он никогда не может быть идеальным. Поэтому, как и многие другие компании, некоммерческие организации и академические лаборатории, OpenAI ищет решение этой проблемы другими способами, надеясь усовершенствовать его через исследования.
Подобно технологическим гигантам Google и Meta, компания присоединяется к руководящему комитету Коалиции по происхождению и аутентичности контента, которая разрабатывает учетные данные для цифрового контента.
OpenAI также сообщила, что разрабатывает методы нанесения водяных знаков на звуки, генерируемые ИИ, чтобы их можно было легко идентифицировать в любое время. Компания надеется, что эти водяные знаки будет сложно удалить.
Ранее Италия разработала первый в мире пакет законов об искусственном интеллекте.
Только главные новости в нашем Telegram, Facebook и GoogleNews!
Tweet