OpenAI представила инструменты для обнаружения ИИ-контента
- ИИ-лаборатория OpenAI анонсировала инструмент обнаружения изображений, созданных с помощью DALL-E 3, и защищенный от несанкционированного доступа водяной знак.
- Точность классификатора ИИ-изображений составляет 98%, утверждают в компании.
Лаборатория искусственного интеллекта OpenAI представила ИИ-классификатор для идентификации изображений, созданных ее сервисами. Также компания анонсировала защищенный от несанкционированного доступа водяной знак, позволяющий помечать контент, например, добавлять к аудио невидимые сигналы.
Классификатор использует искусственный интеллект для предсказания вероятности того, что изображение создали с помощью алгоритма DALL-E 3. Согласно блогу, он способен определять применение ИИ даже на обрезанных, сжатых или обработанных посредством изменения насыщенности картинках.
По данным компании, инструмент может обнаружить контент, сгенерированный с помощью DALL-E 3, в 98% случаев. Однако точность определения картинок, созданных другими алгоритмами вроде Midjourney, составляет всего 5―10%.
При обрезке, сжатии и изменении насыщенности иллюстрации процент успеха классификатора снизится до 95―97%. Если изменить цветокоррекцию изображения, точность инструмента упадет до 82%.
Ранее OpenAI заявила, что начала добавлять «учетные данные для содержимого» к метаданным картинок, сгенерированных DALL-E 3. Это часть инициативы по поддержке стандартов Коалиции по проверке происхождения и аутентичности содержимого (C2PA).
«Учетные данные для содержимого» являются, по сути, водяными знаками с информацией о владельце изображения и способах его создания.
OpenAI вместе с компаниями вроде Microsoft и Adobe является членом C2PA. В мае 2024 года ИИ-лаборатория присоединилась к руководящему комитету коалиции.
Компания также начала добавлять водяные знаки к файлам, созданным на платформе преобразования текста в речь Voice Engine.
По данным лаборатории, представленные инструменты обнаружения ИИ-контента требуют доработок. Для проверки их эффективности необходимо получить отзывы пользователей.
Напомним, в мае Microsoft опубликовала отчет о прозрачности, где описала достижения в развертывании ответственных систем ИИ в 2023 году.
