OpenAI представила інструменти для виявлення ШІ-контенту
- ШІ-лабораторія OpenAI анонсувала інструмент виявлення зображень, створених за допомогою DALL-E 3, і захищений від несанкціонованого доступу водяний знак.
- Точність класифікатора ШІ-зображень становить 98%, стверджують у компанії.
Лабораторія штучного інтелекту OpenAI представила ШІ-класифікатор для ідентифікації зображень, створених її сервісами. Також компанія анонсувала захищений від несанкціонованого доступу водяний знак, що дає змогу позначати контент, наприклад, додавати до аудіо невидимі сигнали.
Класифікатор використовує штучний інтелект для передбачення ймовірності того, що зображення створили за допомогою алгоритму DALL-E 3. Згідно з блогом, він здатний визначати застосування ШІ навіть на обрізаних, стислих або оброблених за допомогою зміни насиченості картинках.
За даними компанії, інструмент може виявити контент, згенерований за допомогою DALL-E 3, у 98% випадків. Однак точність визначення картинок, створених іншими алгоритмами на кшталт Midjourney, становить лише 5―10%.
При обрізанні, стисненні та зміні насиченості ілюстрації відсоток успіху класифікатора знизиться до 95―97%. Якщо змінити кольорокорекцію зображення, точність інструменту впаде до 82%.
Раніше OpenAI заявила, що почала додавати «облікові дані вмісту» до метаданих картинок, згенерованих DALL-E 3. Це частина ініціативи з підтримки стандартів Коаліції з перевірки походження та автентичності вмісту (C2PA).
«Облікові дані вмісту» є, по суті, водяними знаками з інформацією про власника зображення і способи його створення.
OpenAI разом із компаніями на кшталт Microsoft та Adobe є членом C2PA. У травні 2024 року ШІ-лабораторія приєдналася до керівного комітету коаліції.
Компанія також почала додавати водяні знаки до файлів, створених на платформі перетворення тексту в мову Voice Engine.
За даними лабораторії, представлені інструменти виявлення ШІ-контенту потребують доопрацювань. Для перевірки їхньої ефективності необхідно отримати відгуки користувачів.
Нагадаємо, у травні Microsoft опублікувала звіт про прозорість, де описала досягнення в розгортанні відповідальних систем ШІ у 2023 році.
