OpenAI звинуватила New York Times у зломі ChatGPT і генерації фейкових доказів
- Компанія-розробник ChatGPT зажадала частково відхилити позов NYT про порушення авторських прав.
- Представники OpenAI вважають, що видання зломало GhatGPT для генерації фейкових доказів.
- На думку NYT, йдеться про промт-інжиніринг (prompt engineering).
Компанія OpenAI звинуватила видання The New York Times (NYT) у зломі чат-бота ChatGPT. На думку розробників, це зробили заради генерації фейкових доказів у справі про порушення авторських прав.
У компанії запевняють, що видання заплатило третій стороні за злом мовної моделі. Після цього журналісти разом із неназваними фахівцями використовували «оманливі підказки», що порушують умови використання ChatGPT. З їхньою допомогою вони змусили чат-бот відтворити матеріали видання, що порушують авторські права.
«Твердження, що містяться у скарзі NYT, не відповідають її знаменитим суворим журналістським стандартам. Правда, яка відкриється в цій справі, полягає в тому, що Times заплатила комусь за злом продуктів OpenAI», — йдеться в заяві компанії.
Юристи видання не заперечують залучення фахівців для роботи з ChatGPT. За їхніми словами, йдеться про промт-інжиніринг (prompt engineering). Це процес створення та оптимізації текстових запитів (промптів) для генеративних моделей з метою отримання бажаних відповідей.
Команда експертів нібито вивчила чат-бот на наявність доказів про передбачуване виданням незаконне використання матеріалів NYT. Адвокати не бачать проблеми в такому підході та порівнюють його з так званою «червоною атакою» — імітацією з метою оцінки безпеки систем.
У листопаді 2023 року проти OpenAI та Microsoft подали позов про порушення авторських прав. У документах стверджується, що розробники чат-бота незаконно використовували десятки тисяч статей і наукових матеріалів для навчання мовної моделі.
Тим часом OpenAI представила новий сервіс для перетворення тексту на відео. Продукт під назвою Sora поки доступний для художників, дизайнерів і режисерів. Вони мають дати відгуки про те, як удосконалити модель, щоб вона була максимально корисною, заявили в компанії.
Нагадаємо, ми писали, що OpenAI навчила ChatGPT запам’ятовувати факти та вподобання користувачів.
