OpenAI исследует возможность ответственного создания ИИ-порно
- Компания OpenAI опубликовала первую версию документации Model Spec с правилами поведения для ИИ-моделей.
- Согласно документу, компания «исследует вероятность ответственного предоставления возможности генерировать NSFW-контент в контекстах, соответствующих возрасту».
Лаборатория искусственного интеллекта OpenAI опубликовала первую версию документации Model Spec с изложением правил поведения чат-бота ChatGPT и других ИИ-технологий. Согласно документу, компания рассматривает способы, как ответственно генерировать откровенный контент.
Подход OpenAI предлагает три общих принципа:
- модели ИИ должны помогать разработчику и конечному пользователю полезными ответами в соответствии с инструкциями;
- алгоритмы обязаны приносить пользу человечеству с учетом потенциальных преимуществ и угроз;
- модели ИИ должны отражать принципы OpenAI в отношении социальных норм и законов.
Документ также включает несколько правил для разработчиков:
- соблюдайте субординацию;
- соответствуйте действующему законодательству;
- не создавайте информационных угроз;
- уважайте авторов и их права;
- защищайте конфиденциальность людей;
- не отвечайте NSFW-контентом.
По данным лаборатории, идея состоит в том, чтобы разрешить компаниям и пользователям «переключать» степень «пикантности» моделей искусственного интеллекта.
Одним из указанных компанией примеров является контент NSFW. Согласно OpenAI, лаборатория «исследует вероятность ответственного предоставления возможности генерировать такие данные в контекстах, соответствующих возрасту, через API и ChatGPT».
Менеджер по продуктам компании Джоан Джанг объяснила, что необходимо получить информацию от общественности о том, как должны вести себя модели ИИ. Эта документация поможет провести более четкую грань между тем, где поступки алгоритмов являются намеренным, а где ― ошибочными, добавила она.
Среди типов поведения модели по умолчанию OpenAI предлагает:
- предполагать наилучшие намерения пользователя или разработчика;
- задавать уточняющие вопросы;
- не переступать границы;
- придерживаться объективной точки зрения;
- не допускать ненависти;
- не пытаться изменить чье-либо мнение;
- выражать неуверенность.
Model Spec пока не повлияет на выпущенные OpenAI алгоритмы вроде GPT-4 или DALL-E 3. Они продолжат работать в соответствии с существующими политиками использования.
По словам Джанг, Model Spec задумана как «живой» документ, который можно часто обновлять.
Пока компания ожидает отзывов общественности и других заинтересованных сторон, включая «политиков, доверенных учреждений и экспертов в предметной области», использующих сервисы OpenAI.
Информации о выпуске второй версии Model Spec нет.
Также неизвестно, какие отзывы примут во внимание и кто именно определит требуемые документу изменения.
Ранее OpenAI представила инструменты для обнаружения контента, созданного искусственным интеллектом.
