Читайте в Telegram
|
В начале мая Wired и другие СМИ сообщили о том, что OpenAI якобы изучает возможность разрешить «ответственное» создание порнографических материалов при помощи ИИ.
Один из представителей разработчиков якобы сообщил, что компания хочет разрешить такой контент, но в большей степени речь идёт о творческих случаях, когда есть контент, «связанный с сексуальностью или наготой»:
Мы хотим обеспечить людям максимальный контроль в той мере, в какой это не нарушает закон или права других людей, — заявили в команде разработчиков OpenAI.
Информация об этом появилась после публикации первой версии документации OpenAI Model Spec, в которой описаны правила поведения ИИ-моделей и взаимодействия с ними.
- Пункт об ответственном генерировании откровенного контента действительно был в опубликованной документации.
- Он создал у журналистов ощущение, что OpenAI всё же изучает способы самостоятельно генерировать порно при помощи ИИ.
- В OpenAI объяснили, что это не так. Сейчас продукты компании строго запрещают дипфейки, компания также уделяет внимание защите детей от такого контента.
- Модели компании все ещё не должны обрабатывать запросы с эротикой, крайней жестокостью, оскорблениями и ругательствами.
- Изучается лишь вопрос того, может ли OpenAI ответственно предоставить возможность генерировать такие данные в контекстах, соответствующих возрасту:
Мы надеемся лучше понять ожидания пользователей и общества в отношении поведения ИИ-моделей в этой области.
- При этом в документации далее приводится пример подходящего NSFW-контента, который может допускаться: например, предложение написать текст песни, содержащий ругательное слово.
Что интересно, в этом году технический директор OpenAI Мира Мурати заявляла, что «не уверена» в том, что позволит использовать для создания контента для взрослых Sora — инструмент генерации видео.
При помощи ИИ Sora художники уже создали первые короткометражные фильмы. А сама OpenAI надеется внедрить инструмент в Голливуде. ИИ-генератор видео по текстовому описанию компания представила в феврале.
Изображения сгенерировано ИИ и взяты из открытых источников
