OpenAI не планирует разрешать создание порнографии при помощи ИИ

В начале мая Wired и другие СМИ сообщили о том, что OpenAI якобы изучает возможность разрешить «ответственное» создание порнографических материалов при помощи ИИ.

Один из представителей разработчиков якобы сообщил, что компания хочет разрешить такой контент, но в большей степени речь идёт о творческих случаях, когда есть контент, «связанный с сексуальностью или наготой»:

Мы хотим обеспечить людям максимальный контроль в той мере, в какой это не нарушает закон или права других людей, — заявили в команде разработчиков OpenAI.

Информация об этом появилась после публикации первой версии документации OpenAI Model Spec, в которой описаны правила поведения ИИ-моделей и взаимодействия с ними.

• Пункт об ответственном генерировании откровенного контента действительно был в опубликованной документации.

• Он создал у журналистов ощущение, что OpenAI всё же изучает способы самостоятельно генерировать порно при помощи ИИ.

• В OpenAI объяснили, что это не так. Сейчас продукты компании строго запрещают дипфейки, компания также уделяет внимание защите детей от такого контента.

• Модели компании все ещё не должны обрабатывать запросы с эротикой, крайней жестокостью, оскорблениями и ругательствами.

• Изучается лишь вопрос того, может ли OpenAI ответственно предоставить возможность генерировать такие данные в контекстах, соответствующих возрасту:

Мы надеемся лучше понять ожидания пользователей и общества в отношении поведения ИИ-моделей в этой области.

• При этом в документации далее приводится пример подходящего NSFW-контента, который может допускаться: например, предложение написать текст песни, содержащий ругательное слово.

Что интересно, в этом году технический директор OpenAI Мира Мурати заявляла, что «не уверена» в том, что позволит использовать для создания контента для взрослых Sora — инструмент генерации видео.

При помощи ИИ Sora художники уже создали первые короткометражные фильмы. А сама OpenAI надеется внедрить инструмент в Голливуде. ИИ-генератор видео по текстовому описанию компания представила в феврале.

_{Изображения сгенерировано ИИ и взяты из открытых источников}