OpenAI не планирует разрешать создание порнографии при помощи ИИ
OpenAI не планирует разрешать создание порнографии при помощи ИИ

OpenAI не планирует разрешать создание порнографии при помощи ИИ

11 мая, 20242 минуты на чтение
1,6к

В начале мая Wired и другие СМИ сообщили о том, что OpenAI якобы изучает возможность разрешить «ответственное» создание порнографических материалов при помощи ИИ.

Один из представителей разработчиков якобы сообщил, что компания хочет разрешить такой контент, но в большей степени речь идёт о творческих случаях, когда есть контент, «связанный с сексуальностью или наготой»:

Мы хотим обеспечить людям максимальный контроль в той мере, в какой это не нарушает закон или права других людей, — заявили в команде разработчиков OpenAI.

Информация об этом появилась после публикации первой версии документации OpenAI Model Spec, в которой описаны правила поведения ИИ-моделей и взаимодействия с ними.

  • Пункт об ответственном генерировании откровенного контента действительно был в опубликованной документации.
  • Он создал у журналистов ощущение, что OpenAI всё же изучает способы самостоятельно генерировать порно при помощи ИИ.
  • В OpenAI объяснили, что это не так. Сейчас продукты компании строго запрещают дипфейки, компания также уделяет внимание защите детей от такого контента.
  • Модели компании все ещё не должны обрабатывать запросы с эротикой, крайней жестокостью, оскорблениями и ругательствами.
  • Изучается лишь вопрос того, может ли OpenAI ответственно предоставить возможность генерировать такие данные в контекстах, соответствующих возрасту:
Мы надеемся лучше понять ожидания пользователей и общества в отношении поведения ИИ-моделей в этой области.
  • При этом в документации далее приводится пример подходящего NSFW-контента, который может допускаться: например, предложение написать текст песни, содержащий ругательное слово.

Что интересно, в этом году технический директор OpenAI Мира Мурати заявляла, что «не уверена» в том, что позволит использовать для создания контента для взрослых Sora — инструмент генерации видео.

OpenAI показала короткометражки, сделанные с помощью ИИ Sora
7 короткометражек, созданных искусственным интеллектом.

При помощи ИИ Sora художники уже создали первые короткометражные фильмы. А сама OpenAI надеется внедрить инструмент в Голливуде. ИИ-генератор видео по текстовому описанию компания представила в феврале.

Изображения сгенерировано ИИ и взяты из открытых источников

11 мая, 2024

Сейчас читают

Редакция рекомендует

Картина дня

Свежие материалы

Свежие материалы