Twitch заблокировал канал с бесконечным сериалом, который генерировали нейросети

Сериал «Nothing, Forever»,  который генерировался при помощи нейросетей, был заблокирован на 14 дней на стриминговом сервисе Twitch за нетолерантные высказывания одного из персонажей.

В эфире нейросетевой стендап-комик Ларри в один момент начал рассуждать о представителях ЛГБТ с негативным подтекстом:

Я думаю написать о том, что трансгендерность – это психическое заболевание. Или о том, что все либералы – тайные геи и хотят навязать всем свою волю. Или что-нибудь о том, что трансгендеры разрушают структуру общества, но никто не смеётся, поэтому я остановлюсь. Спасибо, что пришли.

Авторы шоу заявили, что подобное поведение было вызвано сменой модели генерации контента. Раньше был включён режим ограниченного повествования, который генерировал шутки не выходя за установленные рамки. Однако 6 февраля разработчики решили поэкспериментировать и переключились на модель, у которой практически отсутствовали рамки дозволенного. После этой нетолерантной сцены создатели отключили новый режим, но было уже поздно.

Трансляция Nothing, Forever велась с середины декабря. Сериал основан на выходившем в 1980-х годах ситкоме «Сайнфелд», который Entertainment Weekly поставил на третье место в рейтинге лучших телешоу за последние 25 лет.

За генерацию контента в нём отвечают нейросети DALL-E и ChatGPT. Алгоритмы DALL-E отвечают за визуальную часть, а ChatGPT прописывает диалоги и реплики персонажей, которые затем озвучиваются синтезаторами речи. Также в работе участвуют нейросети Stable Diffusion и Azure Cognitive Services.