Китай ужесточил регулирование ИИ чат-ботов

Китайские власти ужесточили регулирование искусственного интеллекта, опасаясь, что развитие чат-ботов и генеративных моделей может подорвать политическую стабильность и авторитет Компартии.

Об этом сообщает The Wall Street Journal. При этом Пекин старается не «задушить» отрасль, чтобы не отстать от США в технологической гонке. С ноября в стране действуют новые правила: ИИ-компании обязаны обучать модели только на «политически безопасных» данных, а весь контент, созданный нейросетями, должен иметь маркировку.

Разработчиков также обязали проводить предварительное тестирование систем — чат-боты должны отклонять не менее 95% запросов, которые могут привести к «подрыву государственного строя», дискриминации или насилию.

Регламент был разработан совместно с крупными игроками рынка, включая Alibaba и DeepSeek. Для каждого формата контента — текста, изображений и видео — компании должны проверять тысячи единиц обучающих данных. Не менее 96% из них должны быть признаны «безопасными». К опасному контенту относят политически чувствительные темы, призывы к насилию и использование чужих изображений без разрешения.

По данным регуляторов, за три месяца было удалено около 960 тысяч единиц «незаконного или вредного» ИИ-контента. Искусственный интеллект также включили в национальный план реагирования на чрезвычайные ситуации — наравне с эпидемиями и стихийными бедствиями.

При этом власти подчёркивают, что не намерены чрезмерно давить на отрасль. В Пекине признают: ИИ несёт «беспрецедентные возможности развития», но одновременно создаёт новые риски, баланс между которыми станет ключевым вызовом для государства в ближайшие годы.