Власти Китая усилили контроль над развитием искусственного интеллекта (ИИ), обязав компании обучать чат-боты только на «безопасных» данных и заранее тестировать их на политически чувствительные запросы, чтобы предотвратить подрыв государственного строя, пишет The Wall Street Journal.
Новые требования предполагают, что ИИ-системы должны отклонять подавляющее большинство потенциально опасных вопросов и маркировать весь сгенерированный контент.
«Технологии искусственного интеллекта несут беспрецедентные возможности развития, но также и беспрецедентные риски и вызовы», – говорится в сообщении со ссылкой на заявление председателя КНР Си Цзиньпиня, которое он озвучил еще в апреле.
Согласно вступившему в силу в ноябре регламенту, ИИ-компании должны проверять обучающие массивы данных так, чтобы не менее 96 процентов контента признавалось «безопасным». Опасными считаются материалы, связанные с подрывом государственной власти, насилием, дискриминацией или незаконным использованием изображений.
Перед запуском боты обязаны проходить тестирование и отклонять не менее 95 процентов запросов, способных вызвать нежелательные реакции. Регламент был подготовлен совместно с крупнейшими игроками рынка, включая Alibaba и DeepSeek.
За три месяца китайские регуляторы удалили около 960 тысяч единиц «незаконного или вредного» контента. При этом Пекин, как отмечает WSJ, старается не оказывать чрезмерного давления на ИИ-отрасль, чтобы сохранить конкурентоспособность Китая на фоне технологического соперничества с США.
