Китай намерен проверять чат-ботов перед их релизом
Управление по вопросам кибербезопасности Китая хочет проверять безопасность систем генеративного искусственного интеллекта до того, как те будут выпущены разработчиками. Регулятор объявил о начале общественных слушаний о необходимости введения такой меры.
Как говорится в сообщении управления, по мнению властей, продукты, использующие генеративный искусственный интеллект (ИИ), должны соответствовать действующим требованиям законодательства Китая. Отдельно подчеркивается, что создаваемый таким ИИ контент не должен противоречить нормам общественной морали, а также «содержать призывы к подрыву государственной власти, свержению социалистической системы, подстрекательству к разделению страны, подрыву национального единства». Законопроект также предполагает, что разработчики будут нести полную ответственность за тот контент, что создают их ИИ, а также за ненадлежащее обращение с персональными данными, которые собирает ИИ в процессе создания контента.
При этом остается неясным, как регулятор поступит с теми системами генеративного искусственного интеллекта, которые уже были выпущены компаниями и, соответственно, избежали проверок властей. Так, Baidu представила своего чат-бота ERNIE еще в середине марта. В понедельник, 10 апреля, прошла презентация нейросети SensaNova от компании SenseTime. А сегодня, 11 апреля, свой продукт представила Alibaba Cloud — Tongyi Qianwen, который поддерживает китайский и английский языки и первоначально будет встроен в корпоративный мессенджер DingTalk и в умные устройства для дома Tmall Genie.