分类分级监管生成式人工智能技术行业

国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局日前公布了《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。

国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

《办法》提出对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。

具体而言，《办法》规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

上海瑞达律师事务所律师冉鑫告诉记者，生成式人工智能是一种新的人工智能技术，与分析已有数据的预测性人工智能不同，它可以创造全新的数据、语音、图像、视频和文本等内容。常见的“AI换脸”、虚拟主播、ChatGPT文本及对话等利用的都是这种技术，带来了相应的新型法律风险。

生成式人工智能技术之所以风险重重，与其自身特性相关。国家计算机网络与信息安全管理中心高级工程师张震介绍说：一是生成式人工智能应用场景具有通用性。如果延续针对固定用途信息服务的管理思路，将难以充分切合实际监管需求。二是生成式人工智能具有价值观属性。一旦模型在训练过程中引入偏见歧视等有害信息，在模型实际应用中很可能呈现放大化输出。三是生成式人工智能具备可引导性。在提升模型能力方面，通过在生成式人工智能模型训练过程中调整模型输出概率分布不断趋近人类偏好，但同时也存在被不法分子恶意利用的风险。

冉鑫表示，《办法》对生成式人工智能服务实行包容审慎和分类分级监管，正是基于生成式人工智能技术特点以及在不同行业和领域的应用差异，提出了精细化的规范模式，有利于在保护数据和算法安全、知识产权安全、个人信息安全的同时，鼓励自主创新，促进国际交流与合作。

据了解，《办法》还规定了投诉、举报机制。生成式人工智能技术服务提供者应当设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。明确使用者发现生成式人工智能服务不符合法律、行政法规和《办法》规定的，有权向有关主管部门投诉、举报。

“对于企业来说，要承担起网络信息内容生产者责任，履行网络信息安全义务，采用安全可信的工具和技术进行生产与创造。”冉鑫表示，根据《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等条例，企业 应主动对平台生成的图片、视频进行标识。发现违法内容的，应当及时采取处置措施、进行整改并向有关主管部门报告。同时提高生成内容准确性和可靠性，主动引导使用者科学理性认识和依法使用技术，推动科技向善。