中国拟立法管理生成式AI 「不得颠覆国家政权」

casper

新浪网





中国国家互联网信息办公室11日就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见。(图／新浪网)

native advertising

中国国家互联网信息办公室11日就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见。其中提到规定利用生成式人工智能（AI）生成的内容，应当体现社会主义内核价值观，不得含有颠覆国家政权、推翻社会主义制度、煽动分裂国家的内容。

征求意见稿还提到，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

在中国爆红的生成式人工智能产业迎来首份监管文档，管理办法征求意见稿共21条，对生成式人工智能产业给出较为详尽的规定，其中包括定义、准入资格、责任义务和处罚措施等。

在这份征求意见稿中，明确了对生成式人工智能产业的支持和鼓励态度，提到「国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。」

在征求意见稿中，明确了生成式人工智能的定义，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

值得注意的是，对生成式人工智能的定义中不仅包含文本，目前常见的「文生图」、「文生视频」等也将被纳入管理。管理范围则是，面向中国境内公众提供服务的产品。

征求意见稿提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，不得含有宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

另外，应采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

针对违反规定的提供者，法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正。

拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处人民币1万元以上、10万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。