互联网信息内容安全审核能力通用要求编制说明.docx

上海市地方标准互联网信息内容安全审核能力通用要求（草案）编制说明一、工作简况（一）任务来源互联网信息内容安全审核能力通用要求是2022年11月上海市市场监督管理局立项的信息安全地方标准制定项目，由上海市互联网信息办公室组织发起，上海市信息安全测评认证中心为标准编制牵头单位，中国科学院信息工程研究所、上海东方报业有限公司、支付宝（中国）网络技术有限公司、上海携程商务有限公司、上海幻想七猫数字技术有限公司、上海盒马网络科技有限公司、上海宽娱数码科技有限公司、东方财富信息股份有限公司、上海任意门科技有限公司、公安部第三研究所、上海喜马拉雅科技有限公司、上海商汤智能科技有限公司、上海观察者信息技术有限公司、上海信博特智能科技有限公司、上海米哈游网络科技股份有限公司等共同参与编制。（二）编制背景随着互联网飞速发展，各大网络平台的内容呈现爆发式增长。与此同时，也增加了各类违法信息、不良信息的传播风险。目前，尚没有针对互联网信息内容审核能力的标准要求，各商业平台内容审核能力良莠不齐，无法达到国家法律法规、部门规章规定的相关要求。因此，依据网络安全法网络信息内容生态治理规定互联网信息服务管理办法具有舆论属性或社会动员能力的互联网信息服务安全评估规定，结合GBT40645-2021互联网信息服务安全通用要求相关内容编制本标准，以加强互联网信息内容管理,明确互联网平台信息内容技术检测能力和审核管理水平应达到的要求，建设健康文明的网络环境，营造风清气正的网络空间。（三）主要工作过程2022年9月，受上海市互联网信息办公室委托，上海市信息安全测评认证中心对信息安全相关标准进行预研，将本标准名称定为互联网信息内容安全审核能力通用要求（以下简称通用要求）。2022年9月Tl月，成立标准编制组，研究相关技术和标准框架，完成文档基础架构、形成通用要求草案第一稿。2022年12月，本标准通过由上海市市场监督管理局组织的立项评审，列入2022年度第四批上海市地方标准制修订项目计划。2023年1月，标准编制组召集标准起草单位进行线上会议，主要讨论标准草案技术检测部分的相关内容，形成通用要求草案第二稿。2023年4月，标准编制组召集标准起草单位进行线上会议，主要讨论标准草案技术检测部分的相关内容。根据参编单位提出分类分级的相关意见，依据国标GB/T40645-2021互联网信息服务安全通用要求增加“互联网信息内容检测能力等级划分”（用户规模100万作为划分依据）和“互联网信息内容审核能力通用要求组建包定制示例”，形成通用要求草案第三稿。2023年6月，标准编制组向本市主要互联网信息服务提供者发放内容安全审核能力调研问卷，摸排本市互联网信息服务提供者内容审核能力现状，验证标准检测效果指标设定的合理性和可行性。2023年7月，标准编制组回收分析调研问卷，组内征求意见，进一步完善、修订，形成通用要求草案第三稿。2023年10月，上海互联网信息办公室相关处室对通用要求草案提出修改意见。根据意见，增加从APP下载量和App活跃用户数的角度划分服务安全等级，补充有害信息分级分类表，形成通用要求草案第四稿。2023年12月，标准编制组拟将本标准草案提交至上海市信息安全标准化委员会、上海市市场监督管理局，向社会公开征求意见。（四）标准起草单位本标准起草单位：上海市信息安全测评认证中心为标准编制牵头单位，中国科学院信息工程研究所、上海东方报业有限公司、支付宝（中国）网络技术有限公司、上海携程商务有限公司、上海幻想七猫数字技术有限公司、上海盒马网络科技有限公司、上海宽娱数码科技有限公司、东方财富信息股份有限公司、上海任意门科技有限公司、公安部第三研究所、上海喜马拉雅科技有限公司、上海商汤智能科技有限公司、上海观察者信息技术有限公司、上海信博特智能科技有限公司、上海米哈游网络科技股份有限公司共同参与。上海市信息安全测评认证中心负责本标准文本的起草，收集各起草单位的指导意见，进行汇总、分析，完成全文的编写。二、标准依据、解决的主要问题及主要内容本标准依据网络安全法网络信息内容生态治理规定互联网信息服务管理办法具有舆论属性或社会动员能力的互联网信息服务安全评估规定相关规定，结合GB/T40645-2021互联网信息服务安全通用要求相关内容，拟解决运营地在本市的互联网信息服务提供者开展内容审核能力建设和安全评估工作时没有相关技术标准的问题，也可为主管部门开展内容审核能力相关的专项检查提供技术依据。本标准拟规定对于互联网信息服务提供者在提供具有舆论属性或社会动员能力的互联网信息内容服务时所应具备的技术检测能力覆盖范围、技术检测功能完整性、技术检测效果指标、有害信息分级分类、组织机构、管理制度、信息内容审核管理、监测预警与处置机制、信息源及用户分级分类方面的要求。主要框架如下：前言1范围2规范性引用标准3术语和定义3.1 互联网信息服务3.2 信息源3.3 互联网信息服务用户3.4 互联网信息服务提供者3.5 深度合成技术4概述5内容安全技术检测要求5.1 技术检测能力覆盖范围5.2 技术检测功能完整性5.3 技术检测效果指标5.4 样本数据库和有害信息分类6内容安全审核管理要求6.1组织机构6.2 管理制度6.3 信息内容审核管理6.4 监测预警与处置机制6.5 信息源及用户分级分类附录A（规范性）互联网信息服务安全等级划分附录B（资料性）互联网信息内容安全审核管理要求组件包定制示例参考文献三、与相关法律法规及国家有关规定、国内相关标准的关系本标准与现行网络安全法互联网信息服务管理办法网络信息内容生态治理规定具有舆论属性或社会动员能力的互联网信息服务安全评估规定等法律法规相协调配套。本标准在GB/T40645-2021互联网信息服务安全通用要求的基础上对技术安全要求和安全审核要求进行了细化，设定了互联网信息内容技术安全检测要求和互联网信息内容安全审核管理要求，明确相关检测效果指标和处置时效。本标准与现行标准无冲突和矛盾的地方。四、重大分歧意见的处理经过和依据本标准起草过程中无重大分歧意见。五、其他应予说明的事项无O互联网信息内容安全审核能力通用要求标准起草组2023年11月23日