推行算法审计大有可为.docx
《推行算法审计大有可为.docx》由会员分享,可在线阅读,更多相关《推行算法审计大有可为.docx(7页珍藏版)》请在课桌文档上搜索。
1、推行算法审计大有可为数字时代,开发利用数据正在成为社会治理的核心。关于人的重要决定,如衣食住行、生老病死、就业失业、言论传播甚至司法审判,也越来越取决于不同场景中基于数据的运算结果。恰当利用数据,开发利用场景,至少可以发挥如下四点优势:一是推动市场环境更透明、信息更易于自由流动;二是降低搜寻成本;三是降低准入门槛;四是推动技术突破、效率提升,促进产品和服务创新以及创新生态。但是,如果不能规范数据开发利用中算法的应用,也会带来不少管理方面的挑战,其中算法歧视、算法黑箱、算法助力垄断等问题尤为受到关注。2020年起,中国展开对算法的立法和治理。例如,法治社会建设实施纲要(2020-2025年)提出
2、规范算法推荐等新技术应用的管理;2021年9月发布的关于加强互联网信息服务算法综合治理的指导意见,强调要“建立健全算法安全治理机制”;2021年底发布的“十四五”数字经济发展规划指出,加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系;2021年12月,国家网信办等四部门联合发布互联网信息服务算法推荐管理规定,并于2022年3月1日起正式实施。至此,中国算法治理的立法体系初步建成。但是,中国算法治理实践仍然遇到不少挑战。例如,对平台的监管模式主要是事后监管,根据平台的过错采取行政处罚措施,总体来看,缺乏事前的过程性监管。又如,目前对算法的监管主要是从网络安全、法律风险等角度作规范
3、,技术性规范监管较少。随着大数据在社会治理中发挥越来越重要的作用,要求有关算法的监管要尽可能避免“一刀切”、进入常态化治理阶段,实现“敏捷治理”,也就是使算法治理能够跟上技术发展步伐。要应对算法治理带来的新挑战,建议考虑推动算法规则透明化,推动输入输出和结果评估的算法审计。算法审计指收集有关算法在特定应用场景中使用时的表现数据,然后使用这些数据来评估算法是否对人们的某些利益(或权利)产生了负面影响,从而评估算法本身好坏的过程。美国在算法审计方面走在世界前列,当然,该行业仍处在发展初期。20XX年,美国政府关于算法系统和民权的报告鼓励了算法审计业的发展。2021年,推特机器学习伦理、透明度与责任
4、小组的主管拉曼乔杜里(RUnlnIanChOWdhUly)指出,只有大约10到20家信誉良好的公司提供算法审查。不少公司也有自己的内部审计团队,在向公众发布算法之前对其进行审查。算法审计可分为外部审计和内部审计两种。从外部审计角度看,监管部门推动算法审计至少可以有四方面作用:一是评估某些算法是否合法合规,如监管部门审计银行的放贷算法,以评估其是否确实能够在不增加不良率的情况下做好风控;二是评估算法是否符合经济社会运行规律,是否能避免“劣币驱逐良币”现象。三是评估算法供应商和买家的风控能力,通过算法审计来评估相应企业面临的道德和声誉风险,以及在出现风险时的补救能力;四是为平台企业的利益相关方增加
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 推行 算法 审计 大有可为
链接地址:https://www.desk33.com/p-71098.html