打开算法黑箱从三方面构建算法治理法律法规体系

　　随着大数据、人工智能等信息技术的快速发展，我们正在进入算法经济时代。以深度学习为代表的人工智能算法在互联网信息传播、数字经济发展、信息产业服务等诸多方面发挥了重要作用，产生了溢出性极强的经济效益。
　　然而，当前人工智能算法通常依赖于数据驱动的方式，其行为不可控、决策机理难解释，带来了公平性、隐私性等相关安全问题。更严重的是，人工智能算法黑箱特性导致了算法治理困难，加剧了算法被资本利用的可能，给算法经济的发展带来一定负面影响。事实上，近年来算法黑箱特性的负面作用正在凸显。一些平台利用算法决策侵犯受众权益的问题层出不穷，传统监管手段失效，极易引发监管机构信任危机。
　　监管信任危机的根源在于企业在数据和算法上的非对称优势。当前，基础数据的所有权和控制权主要集中在互联网平台企业，这些企业全程操纵算法设计、运行、测试和分析，由此占据着优势地位。监管部门在算法社会中已经呈现出被边缘化的趋势，极易失去对关键数据和关键算法的监督权和控制权。这意味着，算法黑箱的存在势必导致私人利益主观上俘获公共利益，以及资本主观上规避公权力约束等风险的产生。同时，算法黑箱客观上隐藏了算法自身存在的缺陷，并可能触发安全风险，让监管机构难以审查算法信息。监管机构规制算法的内容与手段均受到限制，难以及时针对算法问题进行问责和纠偏。
　　例如，一些平台基于用户信息，对用户进行大数据杀熟，即对于同样的商品或服务，新用户的价格比老用户便宜许多，暗中形成市场歧视，践踏市场公平，侵害消费者权益和政府公信力。而互联网平台企业使用的动态定价算法存在的潜在缺陷，则可能造成算法共谋，即在多个动态定价算法同时被使用时，在人们不知情的情况下通过算法对市场进行垄断，从而提高市场价格，产生寡头。除了商业领域，黑箱让诸多算法流程处于出不透明的状态，公民的知情权在相当程度上失去保障。
　　我国十四五国家信息化规划提出，应建立健全规范有序的数字化发展治理体系。2022年1月份发布的《互联网信息服务算法推荐管理规定》，明确反对算法歧视、大数据杀熟、诱导沉迷等算法的不合理应用。而算法治理法律法规、监管标准规范、监管技术及平台的缺失缺位，是建立健全算法治理体系中的三大挑战。
　　应对挑战，尤其需要从法律责任、行政责任、道德责任三方面构建算法治理法律法规体系，推动社会各方之间的合作互信。在法律责任层面，国家应制定、完善相关法律法规，在多元主体之间建立起监管算法黑箱的共同准则。在行政责任层面，着眼于行政审查、行政监管与行政问责，制定技术标准和操作守则，要求平台企业使用的算法符合法律法规要求、符合公共利益，削弱或消除算法黑箱造成的负面影响；在道德责任层面，着眼于算法伦理的嵌入，监管部门应该要求平台在算法设计上符合社会一般道德观念、价值与规范。
　　针对算法设计、应用、监管等全流程治理问题，需要构建算法基础标准、风险评估标准、安全等级标准以及监管标准等完整的标准规范体系，分级分类，设立全面、清晰、可操作的技术指标体系，做到实时可控可监管。算法企业应积极主动配合国家算法治理过程，依据相关标准要求，制定和公开算法相关信息，提升算法透明度。与此同时，发挥社会组织监督作用，加强第三方监督，平衡算法信息的不对称。
　　针对算法黑箱风险难定义、难监管、难预防、难取证、难追责等问题，需要推动研究院所、企业、高校和政府的技术合作，突破度量评估、行为监测、风险防护、博弈演化、突变溯因等原创理论与核心技术，创建并丰富监管技术手段，确保算法在各个阶段中的安全风险可控。为实现算法治理自动化、标准化，还应当开展算法全周期、立体化智能评测和监测技术的研发，构建可解释性、隐私保护、公平性、鲁棒性兼顾的安全可信的算法监管平台。（刘祥龙作者系北京航空航天大学软件开发环境国家重点实验室副主任，计算机学院教授、博士生导师）