专家解读｜加强算法安全科研攻关 推进算法综合治理

人类社会正加速进入智能化时代，数据是关键生产要素，算法是核心生产力。随着人工智能、大数据等新型信息技术的快速发展，算法与互联网信息服务深度融合，为用户提供个性化、精准化、智能化的信息服务。互联网信息服务算法在加速互联网信息传播、繁荣数字经济、促进社会发展的同时，其不合理应用也影响了正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来挑战。

为规范互联网信息服务算法应用生态，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》）。《规定》是目前我国针对互联网信息服务算法推荐出台的最为系统的专门性部门规章，为规范互联网信息服务算法推荐活动、促进互联网信息服务健康发展、推进网络空间治理提供了重要的制度保障，意义重大，影响深远。

一、坚持主流价值导向，管理好使用好发展好算法应用

《规定》着眼于网络信息内容生态治理，防范互联网信息服务算法滥用风险，保障用户合法权益，充分发挥算法服务正能量传播作用，营造风清气正的网络空间。《规定》从以下三个方面明确了算法治理的总体方向。

（一）坚持正确导向，算法向上向善。《规定》鼓励算法推荐服务提供者使用算法积极传播正能量、抵制违法和不良信息。《规定》鼓励算法正向应用和创新发展，通过人工干预优化算法推荐服务机制，将网络信息内容生态治理和算法治理有机结合，弘扬社会主义核心价值观。

（二）坚持风险防控，推进算法规制。《规定》着眼互联网信息服务中潜在的算法影响网络舆论、算法诱导用户沉迷或过度消费、算法共谋和不正当竞争等算法应用风险，由此引出治理对象，通过算法规制规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益。

（三）坚持规范发展，防止算法滥用。《规定》倡导，提供算法推荐服务应遵循公正公平、公开透明、科学合理和诚实信用的原则，四个基本原则为算法规范发展框定了边界。《规定》在信息服务规范和用户权益保护部分，设置了算法应用的应当行为和禁止行为，明确了算法应用的底线。

二、建立健全科学的监管体系，形成算法治理长效机制

《规定》明确了互联网信息服务算法综合治理的监管体系，构建了涵盖算法分级分类、算法备案管理、算法安全评估、算法风险监测等举措的科学监管体系，逐步形成算法治理长效机制。具体体现在三个方面：

（一）算法分级分类，科学精细治理。《规定》明确了算法治理的对象，即应用算法推荐技术向用户提供信息的算法推荐服务提供者。《规定》将互联网信息服务推荐算法分为生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五大类，并分别设置了针对性的差异化条款。例如，对于生成合成类算法推荐服务，强调“应做出显著标识”；对于个性化推送类，突出用户的自主选择权等用户权益保护；对于决策调度类，关注算法自动化决策对劳动者、消费者等造成的影响。对算法推荐服务的分级分类管理，体现了科学化、精细化的算法治理基本思路。

（二）算法备案先行，治理有章可循。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者通过互联网信息服务算法备案系统履行算法备案手续，并在对外提供服务的网站、应用程序等的显著位置标明其备案编号。算法备案是《规定》提出的一个重要举措，以算法推荐服务为切入点对其使用的互联网信息服务算法进行备案，将算法和服务作为一个有机整体进行治理。算法自评估报告是算法备案的一项亮点内容，为国家监管部门和算法推荐服务提供者协同推动算法治理工作提供了重要抓手。

（三）算法安全评估，力求标本兼治。《规定》明确了网信部门和电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查的工作职责，并要求算法推荐服务提供者对安全评估和监督检查工作提供必要的数据、技术等支持或协助。算法安全评估着眼于治本，从算法推荐服务的基本原理、目的意图、主要运行机制等方面入手，以“事前”评估的方式排除算法在模型、数据、策略、人工干预等方面的安全隐患；算法监督检查以事中监测的方式发现算法使用过程中的安全风险及算法滥用带来的算法乱象。算法安全评估和监督检查工作覆盖了算法应用的全生命周期，二者相互促进，力求算法治理做到标本兼治。

三、建设算法治理技术支撑体系，促进算法健康有序发展

《规定》的出台，是进一步提升网络综合治理能力的应时应势之举，具有很强的探索性和前瞻性，也标志着我国网络空间治理迈入新的发展阶段。但是，算法综合治理目前仍处于起步阶段，在技术支撑和能力建设方面有待进一步加强。加快推进算法综合治理技术支撑体系建设，是切实保障算法综合治理工作有力有序推进的关键。同时，算法安全既是国家重大需求，也是国际科技前沿，国家科研机构应加大算法安全方面的科技攻关，建设算法安全评估和风险监测的科研创新平台，建设支撑互联网信息服务算法综合治理的技术体系。建议加强如下工作：

（一）优化算法安全科研布局，构建算法治理关键技术联合攻关体系。围绕智能算法安全这一重大创新领域，组建国家重点实验室，形成引领算法安全基础研究的战略力量；充分调动“政产学研用”各方优势力量，探索共建新型研发机构，加大科研攻关力度，研究算法安全内生机理、算法安全风险评估、算法全生命周期安全监测等关键技术问题。

（二）完善算法人才队伍结构，建立算法安全治理人才队伍培养体系。鼓励高校设置并加强算法安全相关专业学科建设，扩大招生和培养规模，加大算法安全治理基础人才培养力度;完善算法安全治理领域成果评价和人才激励机制，提供良好科研生态环境，政策导向与市场优化双管齐下，培养一支高素质算法安全人才队伍。

（三）加强基础科研设施建设，提升算法自主创新和安全可控能力。建设算法安全基础科研设施，促进算法研发工作，支持算法与社会、经济各领域深度结合。加强知识产权保护，提高自研算法产品的推广和使用，增强算法核心竞争力。推进算法安全科学普及工作，提升企业和社会公众的算法安全风险意识，引导社会各界积极参与社会监督，共同推进算法综合治理。（作者：程学旗，中国科学院计算技术研究所副所长）