专家解读｜加强算法安全科研攻关推进算法综合治理

原标题：专家解读｜加强算法安全科研攻关 推进算法综合治理

　　人类社会正加速进入智能化时代，数据是关键生产要素，算法是核心生产力。随着人工智能、大数据等新型信息技术的快速发展，算法与互联网信息服务深度融合，为用户提供个性化、精准化、智能化的信息服务。互联网信息服务算法在加速互联网信息传播、繁荣数字经济、促进社会发展的同时，其不合理应用也影响了正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来挑战。

　　为规范互联网信息服务算法应用生态，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》）。《规定》是目前我国针对互联网信息服务算法推荐出台的最为系统的专门性部门规章，为规范互联网信息服务算法推荐活动、促进互联网信息服务健康发展、推进网络空间治理提供了重要的制度保障，意义重大，影响深远。

　　一、坚持主流价值导向，管理好使用好发展好算法应用

　　《规定》着眼于网络信息内容生态治理，防范互联网信息服务算法滥用风险，保障用户合法权益，充分发挥算法服务正能量传播作用，营造风清气正的网络空间。《规定》从以下三个方面明确了算法治理的总体方向。

　　（一）坚持正确导向，算法向上向善。《规定》鼓励算法推荐服务提供者使用算法积极传播正能量、抵制违法和不良信息。《规定》鼓励算法正向应用和创新发展，通过人工干预优化算法推荐服务机制，将网络信息内容生态治理和算法治理有机结合，弘扬社会主义核心价值观。

　　（二）坚持风险防控，推进算法规制。《规定》着眼互联网信息服务中潜在的算法影响网络舆论、算法诱导用户沉迷或过度消费、算法共谋和不正当竞争等算法应用风险，由此引出治理对象，通过算法规制规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益。

　　（三）坚持规范发展，防止算法滥用。《规定》倡导，提供算法推荐服务应遵循公正公平、公开透明、科学合理和诚实信用的原则，四个基本原则为算法规范发展框定了边界。《规定》在信息服务规范和用户权益保护部分，设置了算法应用的应当行为和禁止行为，明确了算法应用的底线。

　　二、建立健全科学的监管体系，形成算法治理长效机制

　　《规定》明确了互联网信息服务算法综合治理的监管体系，构建了涵盖算法分级分类、算法备案管理、算法安全评估、算法风险监测等举措的科学监管体系，逐步形成算法治理长效机制。具体体现在三个方面：

　　（一）算法分级分类，科学精细治理。《规定》明确了算法治理的对象，即应用算法推荐技术向用户提供信息的算法推荐服务提供者。《规定》将互联网信息服务推荐算法分为生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五大类，并分别设置了针对性的差异化条款。例如，对于生成合成类算法推荐服务，强调“应做出显著标识”；对于个性化推送类，突出用户的自主选择权等用户权益保护；对于决策调度类，关注算法自动化决策对劳动者、消费者等造成的影响。对算法推荐服务的分级分类管理，体现了科学化、精细化的算法治理基本思路。

　　（二）算法备案先行，治理有章可循。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者通过互联网信息服务算法备案系统履行算法备案手续，并在对外提供服务的网站、应用程序等的显著位置标明其备案编号。算法备案是《规定》提出的一个重要举措，以算法推荐服务为切入点对其使用的互联网信息服务算法进行备案，将算法和服务作为一个有机整体进行治理。算法自评估报告是算法备案的一项亮点内容，为国家监管部门和算法推荐服务提供者协同推动算法治理工作提供了重要抓手。