辛小天、杨雪娇：“清朗·2022年算法综合治理”专项行动与合规要点解读-邵阳离婚律师事务所|邵阳出轨证据固定|小三劝退

新闻中心

辛小天、杨雪娇：“清朗·2022年算法综合治理”专项行动与合规要点解读

2024-11-21 0

《人工智能系统的规制》[1]一文揭示了人工智能时代的三个核心技术要求，数据、算法和人工干预，这三大要素将锚定监管方向。我们已经进入了人工智能时代。在《数据安全法》《个人信息保护法》等诸多针对数据的规制出台之后，算法及其人工干预方式进入了监管的关注领域。近年来，算法在经济社会生活多领域得到越来越多的应用，成为影响信息分发、服务提供、机会分配、资源配置的基础性机制和力量，但与此同时，“信息茧房”、“算法歧视”、“大数据杀熟”、诱导沉迷等算法的不合理应用也影响了正常的市场秩序和社会秩序，给维护社会公平公正和广大互联网用户的合法权益带来巨大挑战。

特别是为了回应广大网民关注的互联网平台纵容“饭圈”利用算法进行刷量、控评、打榜滋生“饭圈”乱象等网络信息内容生态问题，国家网信办在2021年网络“清朗”系列专项行动中，专门组织开展了“清朗·算法滥用治理”专项行动，对全国范围内300余家互联网企业进行了算法检查，包括新闻媒体、电商平台、视频网站等。通过检查和督促整改，去年的专项行动取得了良好成效。国家网信办等部门通过检查了解了国内算法应用情况和企业算法安全的风险现状，为制定相关政策法规提供了实践基础。同时，去年的专项行动也为今年继续开展专项行动积累了经验，奠定了基础。

在2021“清朗·算法滥用治理”专项行动的推动下，去年9月，国家网信办等九部门印发《关于加强互联网信息服务算法综合治理的指导意见》，决定启动一项三年计划，在三年左右时间里逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。今年1月4日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》（“《管理规定》”）并于3月1日正式施行，为开展算法综合治理提供了法律依据。

2022年算法综合治理专项行动的具体内容

根据3.17新闻发布会介绍，此次综合治理专项行动的目标是聚焦网民关切，解决算法难题，维护网民合法权益。重点是落地落实落好《管理规定》，推动算法综合治理工作的常态化和规范化，具体包括以下三个方面：

一是推动《管理规定》的落地。深入检查各类算法应用的情况，针对违反《管理规定》的现象和行为，依法依规进行惩治和处罚，严厉打击算法违法违规行为；同时也督促企业开展算法备案，履行好主体责任。

二是推动《管理规定》的落实。督促整改算法不合理应用带来的“信息茧房”“算法歧视”“大数据杀熟”等影响网民生产生活的问题，切实维护好网民合法权益。

三是推动《管理规定》的落好。指导企业利用算法弘扬社会主义核心价值观，加大正能量传播力度，有效处置违法和不良信息。

法律法规和规范性文件依据

国外对于算法的担忧主要集中于算法偏见和算法透明度问题，其规制框架也紧密围绕着如何管理和控制偏见，以及如何解决算法的“可解释性”，其监管路径更加倾向于以法律的风险管理思维监管算法技术。同时，基于前述算法固有风险，算法被严格限制用于政府机构的社会评分功能或远程生物识别系统当中。中国监管思路下，驯服算法主要依靠驯服使用算法技术提供服务的“算法推荐服务提供者”。从2018年的《电子商务法》，2021年的《个人信息保护法》对算法推荐的个别条款规定，到2022年出台《管理规定》作为算法推荐服务的专门立法，从消费者权益保障、反垄断和劳动法等领域的单点治理再到《管理规定》的全面规制，我国对算法推荐服务及其提供者的法律规范框架已基本搭成：

辛小天、杨雪娇：“清朗·2022年算法综合治理”专项行动与合规要点解读

鉴于本次专项行动的重点是根据《管理规定》开展算法推荐服务的综合治理，我们对标此次行动的关注点整理了《管理规定》中的相关合规要点：

辛小天、杨雪娇：“清朗·2022年算法综合治理”专项行动与合规要点解读

《管理规定》还明确了算法推荐服务提供者如违反相关规定需承担的法律责任，为此次监管部门开展算法综合治理提供了处罚依据。需要注意的是，《管理规定》也囊括了《网络安全法》《数据安全法》《个人信息保护法》《电子商务法》《反不正当竞争法》《反垄断法》《网络信息内容生态治理规定》《未成年人网络保护条例（征求意见稿）》等法律法规的规范内容，对于违反前述法律法规的行为监管部门将按照前述法律法规予以处罚。

辛小天、杨雪娇：“清朗·2022年算法综合治理”专项行动与合规要点解读

过往算法治理的监管案例和监管重点

在去年开展的“清朗·算法滥用治理”专项行动中，监管部门对全国范围内300余家互联网企业进行了算法检查，并督促互联网企业对检查中发现的问题作出针对性的整改，例如，公开公示算法的基本原理，提供关闭个性化推荐功能的选择，优化算法模型以防范过度推荐、定价不一致、排序规则不合理等问题。

除了专项行动的大规模检查整改外，监管部门还着重关注算法在反不正当竞争、反垄断和保护劳动者和消费者合法权益领域的滥用行为。

去年4月，国家市场监管总局对阿里巴巴集团控股有限公司在中国境内网络零售平台服务市场滥用市场支配地位，实施“二选一”垄断行为处以182.28亿元的罚款，同时还发布了《行政指导书》，要求阿里巴巴制定整改方案，并在3年内向市场监管总局提交年度自查合规报告。《行政指导书》要求阿里巴巴不得利用数据、算法等实施垄断协议和滥用市场支配地位，排除、限制市场竞争；客观中立设定搜索、排序等算法，公平公正使用数据资源，提供平台治理规则的公开性和透明度，依法保护个人信息和隐私。

去年9月，人力资源社会保障部会同交通运输部、市场监管总局、全国总工会召开平台企业行政指导会，就维护新就业形态劳动者劳动保障权益对美团、饿了么、滴滴、达达、闪送、货拉拉、满帮、到家集团、阿里巴巴、腾讯等10家头部平台企业开展联合行政指导。要求头部平台企业“做示范”，积极履行用工责任，依法合规用工，按照7月16日八部委联合印发的《关于维护新就业形态劳动者劳动保障权益的指导意见》制定修订与订单分配、工作时间、报酬奖惩相关的制度规则和平台算法。

去年10月，针对美团在中国境内网络餐饮网络餐饮外卖平台服务市场滥用市场支配地位行为，国家市场监管总局对其作出34.42亿元的罚款。在行政罚款的同时，市场监管总局还向美团发出《行政指导书》，要求其围绕完善平台佣金平台佣金收费机制和算法规则、维护平台内中小餐饮商家合法利益、加强外卖骑手合法权益保护等进行全面整改，并连续三年向市场监管总局提交自查合规报告，确保整改到位。在算法规则方面，《行政指导书》要求美团不得利用数据、算法实施垄断协议和滥用市场地位行为，排除、限制市场竞争；不得违法收集消费者个人信息和违法实施算法推荐，维护消费者权利；严格落实《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》，优化算法规则，不得将“最严算法”作为考核要求，保护外卖送餐员的合法权益等。

对相关企业的合规建议和现有企业良好实践

去年监管部门对算法治理还处在试水过河的摸索阶段，除了对个别互联网企业因为实施反垄断行为而处以巨额罚款外，对互联网企业的算法滥用行为还只是处在督促问题企业进行整改或者要求企业自查合规整改的阶段，随着去年行动的经验累积和《管理规定》的出台，可以预见监管部门会在未来的算法综合治理专项行动中逐步加大治理的强度和对问题企业的处罚力度。

鉴于此，我们建议相关企业梳理现有的算法应用场景、算法机制机理、模型、数据和应用结果等，按照前述整理的《管理规定》的合规要点开展内部自查和风险评估，在此基础上，综合考量监管可能的关注重点、合规整改的紧急和难易程度，区分紧急任务和长期任务开展合规整改。对于主体备案和公示、用户和特殊主体权利保障等监管可能重点关注、整改起来也相对容易的风险点相关企业可以作为紧急任务优先整改，把内部管理制度和机制建设、人员和技术措施的完备等方面可以作为长期任务来逐步完善。

辛小天、杨雪娇：“清朗·2022年算法综合治理”专项行动与合规要点解读