摘要：2021年是元宇宙元年，Roblox在招股书中提出了元宇宙的概念，Facebook直接更名为Meta（元宇宙）。人民日报评论微信公众号发文称“元宇宙概念的走红,背后有着相应的技术支撑和社会生活因素。”，新华社发文指出“元宇宙有可能激发数字经济更大的活力，甚至可能刺激新一轮的科技革命，带动从现实到虚拟多个产业进一步潜力挖掘！”，武汉、合肥、成都、上海市徐汇区、深圳市福田区均将元宇宙写入2022年政府工作报告，南昌准备设立元宇宙试验区。浙江省数字经济发展领导小组办公室印发《关于浙江省未来产业先导区建设的指导意见》，提出构建包括元宇宙等领域为重点的未来产业发展体系。元宇宙应当是一个现实世界与虚拟世界相互映射的经济系统，以虚实融合的方式形成现实世界和虚拟世界的相互映射。元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。元宇宙时代，同时也是一个算法的时代，算法合规与否直接决定了元宇宙合规与否。
关键词：元宇宙 算法治理 元宇宙合规 算法黑箱 算法歧视 信息茧房
2021年是元宇宙元年，Roblox在招股书中提出了元宇宙的概念，Facebook直接更名为Meta（元宇宙），字节跳动90亿元天价收购国内VR行业头部厂商Pico，百度推出元宇宙社交平台“希壤”，网易伏羲发布沉浸式活动系统“瑶台”，微软花费687亿美元收购美国游戏巨头动视暴雪并宣布进军元宇宙，2022年2月，美国元宇宙技术公司TerraZero Technologies在Decentraland上完成全球首笔元宇宙住房抵押贷款。人民日报评论微信公众号发文称“元宇宙概念的走红,背后有着相应的技术支撑和社会生活因素。”，新华社发文指出“元宇宙有可能激发数字经济更大的活力，甚至可能刺激新一轮的科技革命，带动从现实到虚拟多个产业进一步潜力挖掘！”，武汉、合肥、成都、上海市徐汇区、深圳市福田区均将元宇宙写入2022年政府工作报告，南昌准备设立元宇宙试验区。浙江省数字经济发展领导小组办公室印发《关于浙江省未来产业先导区建设的指导意见》，提出构建包括元宇宙等领域为重点的未来产业发展体系。元宇宙应当是一个现实世界与虚拟世界相互映射的经济系统，以虚实融合的方式形成现实世界和虚拟世界的相互映射，形成一种“你中有我，我中有你”的全新生活方式，提升人的体验、效率和更多无限可能。元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。元宇宙时代，同时也是一个算法的时代，算法合规与否直接决定了元宇宙合规与否。
一、什么是元宇宙
Roblox是全球UGC游戏创作平台及互动社区，其在招股书中列出了元宇宙的8个特征：身份认知、社交、沉浸感、随时随地、多样性、低延迟、经济、文明。元宇宙是以VR、AR、MR、XR、AI、区块链、GPU、数字孪生、云计算、边缘计算、脑机接口等技术为基础，通过游戏、社交、虚拟人、NFT、虚拟货币、工业仿真、数字城市等应用构成的下一代互联网生态。元宇宙应当是一个拥有海量用户创作内容、物理世界和社交关系的数字化呈现、原生于数字世界的虚拟资产价值显现、三维沉浸式体验、现实世界与虚拟世界相互映射的经济系统，在该经济系统中人们可以劳动、创作获得回报，可以投资、交易获得利润，形成与现实世界类似甚至一样的经济文化繁荣。元宇宙应当是建立在各式开源软件、标准和协议基础上开放的各式数字化宇宙，各式元宇宙之间可能相互兼容也可能相互碰撞亦有可能相互共存。
元宇宙是继PC互联网、移动互联网之后的第三代互联网，能够给用户带来从二维的平面视觉、听觉体验进展到包含空间性维度的三维沉浸式、交互式立体体验，包括视觉、听觉、触觉、味觉、嗅觉等多感官维度体验，是人类未来的数字化生存方式。该数字化存在并不是和现实世界分离，也不是和现实世界平行的虚拟世界，而是以虚实融合的方式形成现实世界和虚拟世界的相互映射，形成一种“你中有我，我中有你”的全新生活方式，提升人的体验、效率和更多无限可能。
二、算法的发展历程
算法，是区块链、人工智能、自动化决策等技术的内部规则，已应用到数字城市、智慧医疗、智能制造等诸多应用场景，是打造元宇宙合规的核心要素。
算法技术最早起源于1940年代后期，1950年艾伦·图灵发表了一篇论文描述了第一个机器翻译算法，并发明了图灵机让其执行被定义的算法任务。
2014年5月，美国白宫发布了《大数据:抓住机遇，保护价值》报告，该报告认为：受数据来源的特定性和算法设计者主观意图的影响，算法自动化决策往往会构成隐性偏见，从而系统性地减少个人获得信贷、就业和教育的机会。
2017年美国计算机协会美国公共政策委员会发布了《算法透明性和可问责性声明》，希望使用算法决策的系统和机构在外部问责方式下，对算法的过程和特定的决策提供解释。
2018年1月，纽约市通过《自动化决策特别工作组法》，对政府使用的各种算法进行监管。
2018年5月，欧盟出台《通用数据保护条例》，首次在立法中提出和创设了算法解释权，并试图通过算法解释权来确保算法透明原则的实现。
2019年2月,加拿大政府出台《关于自动决策的指令》系统化创建算法影响评估指标。
2019年4月，美国国会引入《2019年算法问责法案》，该法案采用了影响评估的机制，强制要求相关实体针对高风险自动决策系统进行自动决策系统影响评估和数据保护影响评估。
2019年4月，欧洲议会研究服务机构发布《算法问责及透明度监管框架》，就算法及其在自动化决策系统中的应用快速增长提出了全面的监管框架。
2020年2月，欧盟发布《人工智能白皮书—通往卓越和信任的欧洲路径》，提出构建“卓越生态系统”和“信任生态系统”。
2020年4月，美国联邦贸易委员会发布的《人工智能和算法运用》指出：意图良好的算法可用于做出积极的决定，但结果可能会无意间不成比例地影响特定的少数群体。
2020年7月，新西兰政府出台全球首个国家层面的《算法章程》，该章程规定政府机构在采用可能对社会大众产生重大影响的算法技术之前如何使用算法。
2020年12月，欧盟公布了《数字服务法案》草案，要求提高在线平台透明度，对平台推荐算法进行审核，防止滥用平台权利。
2021年4月，欧盟发布世界范围内第一份综合性《人工智能法案》，采取了四类风险分级方法，对不同风险级别的人工智能系统使用采取不同的限制措施。
2021年9月，国家互联网信息办公室等九部委印发《关于加强互联网信息服务算法综合治理的指导意见》。
2021年12月31日，我国第一部以算法推荐服务为规制对象的部门规章《互联网信息服务算法推荐管理规定》正式颁布。
三、算法的概念与含义
元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。元宇宙时代，同时也是一个算法的时代，算法合规与否直接决定了元宇宙合规与否。算法时代，是一个由政府机构、社会团体、商业平台等基于大量数据利用并通过算法进行自动化决策的时代，是广泛应用在医疗、教育、就业、金融等行业决策的时代。算法，源自计算机科学的一个概念，是执行预定良好计算过程的计算机代码或指令，基于原始数据的输入通过自动化决策产生结果数据的输出。算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。随着算法的日益广泛应用，算法已经成为促进政治、经济、文化和社会发展的工具。算法，简而言之就是“数据处理活动”，收集处理数据，挖掘数据价值，涵盖了数据的生成、采集、存储、转换、处理和输出的全过程。算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。
政府机构、社会团体、商业平台等将算法内嵌在健康码、个人征信、风险评估、金融风控、智能安防、公共卫生防治等应用场景中，可以支配数据流动挖掘数据价值并构建新的社会秩序。算法，已经不是纯粹的的计算机代码或指令，不再是简单的数据处理工具，而是被政府机构、社会团体、商业平台等预设了其利益或偏见的不透明自动化决策系统。“算法滥用”，即算法的不正当使用，借助算法的工具属性和算法“技术中立”的本质属性，将其利益或偏见嵌入到算法运行的各个微观层面，嵌入到新生产生活资料引发的经济秩序和社会秩序重构，可能对公民权利、社会秩序、政治权力体系等造成一定的冲击。算法治理，就是对政府机构、社会团体、商业平台等控制算法的人采集、传输、分类、选择、分析、评估、控制数据方式的治理，是对算法自动化决策系统本质方面的深入理解，也是对社会秩序的一种治理。
四、算法黑箱 算法歧视 信息茧房
1、算法黑箱
算法，是一个数据处理的自动化决策系统，其处理过程通常以计算机代码或指令的形式呈现，且算法主体以外的人通常无从知晓，仅留行为规则对外可见，俗称“算法黑箱”。所谓的算法，即计算机代码或指令，其为算法设计者人为设计而成的，并为算法使用者在特定的应用场景中使用。简而言之，再复杂的算法都是由诸个小的计算机代码或指令组合或调用而成，小的计算机代码或指令组合或调用的程序不同可以得出不同的决策结果；同时，算法的决策结果受参数设置、消费者画像、决策规则等因素影响，而上述因素均是由算法设计者和算法使用者控制和决定的。
中国政法大学民商经济法学院李扬教授认为：从技术上看，推荐算法的设计本身完全属于黑箱操作，对著作权人及其作品充满了各种精致的“算计”，且不排除推荐算法设计过程中，对著作权人的作品进行复制并以此构建内容库的可能性。根据权利义务对等原则，推荐算法的利用者对算法推荐的内容，理应负担更高的注意义务。西南政法大学知识产权学院易健雄教授认为：网络服务提供者以算法技术主动向用户推送内容链接或发布内容信息的，应就其主动推送或发布的信息承担注意义务；知道某个侵权行为存在的，对已知作品的其他类似被侵害行为负有注意义务；对版权人事先提供的供版权过滤比对的权源性作品负有更高的注意义务。注意义务标准的提高，并非无端加重网络服务提供者的负担，而是‘能力越强，涉入越深、利益越大、责任越重’的必然要求。
在全国首例算法推荐案北京爱奇艺科技有限公司（以下简称“爱奇艺公司”）诉北京字节跳动科技有限公司（以下简称“字节公司”）侵害《延禧攻略》信息网络传播权一案中，爱奇艺公司系在线视频平台“爱奇艺”的经营者，经授权依法享有热播影视作品《延禧攻略》(以下简称延剧)在全球范围内独占的信息网络传播权，并为此支付了巨额的版权费用，有权针对侵权行为依法进行维权。字节公司未经授权，在延剧热播期间，通过其运营的“今日头条”iOS和安卓版手机应用程序(以下合称今日头条App),利用信息流推荐技术，将用户上传的截取自延剧的短视频(以下简称涉案短视频)向公众传播并推荐，导致播放量极高，其中单条最高播放量超过110万次。
法院认为：对基于协同过滤算法的涉案信息流推荐技术的应用，仅仅是实现短视频在今日头条App中从上传到最终推送至用户进行浏览的这一过程中的部分环节。在“初审一冷启动一正常推荐一复审”的全部流程中，算法推荐尽管是实现服务不可或缺的重要部分，但绝不是全部。因此，即使通过算法推荐识别短视频具体内容不具有技术可行性，但对于允许哪些短视频进入被算法推荐的范围，如何设置和优化算法推荐的具体应用方式，以及如何将已经进入推荐范围的侵权短视频纳入复审环节以避免其被大范围、长时间地传播等方面，字节公司仍可以通过在其服务和运营的相应环节中施以必要的注意、采取必要的措施加以完善。至于具体应当采取哪些措施，法院不宜、也无法直接作出要求，应交由字节公司根据其服务和用户等实际情况制定相应策略，自主进行决定，并在个案中验证其实际效果，即是否能够实现及时、有效制止和预防明显的侵权行为和后果。正如字节公司自已在《3分钟了解今日头条算法原理(科普版)》视频中所言：算法分发并非把所有决策都交给机器，我们会不断纠偏、设计、监督并管理算法模型，希望能让更多的人理解算法，并共同参与到算法模型的制定中来，让算法为社会创造更大的价值。字节公司不仅仅是信息存储空间服务，而是同时提供了信息流推荐服务，理应对用户的侵权行为负有更高的注意义务。最终，字节跳动公司的涉案行为构成帮助侵权，并判定赔偿原告经济损失150万元及诉讼合理开支50万元，共计200万。
2、算法歧视
算法，即计算机代码或指令，是由算法设计者设计而成的，然而算法设计者的知识背景和生长生活经历总是在不经意间融入整个设计及运行过程，算法设计者的价值偏向及其对算法方法的选择均影响到算法的公平公正，关系到是否包含社会歧视与不公。不同的算法使用者有不同的利益，在算法应用中包含着不同的价值判断，更多时是以自身利益出发来选择参数设置、制定消费者画像及决策规则，必然形成一定意义上的社会歧视与不公。另外，下述行为也有可能构成社会歧视与不公：将浏览次数、支付意愿、支付能力、依赖程度、交易频次、交易时使用的终端设备品牌等作为与消费者进行交易的条件参数，使用有违社会公德、歧视性、偏见性用户标签，对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇，在选取处理数据的样本取量过小进而忽略少数群体的数利益诉求，数据不及时更新或偏见数据的持续使用。
在欧洲算法歧视第一案“意大利户户送有限责任公司算法歧视案”中，事实部分：意大利户户送有限责任公司使用数字平台模式经营送餐到家的外卖业务，外卖骑手使用自助预定系统来预定下周的工作时间和区域，只有评分排名前15%的外卖骑手才可以进入平台预定工作时间。数字平台对外卖骑手依据可靠性和参与性两个参数来评分，决定外卖骑手的工作时间和区域。意大利总工会认为，平台算法在对外卖骑手进行评分时，没有考虑外卖骑手可能因疾病等合法原因导致评分降低，进而失去优先选择工作条件的机会，具有集体歧视性。
法院认为：根据2003年第216号法令第2条，该条规定了直接歧视与间接歧视，直接歧视是指因为宗教信仰、残疾、性取向等直接遭受到的不平等待遇，间接歧视是指表面公平公正的规定、标准、惯例、行为等可能导致间接的实质上不平等待遇。直接歧视是主观意愿所致，而间接歧视则与公司主观意愿无关。表面上看意大利户户送有限责任公司行为具有中立性，其平台系统对所有的骑手都适用而且并不针对任何人，但平台算法参数的设置没有考虑外卖骑手没有赴约的真正原因，对外卖骑手产生一定的消极影响，实质上阻碍了外卖骑手参加工会罢工、疾病等合法权利的行使，减少其未来获得工作的机会，属于间接歧视。
在胡红芳、上海携程商务有限公司案中，事实部分：胡红芳为携程公司的钻石贵宾客户，依照携程公司对外宣传，钻石贵宾客户享有酒店会员价8.5折起等特权。2020年7月18日，胡红芳在携程公司运营的携程旅行APP中预订了当天舟山希尔顿酒店豪华湖景大床房一间，订单金额为2889元，并于当天上午8点42分付款完成。2020年7月18日上午8点53分，酒店对外电话接到自称王先生的人来电，以胡红芳名义直接向酒店预订，房款1377.63元通过微信支付，且注明房价保密。酒店对该订单的记录仅显示店外客人电话预定，未显示其他商业合作渠道，酒店方提供的来源于携程的订单记录里也无该笔订单。2020年7月19日退房时，胡红芳要求酒店开具发票，发现酒店房价为1377.63元。
法院认为：本案是否认定携程公司存在“大数据杀熟”，不影响携程公司存在侵害消费者个人信息行为的认定。原审并未在本案中对携程公司的“大数据杀熟”予以查证并以此认定携程公司构成侵权。案涉《隐私政策》明确载明携程公司可能将对胡红芳的订单数据用于分析，从而形成用户画像。胡红芳作为一名普通消费者在面对携程公司掌控平台内所有数据且事先亦告知要进行数据画像等商业利用的情况下，当得知案涉订单支付了不合理高价时，对携程公司产生“大数据杀熟”的疑虑合乎常理，相关主张有一定的事实基础。且携程公司提交的142笔订单信息显示，同日入住的单价价差最大达到1600多元，同日订单价格高低与是否提前预定不相关，其价格机制不透明。此外，在接受案涉订单的投诉后，携程公司所作的核实处理亦极其不严肃，甚至存在欺骗行为，既说明其内部管理失范，更加重了消费者的不信任。携程公司作为一家在行业内占据优势地位，并在国内享有广泛知名度数据企业，理应负有更高的社会责任和使命，应聚焦为何消费者会认为其存在“大数据杀熟”以及如何改进提升自身的服务以消除消费者疑虑，为更好提升消费者对网络服务平台经营者的信任感而有所担当和作为。
3、信息茧房
信息茧房，是指商业平台等利用算法形成的检索、排序、选择、推送、展示等规则，进行个性化信息推送以刻意迎合用户的主观喜好，导致用户陷入“信息茧房”。信息茧房，是商业平台等完全逐利的非理性数据处理方式，导致用户陷入商业平台等所提供单一信息构造的“信息茧房”中，被现实世界所桎梏和孤立。人民网二评算法推荐：别被算法困在“信息茧房”指出，随着算法日益精密、技术不断提升，智能化的信息分发模式反而把许多人困在“信息的茧房”，失去了探索未知、创造不同可能性的机会。预言与现实的反差，正提醒我们：勇于驶出信息的孤岛，敢于走出知识的一亩三分地，拥抱丰富多彩的世界，才能赢得精彩的未来。《半月谈》指出：网络信息多样、开放、共享，而一味迎合受众的阅读偏好，计算方法简单，定向推送粗暴，让读者尤其是鉴别力、自控力不强的青少年越“好”越“偏”。原本能够提供多样化精神食粮的手机App，却让人有一种“我才夹了一筷子，你就送我一桌子”的惊喜与尴尬，在不知不觉中受困于“信息茧房”。信息茧房经典案例“可可托海的牧羊人”：“可可托海的牧羊人”上了春晚后大家都觉得好听，大多数中老年人都表示在微信朋友圈早就听过，而许多年轻人则表示第一次听，大家用的一样的APP看到的却是不同的世界。
五、我国现有算法法规文件解读
2021年9月，国家互联网信息办公室等九部委印发《关于加强互联网信息服务算法综合治理的指导意见》，该意见提出：以算法安全可信、高质量、创新性发展为导向，建立健全算法安全治理机制，构建完善算法安全监管体系，推进算法自主创新，促进算法健康、有序、繁荣发展，为建设网络强国提供有力支撑。2021年12月31日，我国第一部以算法推荐服务为规制对象的部门规章《互联网信息服务算法推荐管理规定》正式颁布，规定明确了算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等；明确了算法选择权，要求向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。2021年11月，《上海市网络交易平台网络营销活动算法应用指引（试行）》发布，具体规范网络交易平台网络营销活动算法应用行为，为平台经营者划出合规底线。
1、《关于加强互联网信息服务算法综合治理的指导意见》
《指导意见》提出：利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局；加强算法治理规范，优化算法治理结构，强化统筹协同治理，强化企业主体责任，健全算法安全治理机制；有效监测算法安全风险，积极开展算法安全评估，有序推进算法备案工作，构建算法安全监管体系；推进算法分级分类安全管理，有效识别高风险类算法，实施精准治理；促进算法公开透明，合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释；引导算法应用公平公正、透明可释；提高算法自主可控能力，保护算法知识产权，强化自研算法的部署和推广，提升我国算法的核心竞争力；防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为；
2、《互联网信息服务算法推荐管理规定》
（1）构建算法规制体系。《规定》明确国家网信办为算法规制主体，对算法推荐服务提供者实施分级分类的日常管理，开展安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改；建立用户自主选择机制，向用户提供便捷的关闭算法推荐服务的选项，向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能，算法推荐服务提供者接受社会监督并承担相应责任；具有舆论属性或者社会动员能力的算法推荐服务提供者应当履行备案手续。
（2）算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。
（3）在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免个性化信息推送导致用户陷入“信息茧房”。
（4）通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。
（5）充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，便利老年人安全使用算法推荐服务。
（6）优化检索、排序、选择、推送、展示等规则的透明度和可解释性，以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等，避免“算法黑箱”。
（7）不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为，避免“大数据杀熟”等算法歧视。
3、《上海市网络交易平台网络营销活动算法应用指引（试行）》
《指引》指出影响算法应用结果公平、公正的因素包括：参数设置是否科学、合理，消费者画像是否公正、客观、真实，决策规则设计是否科学、合理；不应将浏览次数、支付意愿、支付能力、依赖程度、交易频次、交易时使用的终端设备品牌等作为与消费者进行交易的条件参数；确保消费者画像依据来源合法，尊重消费者人格尊严，避免使用有违社会公德、歧视性、偏见性用户标签；不得对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇；利用算法，根据消费者的兴趣爱好、消费习惯等特征向其提供搜索结果的，应当同时向该消费者提供不针对其个人特征的选项；鼓励将保护残疾人、老人、未成年人等弱势群体的利益纳入算法应用的考量因素。
4、《最高人民法院关于审理侵犯商业秘密民事案件适用法律若干问题的规定》
该司法解释首次将算法列入商业秘密保护客体中。算法是一种智力活动的规则和方法,其本身并不能获得专利，但实施算法的技术方案可以获得发明专利。
