从算法技术看网络服务提供者的“应当知道”

内容提要：利用算法技术监测涉嫌侵权信息、发送侵权通知、处置涉嫌侵权信息已成业界常态。算法实施下，《民法典》第1197条的“知道”应解释为“实际知道”“推定知道”和“视为知道”；“应当知道”应回归“应知而未知”的固有涵义，且至少应考虑网络服务提供者：以算法技术主动向用户推送内容链接或发布内容信息的，就其主动推送或发布的信息承担注意义务；知道某个侵权行为存在的，对已知作品的其他类似被侵害行为负有注意义务；对版权人事先提供的供版权过滤比对的权源性作品负有更高的注意义务。

前言

新一代科技革命将人类带入了智能社会。科技力量正以前所未有的深度影响、改造着包括法律领域在内的人类生活。技术既是法律制度的规制对象，也是法律社会的治理工具。作为技术从规制对象向治理工具迁跃的重要表征，法律的算法实施（或称“通过算法的法律实施”）成为法学理论研究和法治体系建设不可或缺的组成部分。网络服务提供者的侵权责任问题恰属法律算法实施的前沿领域，可集中体现为从“算法技术的法律视角”，考量《民法典》第1197条网络服务提供者“应当知道”的适用。

一、算法技术在版权领域的应用

在大数据、云计算、人工智能等新一代信息技术蓬勃发展的智能社会，算法常被认为是“一种有限、确定、有效的并适合用计算机程序来实现的解决问题的方法”，是智能社会必需的技术治理工具。在版权领域，算法技术被用于网络治理或权利维护的现象已不鲜见。早在2007年，视频网站YouTube就因不胜讼累而推出了专门针对盗版视频和音频的“内容识别（Content ID）”系统，利用“指纹比对算法”对用户上传的视频内容自动进行版权监测。2014年，同样被侵权诉讼困扰的美国视频共享网站Vimeo也开始采用与Content ID系统类似的“版权守望（Copyright Watch）”系统，对用户上传的视频内容进行过滤。2018年，YouTube又推出了打击盗版侵权的新举措——“版权匹配工具（Copyright Match Tool）”，用于监测平台上重复上传的与原创视频相同的视频。在国内，文档分享平台百度文库于2011年推出了“反盗版DNA比对识别系统”，对用户上传的文档进行版权监测。2015年，搜狐视频宣布其自主研发的“视频基因比对技术”正式上线，该技术“能以现有的近百万级别版权视频作为基因母库……新上传的每一个视频，都会与基因母库里的所有视频进行对比，若发现与版权视频相似度极高，即可判断为疑似盗版视频”。2017年，今日头条平台引入了内容识别系统。2018年，字节跳动公司首次公开了其自主研发的视频版权保护系统——“灵识系统”。目前，抖音、西瓜等短视频平台均已接入灵识系统。2020年抖音安全中心事先拦截违规视频内容超过2.64亿条，其中“机器审核”拦截超过9125万条。

除网络平台研发和使用各类算法技术监测、拦截涉嫌侵权信息以外，一些第三方机构也进入“算法技术”市场，为版权人提供自动侵权监测服务。例如，创立于2011年的“删除你的媒体有限责任公司（Remove Your Media LLC）”可以为客户的作品提供 “24/7/365自动监测”和发送侵权通知等服务。该公司仅在2017年2月13日一天就要求谷歌删除3,644,439个网址。正是在这类第三方机构的介入下，网络平台经常收到海量的删除通知。面对如此巨量的侵权通知，网络平台也只能同样依靠算法技术来处理——仅靠人工处理是不可想象的。以谷歌为例，谷歌使用算法技术，在2013年删除了2.2亿条链接，收到通知后删除链接的平均响应时间是6个小时。此种效率，非算法技术不可达。在国内，同样创立于2011年的“冠勇科技”公司自主研发了“易犬（EQain）”版权开放平台。该平台采用自然语言理解、深度学习、声音波形、画面帧数字指纹对比和大数据等核心技术，实现了全网络、全作品、7×24小时不间断的实时监测，监测范围涵盖电影、电视剧、综艺、短视频、自媒体、动漫及衍生品、体育赛事、文学、图片、音乐、知识付费及电商等各个内容领域。截至2020年11月，该平台已服务超过2000万件版权作品，监测发现超过5000万条侵权链接。报告显示，2020年中国网络版权产业市场规模首次突破万亿，达到11847.3亿元，其中，版权确权、监测维权、版权交易方面的版权服务市场在2019年即已达千亿规模。目前，以算法技术为基础的版权监测已发展成为一门新兴的“版权”产业，正吸引着各类主体从不同维度入市。各大网络平台往往联合专业的第三方监测维权机构，通过人工智能、区块链及大数据等技术，积极赋能版权确权、版权监测、取证和维权，为版权人提供一站式版权保护服务。这一现象被称为“2019年中国网络版权保护领域的一大亮点”。

随着算法技术在实践中的推广应用，国家行政机关在一系列版权行政执法行动中也开始要求网络平台建立主动审查机制。例如，2015年国家版权局在《关于规范网盘服务版权秩序的通知》中要求“网盘服务商应当建立必要管理机制，运用有效技术措施，主动屏蔽、移除侵权作品，防止用户违法上传、存储并分享他人作品”。2016年国家版权局在《关于加强网络文学作品版权管理的通知》中再次要求“提供信息存储空间服务的网盘服务商，应当遵守国家版权局《关于规范网盘服务版权秩序的通知》，主动屏蔽、删除侵权文学作品，防止用户上传、存储并分享侵权文学作品”。在打击网络侵权盗版的“剑网”专项行动中，国家版权局也要求“积极运用版权监测机构的技术优势，提高对网络侵权盗版信息的发现、研判、处置效率”。各主流网络平台开始有能力对网站内容进行审查，2012年甚至“在一夜之间删除绝大部分盗版视频”。主动采取技术措施监测、拦截涉嫌侵权信息不再被视为网络平台的“难以承受之重”。

概观版权领域算法技术的实践应用，可以认为：（1）近十余年来，利用算法技术监测涉嫌侵权信息、发送侵权通知、处置涉嫌侵权信息已成业界常态，“通知—删除规则”越来越依靠算法技术来执行，已实际操作成“算法通知—算法删除”模式，大有“技术问题交给技术解决”之势。（2）在版权人维权需求的推动下，主流网络平台或第三方专业机构采用算法技术，研发或引入各种版权保护系统，主动监测、拦截涉嫌侵权信息也已成为业界常态，且会成为网络版权保护的趋势。（3）网络平台已有能力利用算法技术主动监测、拦截涉嫌侵权信息，并且该项能力已为版权主管部门所要求，成为各项网络版权专项行政执法行动的“工作举措”。（4）利用算法技术的版权监测、维权服务已成为具有一定规模的市场化服务项目，有良好的市场前景。

二、传统视野下网络服务提供者的“应当知道”

要理解算法技术对认定网络服务提供者“应当知道”的影响，就需要先了解传统视野下网络服务提供者“应当知道”的内涵。《民法典》上的“应当知道”常与“知道”相伴而行，对“应当知道”的理解也须从“知道”开始。“知道”一般被认为是对主体认识到某事物的事实描述。在传统语境下，“知道”描述的是一种确切的状态，只要证据层面能提供支持，即为确定之事实，并无价值考量的需要。网络服务提供者接到“通知—删除规则”的侵权通知，即为“知道”涉嫌侵权行为的存在，谓之“通知型知道”，属《民法典》第1197条所规定“网络服务提供者知道”的典型情形。除“通知型知道”外，经由合同谈判、业务合作等途径“实际知道”涉嫌侵权行为存在的，也属“知道”情形；有时为了强调主体“实际知道”的认知状态，也会使用“明知”的表述。

相较于“知道”，《民法典》第1197条规定的网络服务提供者“应当知道”的涵义要复杂得多。通说认为，我国传统民法上“应当知道”的固有涵义是“应知而未知”，与《德国民法典》第122条第2款的“因过失而不知”同义，但我国法律、司法解释等规范性法律文件以及司法裁判文书实际使用“应当知道”的过程中，早已突破了“应知而未知”的内涵。有观点以美国法上的“有理由知道”为渊源，将“应当知道”解释为依据特定事实的“推定知道”，该观点得到了最高人民法院的认可，并体现在《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》等司法解释之中。7

比较而言，“应知而未知”的认知状态为“不知道”，对该认知状态的评价是否定性的，评价的基础则是“应知”义务的存在，即应该知道某种事实的存在。这一义务投射到网络服务提供者身上，表现为知道某个侵权行为存在的义务。进一步的追问是，网络服务提供者为何须负知道“某个”侵权行为存在的义务？“推定知道”的认知状态则为“知道”，且对该认知状态只是一种“事实范畴”的描述，只不过这种描述是通过“某种事实的存在”推知的。这种推知无涉价值评判，并未设定某种基础义务的存在，更多是一种证据规则层面的意义，其法律效果完全归于“知道”本身。不过，“推定知道”想要实现与“实际知道”相同的法律效果，还须回答：某种事实的存在何以推定主体知道？比较可见，“推定知道”与“实际知道”同属“知道”状态，二者只是在证据规则层面存在差别；“应知而未知”与“实际知道”则分属不同的认知状态，“应知而未知”须借助额外设定的实体义务——具体侵权行为认知义务，方可实现与“实际知道”相同的法律效果。“推定知道”实属“故意”状态，比“应知而未知”的“过失”状态更为严重，但也因此排除了“过失”状态适用《民法典》第1197条的可能性。

“应知而未知”引出的“具体侵权行为认知义务”是一种在先设定的“注意义务”，即注意到某个具体侵权行为的存在。从网络服务提供者的认知规律看，有一个从“抽象知道”转向“具体知道”的过程：面对网络用户海量的网络行为—知道存在大量的网络侵权行为—知道某个具体侵权行为。司法认定很容易从具体个案出发，沿着这条“认知线路”回溯，从而将具体的注意义务进一步上升为“一般性审查义务”。一旦认为网络服务提供者负有一般性审查义务，就从根本上违反了“技术中立”原则，也很难为公众所接受。为了不犯“众怒”，又要维持“应知而未知”的解释，有观点“小心翼翼”地区分着网络服务提供者的具体注意义务与一般性审查义务，认为二者分属不同层次，认定注意义务不会必然导致一般性审查义务，在一般性审查义务之外仍然存在注意义务的适用空间。在“一般性审查义务”“通知型知道”等明知情形#1的多重限制下，注意义务的适用空间只能存在于“特定情形”。能够引发网络服务者注意义务的特定情形，主要是关涉网络服务提供者的特定在先行为。能够适用“红旗规则”的特定情形，在网络服务提供者反证其确实不知道的情况下，也可归入“应知而未知”的考量范围。经由“特定情形”，网络服务提供者从“抽象知道”状态转入应该“具体知道”状态，开始对某个具体侵权行为负有注意义务，“非常风险控制义务”随即启动；若不及时采取必要措施，网络服务提供者就须承担侵权责任。

“推定知道”需要回答的“某种事实的存在何以推定主体知道”则无关实体义务的设定，只是证据规则层面的问题。有观点在坚持应将网络服务提供者的“应当知道”解释为“推定知道”时，指出“推定知道”的依据是行为人实际的知晓力以及知晓的信息，属于事后认定，且不会涉及所谓的事先一般性审查义务。很明显，这里的“推定”属于证据规则层面的“事实推定”：根据某一已知事实或日常生活经验法则，推定出另一事实的存在。事实推定的基本逻辑是“基础事实”与“推定事实”之间存在常态联系，若无反常事由，这种联系是稳定的、可重复发生的。同源于美国法的“红旗规则”与“有理由知道”高度匹配，可称为“推定知道”的规则化表达。作为对网络服务提供者认知状态的“事后推定”，“推定知道”与“一般性审查义务”并无太多关联，在解释负担方面也就比“应知而未知”轻松得多。

从文义解释的角度看，“应知而未知”与“推定知道”都在“应当知道”的语义范围之内。既如此，在解释网络服务提供者“应当知道”时，应以何者为准？目前，我国学术界和实务界的多数观点倾向于将网络服务提供者的“应当知道”解释为“推定知道”。从个案层面讲，“应知而未知”与“推定知道”的解释一旦实现，对当事人来说，在结果上并无差别，故从结果出发，似乎可说区分二者并无实质意义；但从制度层面讲，二者存在实质差异。如前所述，“推定知道”在解释负担方面的确要轻于“应知而未知”，但也会将过失情形排除在《民法典》第1197条之外——非故意不能适用该条。如此便出现了“此消彼长”的现象：“推定知道”一方面可以减轻权利人的证明负担——由网络服务提供者否证“知道”状态；另一方面也限缩了网络服务提供者承担责任的认知状态——过失无须承担责任。适用“应知而未知”的解释时，网络服务提供者“不知道”的抗辩往往会将案件审理引向对注意义务的评判，但这恰恰也将过失状态纳入了《民法典》第1197条的适用范围。面对这些制度层面的差异，应如何选择“应当知道”的解释？如果将“知道”与“应当知道”结合起来看待，也许就不会面对“二选一”的难题。从《民法典》第1197条并列使用“知道”与“应当知道”的表述来看，“应当知道”在立法文本上是有着独立于“知道”的地位的。但“推定知道”的解释实质是将“应当知道”纳入了“知道”的范畴，取消了“应当知道”的独立地位，从而令“应当知道”的规定失去了意义。这在法解释上是不可接受的——法律的解释不得让法律本身无意义。就此而言，“推定知道”虽然也属“应当知道”的语义范围，但从法条的内部结构来看，将“应当知道”解释为“推定知道”难谓妥当。“应知而未知”的解释则以其内含的“过失”状态，获得了独立于“知道”这一“故意”状态的独立地位，既属于“应当知道”的语义范围，又协调了法条的内部结构，故在法解释上优于“推定知道”的解释。综合来看，《民法典》第1197条中“知道”与“应当知道”在法解释上的最优解，乃是“知道”包括“实际知道”和“推定知道”，“应当知道”则是“应知而未知”。

三、算法实施下网络服务提供者的“应当知道”

明确《民法典》第1197条“知道”与“应当知道”的含义后，就可继续讨论算法技术对认定网络服务提供者“知道”和“应当知道”的影响。根据上述解释，“知道”包括“实际知道”和“推定知道”两种状态，这两种状态都是对事实状态的描述。“知道”状态系于“知道”主体自身，与“知道”主体处于“无缝结合”状态，“通知—删除规则”下的“通知型知道”即属此例。但在“通知—删除规则”因算法技术的应用而实际操作成“算法通知—算法删除”模式的情形中，“知道”的情形已有所变化。“算法通知—算法删除”模式下，“通知—删除”程序的两端均由算法技术自动化处理，“机器人之间的对话”取代了“自然人之间的商讨”。“知道”主体与“知道”状态的“无缝结合”就这样被算法技术悄然撕裂！在这种撕裂状态下，要继续维持“通知—删除规则”，就只能将网络服务提供者的算法系统对“算法通知”的接收，“视为”网络服务提供者的“知道”，这种“视为”状态超越证据层面的要求而无被否证的可能——尽管在实际生活层面网络服务提供者很有可能是“不知道”的。借助拟制技术，“算法通知—算法删除”模式下，网络服务提供者的“知道”被置换为了“视为知道”。至此，我们可以全面把握网络服务提供者“知道”的完整类型：常态下的“实际知道”；证据规则下的“推定知道”；算法实施下的“视为知道”。

将“推定知道”归于“知道”范畴后，网络服务提供者的“应当知道”回归到“应知而未知”这一传统民法上的固有涵义。认定“应知而未知”的关键是网络服务提供者注意义务的设定。首先，网络服务提供者并不仅因提供网络技术就须对网络世界的所有侵权风险承担责任，由此也就决定了网络服务提供者不会、也不能对其平台上的网络信息承担一般性审查义务。可以说，一般性审查义务是网络服务提供者注意义务不可逾越的上限。与上限相对应，“推定知道”是网络服务提供者注意义务的下限，特定情形落入“推定知道”范畴时，也无须再讨论“应当知道”的注意义务。其次，在一般性审查义务与“推定知道”状态构成的上、下限之间，网络服务提供者的注意义务并非一成不变，网络服务提供者的具体类型、技术条件、涉事程度、作品热度等，都是影响注意义务的因素，故应以动态的眼光看待网络服务提供者的注意义务。结合目前版权领域算法技术的实施状况，至少应将以下三种情形纳入网络服务提供者注意义务的考量范围。

一是网络服务提供者以算法技术主动向用户推送内容链接或发布内容信息的，应就其主动推送或发布的信息承担侵权注意义务。《美国千禧年数字版权法》（DMCA）对网络服务提供者适用“通知—删除规则”、使其享受“避风港”的关键原因是其网络行为的“被动性”，即网络服务提供者只是基于构建网络环境的需要，被动地为网络用户提供信息接入、存储、定位等技术性服务，并不主动介入网络用户所提供信息的内容，这也是“技术中立”的应有之义。一旦网络服务提供者超越这种“被动性”，主动介入用户提供的信息内容，对这些信息进行选择、编辑、整理、推荐等操作，就打破了“技术中立”的平衡关系，涉入了“网络内容服务”领域，不能再享受“通知—删除规则”的庇护——自己驶出“避风港”，就不要再指望“避风港”的庇护。网络服务提供者主动驶出“避风港”，往往是为了吸引更多流量、获取更大利益，既如此，就须承担更大的风险；若因此遭遇风险又想回头指望“避风港”，只能说其既无担当也不诚信。哪怕网络服务提供者使用算法技术实施上述主动介入信息内容的行为，也不能以“技术中立”为由主张受“避风港”庇护。这里的算法技术已是网络服务提供者主动介入信息内容的工具，并无“技术中立”适用之余地，算法技术实施的行为在法律上只能被认作网络服务提供者的行为，其原理同于“算法通知—算法删除”模式下的“视为知道”情形。在这方面， 2019年《欧盟数字化单一市场版权指令》规定得最为严格。该指令第17条直接将“在线内容分享服务提供者（online content sharing service provider，OCSSP）”允许公众访问其用户上传的版权作品或其他受保护内容的行为定性为“向公众传播行为”，而非宿主服务，要求其承担“寻求授权义务”和“版权过滤义务”。不过，该条规定的版权过滤义务以权利人事先提供了供比对的特定作品内容或其他内容为前提，且仍强调了该条的适用不应导致一般性审查义务。对于除在线内容分享服务提供者以外的其他网络服务提供者，则仍适用《欧盟电子商务指令》的规定，即“不应当要求服务提供者承担监督其传输和存储的信息的一般性义务”。这一规定反映了欧盟对网络服务提供者的态度：区分网络服务提供者的类型，适用不同的注意义务标准；对在线内容分享服务提供者适用高标准的注意义务——专业勤勉的高度行业标准。将在线内容分享服务提供者允许公众访问其用户上传的版权作品或其他受保护内容的行为定性为“向公众传播行为”，实质是将其排除在网络服务提供者之外而归之于网络内容提供者。这一定性是否妥当尚值得商榷，但若在线内容分享服务提供者应用算法技术主动介入网络内容的传播，要求其就该传播的内容承担更高的侵权注意义务，并无不当之处——该项义务同样可以通过算法技术来完成。以国内短视频分享平台抖音为例，抖音APP设置的“抖音搜索智能聚合”搜索工具，可以通过参考视频标题相似度、视频标签、视频发布者等因素，快速聚合用户想要的搜索结果，使搜索更智能；同时实现更加美观、易于浏览的视频自动聚合排列，并标注为“抖音搜索智能聚合”。这种“智能聚合”即是应用算法技术主动介入了网络内容，在线内容分享服务提供者对于被智能聚合的网络内容也就应当承担更高的侵权注意义务，此所谓“涉入越深、利益越大、责任越重”。

二是网络服务提供者已经知道某种侵权行为存在的，对已知作品的其他类似被侵害行为负有注意义务。其涉及两类信息：第一类信息即网络服务提供者经由权利人通知等情形知道权利人的作品已受到某个具体行为的侵害；第二类信息即该作品在该网络平台受到其他侵权行为侵害的现实性与可能性。需要特别注意的是，第二类信息经由第一类信息的存在而成为了针对该作品的“特定信息”，并非无特定对象的“抽象侵权信息”，同样可以成为“具体知道”的对象。而且依目前的技术条件，网络服务提供者已经成为一支重要的社会治理力量，其有能力、也能以相对较小的社会成本控制该类信息，故应由其对该类信息负担注意义务。比较法上，网络服务提供者曾以“技术不能”或“难以承受”等原因拒绝承担该项义务，但未得到司法者或立法者的认同。例如，在2014年Dafra诉谷歌案中，Dafra针对一个发布在YouTube上的侵害版权的视频，向谷歌公司（YouTube的母公司）发出“侵权—删除”通知后，还请求谷歌公司删除所有未经授权的侵权视频——包括由其他用户上传的或改换了标题的视频。谷歌公司以“技术不能（technical impossibility）”进行抗辩，但最终被巴西高等法院驳回。巴西高等法院给出了如下理由：缺乏修理有缺陷之新产品的技术方案并不能豁免生产者的产品责任或修理义务。事实上，谷歌公司或YouTube绝非无此技术能力。前已述及，YouTube早在2007年就推出了内容识别系统，其技术能力完全可以满足该项请求。《欧盟数字化单一市场版权指令》更是将该项要求指向了将来的同类侵权行为：在线内容分享服务提供者收到权利人发出的“充分实质通知”后，不仅应立即采取删除、断开等必要措施，还应采取版权过滤措施，“尽最大努力防止它们将来被上传”。这一要求在如今的技术条件之下，已很难说是强人所难。

三是版权人向网络服务提供者提供了供版权过滤比对的权源性作品，网络服务提供者对该权源性作品负有更高的注意义务。即使“算法通知—算法删除”模式下的通知可批量自动发出，但对于海量的侵权信息来说，仍是个别的。较此更为有效的维权方式，是版权人与网络服务提供者合作，事先向网络服务提供者提供可供版权过滤比对的权源性文件，帮助网络服务提供者建立“电子指纹数据库”等“正版作品库”。这既为算法技术识别涉嫌侵权信息提供了比对依据，又为正版作品的传播、版权人与网络服务提供者更深入更多元的合作提供前提条件。这种版权人与网络服务提供者合作维权、共同开发作品价值的方式已为YouTube、百度等多家主流网络平台所采用，也是发展趋势。于此情形，网络服务提供者对“正版作品库”中的作品，理应负担更高的注意义务。参考目前的版权实践，若被对比文件使用单个正版作品内容的比例达到50%以上的，可以初步认定该文件涉嫌侵权而转入更专业的审查程序。虽然相对于“通知—删除规则”下的侵权通知，版权人事先提供权源性文件的行为具有“面上行为”的特征，但仍属于将网络服务提供者置于“具体知道”的特定情形，足以引发相应的注意义务，并不会导致网络服务提供者承担一般性审查义务。

除此以外，国家版权局每年发布的“年度重点作品版权保护预警名单”、网络服务提供者从中直接获取经济利益的版权客体等因素，都有成为“将抽象知道转为具体知道”的特定情形的可能，因此需要具体情况具体分析。

结语

当今的智能社会正向强人工智能阶段趋进，算法技术在版权领域的应用只会越来越广泛而深入，对相关的业态结构、利益格局、法律适用的影响必定越来越长远而深刻。有观点认为“面对日益失衡的通知—移除制度以及‘算法统治’时代的到来，修改现行版权法中与通知—移除制度有关的法律规则已经刻不容缓”。本文以为，现行法律中的“通知—删除规则”并未失衡，《民法典》第1197条的“知道”与“应当知道”仍具有相当的解释空间，通过法律解释，可以应对当前算法技术对网络服务提供者法律责任的影响，从而保持《民法典》相关规定的稳定性。依民法解释学，《民法典》第1197条的“知道”的最优解，乃是包括常态下的“实际知道”、证据规则下的“推定知道”和算法实施下的“视为知道”；“应当知道”则回归传统民法学上的固有涵义“应知而未知”，并以“注意义务”作为评价“应知而未知”的前提条件。算法技术在当前版权领域的实施状况提高了网络服务提供者的注意义务标准：网络服务提供者以算法技术主动向用户推送内容链接或发布内容信息的，就其主动推送或发布的信息承担注意义务；知道某个侵权行为存在的，对已知作品的其他类似被侵害行为负有注意义务；对版权人事先提供的供版权过滤比对的权源性作品负有更高的注意义务。注意义务标准的提高，并非无端加重网络服务提供者的负担——在现代社会，能力越强、涉入越深、利益越大，责任越重。