“通知-删除”规则的新挑战——算法推荐下的平台责任

李开复先生在《AI*未来》一书中提出，使用自然语言处理和计算机视觉技术，……根据用户的以往行为，如点击、阅读、浏览、评论等，针对每个用户的兴趣、喜好和习惯高度定制动态推送，甚至可以修改标题，以吸引用户点击。用户点击量越多，就越擅长推荐适合用户的内容。这个良性循环，创造了互联网上最诱人的内容平台。[1]

人工智能时代，算法通过互联网渗透到社会生活的方方面面，全方位地推动着我们生活的运转，改变着所有人的生活，李开复先生提到的新闻推送大大节省了阅读用户检索信息的时间，但这种算法推荐如果没有对作品来源正当性适当的管控，很容易成为侵权作品或违法信息的传播工具，并在“回声效应”下被不断强化。因此，提供算法推荐的内容分享平台在处理涉嫌侵权问题上，并不能简单套用“通知-删除”规则，需要在注意义务的设定上作出更高的要求，以实现著作权人、用户以及平台等多方利益的共赢。

一、算法推荐下的内容推送行为的法律定性

利用算法，根据用户的以往信息，向用户主动推送用户可能喜欢的新闻及产品信息，这已经是很多网络平台获客以及增加用户粘性的重要方法。这种利用算法推荐信息的方式在操作的过程中，完全由机器自动实现，提供算法的内容分发平台并不直接介入相关推荐行为。正因为如此，很多人主张此时的内容分发平台不应因为分享侵犯他人权利的文章内容当然承担法律责任，而是应当依据《侵权责任法》第36条（现在是《民法典》第1195、1196条，转化为“通知-采取相关措施”）的规定，采用“通知-删除”规则承担法律后果。

“通知-删除”规则是互联网环境下针对网络服务提供者提供的存储、搜索、链接等服务的归责或者免责，是“避风港”规则的核心内容，也构成了互联网领域网络服务提供者提供服务免责的重要规则。我国最早在《信息网络传播权保护条例》中规定通知-删除规则，后在《侵权责任法》、《电子商务法》中均有类似规定。“通知-删除”规则给了平台豁免责任的可能性，使得从事存储、搜索、链接的网络服务提供商获得了巨大的发展空间，也成就了YOUTUBE等一大批互联网巨头。

随着计算机科技的进步，网络服务提供者不断改进并推动服务的提高，其业务从原来的存储、搜索及链接等被动服务走向为将用户创作的内容利用推荐算法主动向用户分发。这种利用算法推荐进行内容推送，这种有着积极作为的内容分发平台简单套用“通知-删除”规则在法律上是值得商榷的：

首先，算法推荐下的内容分发虽然是机器自动完成，但算法背后设计者的意志必须考虑。考虑到利用算法推荐进行内容推送的程序设计背后的内容分发平台，是他们设定了算法模型及推送标准，然后用机器的自动推送替代了人工推荐，这大大节省了人工推荐的时间。因此，算法并不当然是客观的、正义的，其背后有价值观的存在，这种价值观反映的是设计者，即人之意志。正因为如此，德国联邦交通部在2017年6月召集交通、法律、信息、工程、哲学、神学、企业等各领域14名专家成立自动驾驶系统伦理委员会，制定并发布报告，提出自动驾驶系统生产者在设计算法过程中应遵守的20条伦理指导准则。[2]结合这个报告的结论，算法的提供者有义务遵循这些伦理指导准则，故对基于算法推送发生的侵权行为承担一定的责任完全是在情理之中。虽然，推送内容是算法基于消费者此前的消费行为演算的结果，但是内容的分发本身是积极行为，是在内容分发平台控制下的机器完成。在这种情况下，当然有理由要求内容分发平台为积极的推送行为负责。从某种程度上讲，算法推荐下的内容推送完全可以理解为产品设计，产品的设计者应当为产品设计中的缺陷负责，这并不会加重产品设计者的责任。自动驾驶汽车识别错误除了交通事故，即使自动操作系统是没有人为干扰的算法，但设计者（汽车商）仍需要为这些自动驾驶导致的交通事故承担相应的侵权责任。如果因为算法没有人工干扰就对设计者、使用者免责，那么，在未来的人工智能社会，任何智能机器导致的侵害就都没有法律责任了。在一个科技主导的风险社会中，加重技术控制者的责任虽然延缓了技术迭代的速度，但却是社会安全所必须的。

其次，基于推荐算法进行内容推送的内容分发平台不应被视为传统的网络服务提供者。在美国的千禧年版权法（DMCA）以来，网络平台责任一直需要根据具体的网络服务类型和内容来确定。一般而言，网络服务可以分为基础设施层、中间平台层和软件应用层。[3]不同层面的网络服务对于内容的控制能力是不一样的，其所应当承担的法律义务也不尽相同。利用了推荐算法的内容分发平台实际上引导着网络流量并管控着网络空间的内容呈现，其承担的责任不应局限于简单的“通知-删除”规则，这一点也体现在欧盟法律的变化中。欧盟在《版权指令》中为内容分发平台设置过滤义务，改变原来在《电子商务指令》中的权利义务安排，其核心理由在于：纯粹的信息存储及定位服务提供者，其主观上并不知道用户上传的内容是否经过授权，不提供主动的内容分发服务，具有行为上的被动性，所以采用“通知-删除”规则，即在接到权利人通知或者知道该事实后，及时移除或者断开访问该信息的链接。但内容分发平台不同，其作为网络服务提供者，是在对用户上传的内容进行整理、建立索引并发布，此类发布行为具有主动性。即使是基于算法和自动推送，是在人工没有干预的情况下完成的信息推送，也仍应考虑两点：第一，算法是平台撰写，平台有义务确保算法的合规性；第二，内容发布虽然是机器自动完成，但这种自动完成的行为作为一种积极行为，仍然应当理解为内容分发平台进行了发布的操作。我们没有理由对这样的一种积极分发行为以技术中立为由豁免主动提供产生的法律后果，更没有理由因为是机器提供信息而虚无化平台主体的责任。

最后，在这个由技术主导的网络环境中，平台利用技术解决由此产生的问题是最有效率的事情。正如有学者指出，一旦技术进步或社会背景变化导致网络侵权的危害性或严重性、网络服务商履行注意义务的成本、版权人预防侵权的难度等关键因素发生变化，已有的利益平衡关系就可能被打破。[4]在这个技术主导的网络空间中，传统的公权力由于技术力量和规制手段的限制，已经难以应对网络空间的监督管理工作，提供网络服务的平台拥有更便利的条件和发现的能力，可以更为迅捷地规制网络交易中违法行为。在这种意义上，公权力与私权利的界限在不断模糊，提供网络服务的平台成为经济学上成本最低的违法行为的控制者。

二、提高内容分发平台的注意义务既是法律发展的趋势，也符合互联网的精髓

早在上一世纪90年代，美国就千禧年版权法的制定进行调研时，就网络空间领域的版权治理问题就给出了应当将注意义务赋予网络服务提供者的结论。调研报告认为有三个方面的理由支持：网络服务提供者拥有断网能力，可以很好地实现执法效果；侵权行为本身就会产生流量经济；豁免责任可能会产生侵权激励效应。[5]虽然千禧年版权法最后没有采纳这样的立场，而是采用了“通知-删除”规则，并就此成就了美国的互联网产业的蓬勃发展。

但随着互联网技术的发展，各个内容分发平台不断涌现，一方面，内容分发平台更多采取推荐算法主动向用户推送内容链接，提高其注意义务实属必要；另一方面，平台接收的通知数量巨大，“通知-删除”规则的执行也更多是在算法的帮助下完成。这种情况下，法律及司法实践也在与时俱进，针对平台的注意义务在不断提高。2012年发布的最高人民法院《关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》（法释【2012】20号）在明确否定网络服务提供者具有一般意义的审查义务[6]的基础上，通过“应知“的解释空间，提高了网络服务提供者的注意义务及主动审查要求。该解释第9条规定，人民法院在认定网络服务提供者是否构成应知时，应当综合考虑各项因素，其中的因素之一就是“网络服务提供者是否主动对作品、表演、录音录像制品进行了选择、编辑、修改、推荐等”，可见网络服务提供者的主动选择及推荐行为完全有可能进入“应知”的范畴。最新颁布的《民法典》第1196条也将将“应知”列为网络服务提供者承担侵权责任的心理状态之一，改变了《侵权责任法》第36条只规定“知道”一种心理状态的情形。另外在司法实践中，也开始出现案例，认为在推荐算法下的网络服务提供者理应承担更重的注意义务。[7]

当然，为了平衡著作权人和网络服务提供者的利益，我们不应对网络服务提供商施加不加限制、无法实现的责任。但从实际情况来看，适当加重网络服务提供者的注意义务，并不是一个无法实现的责任。首先，针对侵权作品的自动过滤技术，一直在实践中应用并扩大着市场。无论是最早开始应用ContentID 版权保护系统的youtube，还是2011年为“百度文库”服务建立版权作品过滤系统（DNA反盗版文档识别系统）的百度公司，说明针对侵权行为进行主动作为是网络服务提供者技术上能够实现的。其次，在国内常见的行政治理中，作为网络服务提供者，在技术上解决侵权作品泛滥问题，虽然产生一定的成本，但效果显著。2010 年开始的 “剑网行动” 等一系列行政执法要求网站进行自查自纠，建立主动审查机制。“在行政执法的巨大压力下，主流视频网络服务商被迫对网站内容进行审查，差不多在一夜之间删除了绝大部分盗版视频。[8]

从现有的数据来看，权利人获得的利益与平台获得的收益是无法相比，这种“价值差”长此以往的存在，必将导致内容创新的衰落。如果法律要求运行推荐算法的内容分发平台承担一定的义务，可以适当提高权利人的地位，重建权利人与传播者之间的平衡。可见，技术的问题技术解决是具有足够的正当性，也有足够的技术基础做铺垫。

三、结语：合作共赢是未来

赋予内容分发平台更高的注意义务固然加重了平台的责任，但这种注意义务的提高在技术可行，在效果上还有利于促进权利人与内容分发平台的合作。因为内容分发平台更高的注意义务，往往体现为事先的审查义务，即需要进行过滤审查，这种事先的过滤审查义务需要权利人提前提供素材，用作过滤的样本。在这种情况下，双方的合作必然会加强，平台也有更多的机会和可能减少侵权的风险，并获得更多的合作。当然，这种过滤义务的设置是否会影响言论表达自由，需要与权利人权利的保护、网络服务提供者注意义务的标准设定一并考虑，共同作为利益平衡机制的考量要素。

就权利人而言，每一次技术革命导致的传播方式的革新，似乎都会削弱权利人对自己权利的控制，但事实上每一次传播方式的革新，都是以更广泛、更低成本的传播位权利人带来更多的收益。所以，我们有理由相信，随着新的利益平衡模式的出现，权利人、网络服务提供者通过合作必将赢得更好的未来。

注释：

1 :  李开复. “AI·未来。” Apple Books.

2：张童，人工智能产品致人损害民事责任研究，社会科学，2018年第4期，第108页

3：参见张吉豫：智能社会法律的算法实施机器规制的法理基础—以著作权领域在线内容分享平台的自动侵权检测为例，法制与社会发展，2019年第6期

4：崔国斌: 《网络服务商共同侵权制度之重塑》，《法学研究》2013 年第 4 期，第 143 页。

5：参见1995年美国政府信息基础设施工作组白皮书:《知识产权与国家信息基 础设施———知识产权工作组报告》

 6：网络服务提供者未对网络用户侵害信息网络传播权的行为主动进行审查的，人民法院不应据此认定具有过错。

 7：参见仇东平与北京广而告之网讯传媒有限公司侵害作品信息网络传播权纠纷一审民事判决书，(2019)粤0303民初32564-32574号，广东省深圳市罗湖区人民法院。

 8：崔国斌：网络服务商共同侵权制度之重塑，《法学研究》2013年第4期，151页