产业与治理｜人工智能时代如何规制算法侵权
随着人工智能、大数据技术的发展，算法被广泛应用到互联网信息服务中。然而面对丰富多样的算法技术，其引起的法律风险得到社会越来越多的关注。为使算法能够符合整体预期发展，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布的《互联网信息服务算法推荐管理规定》于2022年3月正式实施，其落地标志着中国在互联网信息服务的治理迈进新阶段，学界也对算法侵权规制开展了系列讨论，华东师范大学产业与治理课题组以分析中国算法侵权案件入手，总结算法侵权案件的特征和问题，结合现实发展对中国算法侵权规制提出相关建议。课题组根据算法侵权相关关键词，在中国裁判文书网、北大法宝数据库、杭州互联网法院、广州互联网法院官网上搜集整理出中国算法侵权案件共24件，时间跨度为2009年-2022年，其中2020年后有21件（占比87.5%），表明近几年算法侵权案件爆发性增长。侵权案件的原告与被告分别是算法的被实施者与实施者，如图1，其中有中国成熟的互联网企业如腾讯、爱奇艺、淘宝、字节跳动等，并且其中部分公司成为过原告，也成为过被告。说明算法技术在给企业数字经济创造价值时，可能也会因算法技术被侵权，也可能主观造成侵权行为的发生。图1 中国24例算法侵权案件的原告与被告知识产权是基于创造成果和工商标记依法产生的权利的统称，共有七种权利类型，所研究案件中涉及著作权、专利权、商业秘密等知识产权，有66%的案件与知识产权有关，说明与算法相关的侵权多发生在知识产权领域，其次频繁发生在个人信息保护和网络服务合同纠纷领域。研究发现，受理法院主要分布在一线城市和新一线城市，其中杭州占比54%，其次广州和深圳为17%，剩余分布在北京、上海、无锡和青岛。从涉案主体上来看，纠纷案件围绕信息科技公司展开，而杭州也是中国互联网产业发展的聚集之地。从法院重视程度看，杭州互联网法院在今年成立5周年之际发布了与数据或算法密切相关的典型案例。分析案件得出，中国算法侵权案件有41.47%通过一审完成审判，58.33%的案件涉案单方或双方不服判决继续提起诉讼至二审审判，相比中国各级法院公布的上诉率数据，表明近年来受理的案件程序复杂，同时案件有半数以上审理在一年到两年，说明算法侵权案件受理难度较高。研究发现，案件中有37.5%的涉案金额为10万以下，20.83%涉案金额为10万-50万，16.67%涉案金额为50万-100万，25%涉案金额为100万-500万，算法侵权案件涉及主体较多为大型科技公司或互联网平台，同时案件大多与商业秘密相关，因此判决赔偿金额与以往案件相比较高。上述中国算法侵权案件有一些关键信息点值得挖掘，通过分析算法侵权案件的不同维度，为提出中国算法侵权治理建议奠定基础。结合中国算法侵权案件的涉案类型，可以发现算法侵权行为多发生在信息网络传播和商业竞争的过程中。在案件中2021年8月电视剧《老九门》剧方起诉字节跳动公司对电视剧视频在其平台进行传播，引起较高的播放量，并在视频流量中获取广告等收益。近年，科技公司的不断发展和短视频平台热度高涨，其场景下的侵权案件也频繁发生。平台经营者利用人工智能、大数据技术对海量数据的训练，可以实现快速、客观决策，而算法的自动化决策已成为经营者的侵权武器，比如案件中短视频平台对于电视剧等信息的非法传播等；同样用户也被迫锁定为侵权对象，比如案件中淘宝平台对用户检索结果的控制。案件中还存在用户利用平台的技术手段获取流量、谋取私利的现象。因此，获益方和侵害方之间存在利益冲突，并且他们之间的角色在不同场景中可以互换。信息传播过程由传统的“人找信息”转变为“信息找人”，用户在使用企业平台时需要填写出生日期、性别、兴趣、职业等信息，平台并没有科学地实现“技术中立”，而是利用算法在所谓消费公平中差异化服务实现盈利最大化，用户大多情况是不了解算法规则，甚至都不了解算法的存在，而被迫接受大数据的分析和推荐。而对于平台人工可以基于用户的行为或者上传的数据不断调整和优化算法，此时，用户其实也在参与算法的开发，可视为算法的辅助开发者。即便算法推荐技术的自动化运行和深度学习过程无需人为干预，但在算法推荐技术的开发与设计中能够嵌入算法开发者的主观意图。首先，需要考察算法推荐技术在设计上是否存在导致侵权损害发生的因素，并考察这些因素是否源于算法开发者的主观方面。若算法推荐技术本身存在导致侵权损害发生的因素，则可以推定算法开发者存在主观过错。其次，需要考察算法使用者是否存在主观过错。当平台企业作为算法使用者而非开发者时，即便因算法黑箱无从得知算法潜在风险，其对算法的运行也具有实际的控制力，因此负有一定的注意义务。明确权利主体身份是划定侵权责任的前提。研究案件发现，侵权认定主要通过因算法技术侵害被告的人身权和财产权，而裁量缺少对算法实施行为本身的考量。我们要明确权利冲突的多方关系，分析不同主体的主观意图，动态追踪其侵权事实，进行客观、公正的裁量，将侵权责任落实到具体行为人，使判决结果更加具有可信力和说服力。将算法侵权双方分为算法实施者和算法被实施者，如下：，其主要牵涉三个主体：算法开发者、算法服务者、算法管理者。算法开发者是指设计算法技术的程序员，在案件中尚未涉及；算法服务者是将使用算法技术为用户提供服务的应用平台，案件中以抖音、爱奇艺、淘宝等为典型；算法管理者是对算法的使用和运行具有控制力、支配力的主体，案件中如北京字节跳动网络技术有限公司。，通常是指使用算法功能来完成生活消费活动的人，基于算法的自学习能力消费者其实也参与了算法的开发与完善。在人工智能算法技术广泛适用的情景下，所有参与其中的主体，无论是什么主体，其身份的界限只是相对的，面对不同的侵权场景其身份也随之发生变化。由于算法实施者与算法被实施者之间存在利益失衡以及算法侵权在责任认定中难以证明，因此对算法实施者加以监管约束是目前减少侵权行为发生成本最低、效率最高的做法。无论是涉及知识产权还是个人信息保护，政府要干预其算法技术遵守法律法规，政府主动作为，行使监管职权，可以审查企业的算法源代码、数据集、模型等，做好预防和发展态势分析。由于算法的不可解释性使部分行为在现有法律框架下难以规制，我们应参照其他国家建立算法审查制度，对算法技术的内容进行确认和跟踪。如2021年5月，美国公布《算法正义和在线平台透明度法案》的提案，要求在线平台应当对四类算法记录保留5年。中国《互联网信息服务算法推荐管理规定》在监管的主体上细化区分网信部门的权责，更创新性地提出了双层次、多部门的联合监管模式，由电信、公安、市场监管配合算法监管。互联网流量变现时代，平台通过现金或流量补贴的形式鼓励更多用户使用平台并进行内容创作，而平台的算法设计可能存在侵权风险，算法被实施者具有了解平台的算法形成机制的知情权。由于算法技术的复杂强大，公众对其概念、原理不易理解，任何算法实施者都有必要向公众公布算法的价值取向、建立依据、规则内容、运行逻辑、危险防范等相关信息，履行告知义务，并且可以基于个人请求进行详细说明。同时，可以设置相应问答板块进行算法技术的学习和监督。算法技术一旦公开，可能会造成商业秘密的泄漏。因此可以向公权力机关进行算法留档，向社会大众以及监管机构进行公开，网信部门应当进一步细化算法备案的时间节点，促使算法服务提供者在算法更新后及时、真实地进行动态备案。在人工智能时代，平台利用算法对内容介入甚至获取商业营利，而存在隐性知情却侵权的可能，因此企业平台不应只尽到“通知—删除”的义务，而应采取与技术发展水平相当、与业务模式相符的措施，预防侵权行为发生。平台不能只遵循流量至上，而无谓加大内容的曝光力度，要在整个算法设计中增加预防版权侵权的环节，即使不能完全阻拦侵权内容，也能够大大降低侵权作品给权利人造成的经济损害。对重点环节人工审查机制和多重技术审查，建立信用评价机制，对重复或多次侵权账号做出暂停甚至终止服务的处置。比如对于生产经营性质的用户，平台应当加大技术检测力度减少侵权内容的传播。