9月7日,最高人民法院召开新闻发布会,正式发布《关于依法审理涉人工智能纠纷案件的意见》(以下简称《意见》)。这是国内首部AI纠纷专项裁判规则,全篇共五部分二十四条,几乎对现在社会中已经发生的“AI换脸拟声、AI幻觉侵权、网络开盒、大数据杀熟、自动驾驶、AI模型训练”等突出问题都给出了原则性的规则。本文从律师视角,通过以下几个方面来对该文件的内容和含义进行梳理。
《意见》明确了审理涉人工智能纠纷案件应当坚持的指导思想,以及三个基本原则:以人为本、支持创新发展、筑牢安全防线。《意见》明确要探索完善涉人工智能纠纷案件审理程序规则,包括事实查明和证据审查规则,依法规制利用人工智能妨害司法秩序的行为,依法惩治利用人工智能实施的各类犯罪行为。《意见》明确要健全完善涉人工智能纠纷案件审理和工作机制,对围绕涉人工智能矛盾纠纷的预防化解、加强调研论证、案例指导和审判监督指导、加强部门协作和国际司法交流合作等方面作出了原则性规定。
《意见》还着重对实务中高发的涉人工智能的侵权与知识产权类纠纷做了细致规定:
一是依法规制利用人工智能的侵权行为。《意见》第二部分(第3-11条)首先明确了涉人工智能侵权责任的归责原则,其后针对利用人工智能侵害人格权、个人信息权益、消费者权益等不同场景,明确了侵权责任的认定和承担。此外,对生成式人工智能服务提供者的侵权责任、人工智能产品责任、涉自动驾驶汽车和辅助驾驶功能汽车交通事故的赔偿责任等作出了明确。
二是依法审理涉人工智能知识产权纠纷案件。《意见》第三部分(第12-16条)对涉人工智能知识产权纠纷案件的审理作出专门规定,涉及侵权责任认定、开源软件法律责任、专利授权确权、技术合同履行以及数据使用规范等五个方面,积极回应人工智能技术快速发展给知识产权司法保护带来的新课题和新挑战,在鼓励人工智能技术创新与维护权利人合法权益之间寻求平衡,为人工智能高质量发展和高水平安全提供明确的司法裁判规则。
整体来看,该《意见》统一了AI相关纠纷的审判标准,为行业创新划定了法律边界,也为市场主体规避法律风险、应对侵权纠纷提供了指引。
结合本次司法新规及近年来的司法实务案例,我们梳理出当下司法实践中最为高发、企业和个人最易触碰的几类AI侵权情形。
AI生成内容与他人在先作品构成实质性相似,又无法证明独立创作的,认定为侵权。若AI服务提供者明知或应知其系统生成内容侵权而未采取合理措施的,承担连带责任。法律后果:停止侵权、赔偿损失以及严重情形下惩罚性赔偿。
未经许可大规模爬取他人享有著作权的作品用于模型训练,且对原作品市场构成实质性替代的,不构成合理使用。法律后果:停止侵权、赔偿损失(含合理开支),情节严重的可适用数倍惩罚性赔偿。
未经权利人许可,用AI克隆他人声音、换脸、变形合成。法律后果:停止侵害、消除影响、赔礼道歉、赔偿损失等侵权责任;情节严重的,可能触及刑法。如果平台没有建立授权核验机制,或者明知有人用其服务侵权而没有采取必要措施的,很可能要承担连带责任。
利用深度合成技术制作虚假信息、伪造他人言行。法律后果:民事层面侵害人格权;刑事层面,依具体情节分别以诽谤罪、制作传播淫秽物品罪、诈骗罪、敲诈勒索罪等定罪处罚;伪造人脸识别信息绕过安全认证的,将依法追究相关责任。
AI在医疗、法律、金融等专业领域输出错误内容从而导致损害。法律后果:服务提供者若未建立风险提示和人工审核机制、未对系统局限性充分披露的,有过错需承担相应责任;用户明知局限仍使用的,用户应自负其责;若服务提供者对准确性作过承诺的,可能还需按合同承担责任。
违反协议约定、绕过技术管理措施大规模爬取平台数据,直接用于与平台构成竞争关系的商业产品。法律后果:民事层面构成不正当竞争,依新修订《反不正当竞争法》承担责任;涉及计算机信息系统的,可能触及非法获取计算机信息系统数据罪、提供侵入计算机信息系统工具罪。
“AI是工具,人才是责任主体”,所有的法律责任,最后都要落到自然人、法人或非法人组织身上。《意见》反复强调这一点,意味着把“AI自动生成”作为挡箭牌的“免责条款”在司法领域无效,背后的责任主体不能因此免除因故意或重大过失造成的损害责任。
作为长期关注AI案件的律师,我们注意到《意见》背后透出几个值得关注的涉及AI的司法规则走向:
过去几年AI案件同案不同判的问题比较突出。《意见》出来后,全国法院的裁判尺度会更统一。当事人预判诉讼结果会更准确,诉讼策略也将从“选法院”转向“争事实”。
根据“权利义务相一致”原则,法律关注AI背后谁投入了独创性、谁有过错、谁获利、谁受损。这意味着未来涉AI案件的胜诉关键,越来越取决于“人的行为证据”,如提示词记录、人工修改痕迹、平台审核日志、风险披露的呈现方式等。
《意见》专门讲解了刑事案件的审理原则,明确“利用AI实施犯罪不减轻刑事责任”。AI不是逃避法律责任的工具,反而会因为叠加技术因素导致情节加重。这意味着AI合规是一个高度综合的专业板块,需要从刑事辩护、知识产权、数据合规等几个方向共同介入。
AI发展拥有更清晰的边界,对AI产品开发者、创作者、使用者来说不是枷锁,而是红利。对正在或即将涉及AI业务的当事人,为了降低侵权风险以及更好的保护自己的权益,我们有几条具体建议:
1.保留创作痕迹。使用AI辅助创作时,务必保留提示词记录、迭代日志、人工修改痕迹。这些都可能成为日后主张著作权的关键证据。
2.训练数据合规体系化。建立数据来源台账和可追溯的数据管理制度、获取方式记录、权利保留声明识别机制、用户退出机制、个人信息脱敏措施、权利人异议处理流程等,这些不仅是《意见》认可的“过错判断参考”,更是涉诉时的有力抗辩依据。
3.用户协议和风险提示具体化。不要试图用“AI输出仅供参考”的概括性免责条款规避责任。《意见》要求“具体指向特定风险场景”而非“泛泛声明”,否则该免责条款可能将不被支持。
4.面向专业领域的AI服务,风控标准要更高。医疗、法律、金融等领域的AI应用,应建立额外的风险提示与人工审核机制,否则将适用更高注意义务标准。
5.深度伪造业务,慎之又慎。这是民刑交叉的高危领域。任何“换脸”、“合成声音”服务,务必建立授权核验机制和明显的标识义务,避免成为刑事案件的“帮凶”。
《关于依法审理涉人工智能纠纷案件的意见》的发布,在发展和安全之间,划出了一条尽可能清晰的边界,标志着中国AI司法治理进入了“有规可循、有矩可守”的新阶段。
对整个社会而言,它传递了一个朴素而坚定的信号:技术再先进,也要在法治的轨道上运行;AI再聪明,最终担责的,永远是人。
本文为本人对《最高人民法院关于依法审理涉人工智能纠纷案件的意见》的个人解读,不构成正式法律意见。如涉具体案件,请咨询专业律师。