民事专题
CIVIL SUBJECT
人工智能司法的“深水区”:六大前沿争议的法律剖析与规则走向
日期:2026-11-18 作者:轩敏杰

2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号),首次以系统性司法文件的形式,为涉人工智能纠纷提供了裁判规则指引。然而,规则文本的落地,并不意味着争议的终结——恰恰相反,它标志着人工智能司法治理进入了更为复杂的“深水区”。

在过去一年中,一系列标志性案件相继宣判:杭州互联网法院审结全国首例AI“幻觉”侵权案,南京中院对“中国AI大模型名誉侵权第一案”作出终审判决,上海知识产权法院审结首例涉AI大模型著作权侵权案(“美杜莎案”),广州黄埔区检察院办理了AI短剧著作权刑事保护标志性案件。这些案件触及的法律问题,从归责原则的选择到平台注意义务的边界,从训练数据的版权定性到生成内容的权利归属,几乎覆盖了人工智能法律治理的全部核心议题。

本文选取六个最具争议性的前沿问题,逐一剖析其法律困境、裁判逻辑与规则走向。

一、AI“幻觉”致害:服务抑或产品?——归责路径的奠基性选择

(一)首案的事实与裁判

2025年6月,用户梁某使用某通用型生成式AI应用查询高校报考信息时,AI生成了关于该校某校区的不准确信息。在梁某纠正后,AI不仅坚持错误信息,还自行生成“若生成内容有误将赔偿10万元”的表述,并建议梁某到杭州互联网法院起诉索赔。梁某据此提起诉讼,要求AI运营公司赔偿损失9999元。

杭州互联网法院的裁判逻辑分为四个层次:第一,AI不具有民事主体资格,其生成的“赔偿承诺”不能视为服务提供者的意思表示;第二,生成式AI属于“服务”而非产品质量法意义上的“产品”,应适用过错责任原则而非产品责任的无过错责任原则;第三,服务提供者已通过备案、安全评估、风险提示、技术措施等充分履行了注意义务,不存在过错;第四,原告未提交证据证明实际损失,不满足侵权构成要件。

(二)“服务”与“产品”的定性之争

本案最具理论价值的裁判贡献,在于将生成式AI定性为“服务”而非“产品”。法院给出了四点论证:其一,该服务缺乏具体、特定的用途与合理可行的质检标准;其二,生成的信息内容本身通常不具备高度危险性;其三,服务提供者缺乏对生成信息内容足够的预见和控制能力;其四,从政策导向看,适用无过错责任原则可能不当加重服务提供者责任,限制产业发展。

这一论证在法理上有其坚实的根基。产品责任的无过错归责建立在工业化大生产背景下标准化产品的风险控制逻辑之上——生产者能够通过质量控制体系预见并预防缺陷。而生成式AI的输出具有高度的不确定性和场景依赖性,同样的模型在不同提示词下可能产生截然不同的结果,这使得传统意义上的“质检标准”难以适用。

但笔者必须指出,这一区分在实务中可能面临边界模糊的挑战。当生成式AI被嵌入到具身智能终端(如AI玩具、智能机器人)之中时,“服务”与“产品”的界限将变得不再清晰。《意见》第9条对此作出了回应:人民法院应当依据产品质量法关于“产品”的定义,准确认定“以实物为载体的人工智能产品”并适用相应的法律规则。这一规则实质上确立了一个重要的判断标准:是否具有实物载体,是区分AI服务与AI产品的关键。对于Chatbot、AI SaaS等无实物载体的服务,适用过错责任;对于智能汽车、AI医疗设备等具有实物载体的产品,则可能适用产品责任。

(三)AI幻觉的名誉侵权维度

值得注意的是,并非所有AI幻觉致害案件都以服务提供者胜诉告终。2026年3月,南京市中级人民法院终审判决认定百度AI生成的“智能回答”构成对南京律师李小亮的名誉侵权。该案中,百度AI在回答中捏造“李小亮律师被判三年有期徒刑……因犯爆炸罪”的虚假信息,法院对百度的不同业务功能作出区分处理:搜索下拉词条等功能适用传统避风港规则,但“AI智能回答”因将文字与图片通过AI技术加工合成,生成明显负面、贬损性内容,百度主观上存有过错,构成名誉侵权。

两案裁判结果的差异,揭示了AI幻觉侵权案件中过错认定的关键变量:当AI输出的是中性的、事实性的错误信息(如高校校区信息),且提供者已尽到基本的风险提示和技术保障义务时,通常不认定过错;但当AI输出的是对特定主体的贬损性内容,且同类产品并未出现类似问题时,“技术有限论”和“行业通病论”难以成为有效的抗辩理由。

(四)实务启示

对于AI服务提供者而言,首案与名誉侵权案共同传递了一个明确的信号:过错认定的核心不在于AI是否“出错”,而在于服务提供者是否建立了与风险等级相匹配的防控体系。具体而言:其一,应当建立分层级的风险提示机制,对高风险场景(如法律咨询、医疗健康、金融投资)施加更显著的警示说明;其二,应当建立投诉响应与内容下线的快速通道,避免在权利人发出通知后持续生成侵权内容;其三,应当系统性地保存模型训练日志、内容审核记录和安全评估报告,以在诉讼中证明已尽合理注意义务。

二、算法共谋:当反垄断法遇上“黑箱”

(一)算法默示共谋的规制困境

算法共谋是反垄断法在人工智能时代面临的最具挑战性的问题之一。传统垄断协议的认定依赖于经营者之间存在“意思联络”的证据——会议纪要、邮件往来、口头协商等。然而,算法默示共谋的运作机制完全不同:经营者之间不存在任何人际交流或接触,而是通过算法交互完成信息传递与行为协调,从而排除、限制竞争。

2026年2月,国家市场监督管理总局出台《互联网平台反垄断合规指引》,系统梳理了平台间算法共谋、“二选一”、“全网最低价”等8个新型垄断风险场景。其中,“平台间算法共谋”被列为首要风险,反映出监管部门对这一新型垄断行为的高度关注。

(二)携程案:算法垄断的执法范式转换

2026年7月,市场监管总局对携程开出51.79亿元的“三合一”天价罚单,罚款比例达上一年度销售额的7.5%,创下平台经济反垄断史的新纪录。该案的核心违法行为包括两类:一是通过“流量赋能诱导—独家合作监测—限流摘牌惩罚”的链条实施限定交易;二是利用智能定价算法和自动调价工具,对不配合的商家实施递进式降低流量惩罚和扣除保证金的经济惩罚,基本形成“全网最低价”自动干预技术链条。

携程案的标志性意义在于,执法机关首次深度融合大数据分析和算法解析技术来查处垄断行为,实现了“以技术手段规制技术垄断”的范式转换。这为未来算法共谋的执法取证提供了重要的方法论参考。

(三)规制路径的选择

学术研究指出,共同市场支配地位制度因规制逻辑错位、构成要件不符及适用门槛过高等问题而难以适用于算法默示共谋,应主要依托垄断协议制度与经营者集中控制制度。在此基础上,笔者建议构建“事前预防—事中监控—事后追责”的全链条规制体系:事前,要求平台企业披露算法定价的基本逻辑和参数设置;事中,建立算法定价行为的实时监测系统;事后,完善协同行为的认定标准,降低对明示协议的依赖。

三、训练数据版权:合理使用的边界在哪里?

(一)问题的提出:授权成本与数据需求的尖锐矛盾

大模型训练依赖海量受著作权保护的作品,逐项获取授权不仅交易成本高昂,而且客观上难以实现。事前授权的高成本与数据需求的海量性之间形成尖锐矛盾,致使著作权侵权纠纷频发。我国首例AI训练数据著作权纠纷(插画师诉小红书案)和爱奇艺诉某Max未经授权使用著作权影视素材进行AI模型训练案,均处在审理阶段,凸显了这一问题的紧迫性。

(二)“非表达性使用”理论的适用与局限

学术界的一种重要观点认为,大模型训练在技术本质上属于“非表达性使用”,具备适用合理使用规则的必要性与正当性基础。所谓“非表达性使用”,是指使用作品的目的不在于欣赏或传播作品本身的表达,而在于从中提取统计规律和语言模式。在这一过程中,作品的原表达并未被“再现”给最终用户,模型学到的是语言的结构性特征而非具体的内容。

这一理论在国际司法实践中引发了截然不同的回应。美国Thomson Reuters诉Ross案驳回了被告的合理使用抗辩,首次认定大模型训练数据使用构成版权侵权;而Bartz诉Anthropic案则认定使用合法来源作品进行大模型训练构成合理使用。这一分歧凸显了司法裁判对合理使用规则具体适用的差异。

(三)我国法律框架下的分析路径

我国《著作权法》采用规则主义的立法模式,以封闭式列举的方式规定合理使用的具体情形。这种立法模式难以涵盖大模型训练这一新型使用行为。与此同时,行政监管强调“授权优先”原则,进一步压缩了合理使用的适用空间。

在此背景下,笔者认为应当采取分层分析的方法。第一层,区分训练阶段的数据摄取与输出阶段的内容生成。训练阶段的数据摄取,其目的是获取统计规律而非传播作品表达,与传统的复制行为在性质和目的上存在本质差异。输出阶段的内容生成,如果生成结果与原作品构成实质性相似,则可能落入复制权或改编权的控制范围。第二层,在训练阶段内部,进一步区分“记忆性训练”与“泛化性训练”。前者使模型能够复现训练数据中的特定表达,后者仅使模型习得一般的语言规律。对于可能导致“记忆性输出”的训练数据,应当施加更严格的合规要求。

(四)制度完善的路径

从制度设计角度,笔者认为应当从以下三个层面推进:

短期,由司法机关出台司法解释或指导性案例,统一大模型训练合理使用的裁判标准。在现行著作权法框架下,可以灵活解释“三步检验法”,引入“转换性使用”的分析框架,重点考察使用行为是否具有“转换性”——即是否赋予了原作品新的目的或功能。

中期,激活《著作权法》第24条第1款第13项的兜底条款,通过行政法规明确大模型训练的具体合理使用情形。这一路径可以在不修改著作权法的情况下,为AI训练数据使用提供明确的法律预期。

长期,通过单独立法设立“数据训练豁免”专章,建立分类分级、授权留痕、来源可溯、风险评估和争议救济的制度机制。在保护权利人合法权益的同时,为人工智能产业发展提供稳定的制度环境。

四、AIGC可版权性:从“一键生成”到“人机协同”的认定标准

(一)个案积累中的裁判分歧

AI生成内容能否受到著作权法保护,是近年来争议最为激烈的问题之一。

北京互联网法院在“春风送来了温柔”案中认定,经多轮提示词设计与参数调整生成的AI图片具备独创性、构成美术作品。而江西省鹰潭市月湖区法院在“霜降”案中,对仅凭一段文字描述一键生成的同类图片得出了相反结论。

(二)核心判断标准:人类智力投入的“实质性”

综合上述案件,可以提炼出一个核心判断标准:著作权法保护的基础是“人类智力投入”,而关键在于人类使用者是否对生成内容的表达作出了具体安排、选择、控制和取舍。

上海黄浦法院审理的AI提示词著作权纠纷案进一步印证了这一标准。法院认为,原告所输入的提示词组只是一些词汇的组合,不构成完整的句子段落,不具原创性,因而不受著作权保护。这一判决将法律审视的焦点从AI生成结果转向创作起点,明确了“提示词≠作品”的基本立场。

(三)刑事保护的边界:AI短剧盗录案的启示

广东黄埔区检察院办理的覃某某、沙某某侵犯著作权案,为AIGC作品的刑事保护提供了重要参照。两被告人未经AIGC作品著作权人许可,翻录复制至少1716部作品后售卖传播,法院认定其侵犯了AI提供方与用户共同享有的AI短剧著作权。

该案的办案检察官在接受采访时指出,AIGC著作权的认定关键在于是否有“人类智力投入”。办案机关引导公安机关溯源涉案AIGC作品创作全过程:调取短剧创作的立项文档、沟通记录、原始文本,核查AI工具的参数设置、AI提示词设计、完整生成操作记录以及创作者对成片的后期修改痕迹。经审查,认定用户通过主导性创作,AI只是工具,真正的创作意志和智力劳动来自人。

创作过程的完整记录是证明“人类智力投入”的关键证据。创作者应当建立系统化的创作档案管理制度,保存从构思到成品的全链路文档。

(四)“美杜莎案”的另一个维度:侵权与可版权性的区分

上海知识产权法院审理的“美杜莎案”则从侵权维度为AI生成内容的著作权问题提供了分析框架。该案中,用户李某截取《斗破苍穹》动画“美杜莎”角色形象图片二十余张,训练生成两款AI绘画模型并对外销售。法院确立了“输入训练并不当然构成侵权、输出再现方构成复制、公开分享模型落入信息网络传播”的判断框架。

这一框架的重要价值在于,它将AI生成行为拆解为“训练”与“再现”两个环节:输入他人作品供模型训练并不直接落入复制权控制;唯有模型被调用、输出与原作实质性相似内容时,“再现”方才成立。这一区分避免了将一切输入行为一概纳入复制权控制,为AI模型的开发和训练保留了必要的法律空间。同时,该案还确立了平台责任的“可预见性+可避免性”标准——平台因不具主观过错而无需承担帮助侵权责任。

五、深度伪造:人格权保护的技术化转向

(一)典型场景的裁判规则

《意见》针对AI换脸拟声、网络开盒、AI复活逝者等深度伪造场景,明确了具体裁判规则。根据《意见》第4条,未经自然人同意,利用AI处理其姓名、肖像,生成可识别该自然人的虚拟数字形象并使用、公开的,构成对姓名权、肖像权的侵害。操控合成的虚拟数字形象实施不当行为或发表不实言论、降低他人社会评价的,还构成对名誉权的侵害。

声音权益的保护同样得到了明确。在殷某桢诉北京某智能科技公司案中,法院认定案涉AI声音与原告音色、语调、发音风格高度一致,能够引起一般人将该声音联系到原告本人,被告未经许可使用原告声音开发AI文本转语音产品构成侵权,判决赔礼道歉并赔偿损失25万元。

(二)“网络开盒”的隐私权侵害认定

“网络开盒”是近年来备受关注的新型侵权形态。《意见》第5条首次以司法文件形式明确:以刺探隐私为目的,利用AI对特定自然人的电话号码、网络账号及社交媒体等公开信息进行追踪、分析,获取私密信息,或将所获取的私密信息泄露、公开,或利用所获取信息侵扰私人生活安宁的,构成对隐私权的侵害。

本案将“公开信息的聚合使用”纳入了隐私权的保护范围。传统理论认为,公开信息不属于隐私,因为隐私的本质是“私密性”。但AI技术的介入改变了这一判断:当分散在多个平台的公开信息被AI自动化地聚合、分析后,可以轻易推导出个人的完整画像、住址、行踪轨迹等私密信息。这种“聚合效应”实质上突破了个人对信息公开的合理预期。

(三)人格权侵害禁令的适用

《意见》第8条明确了人格权侵害禁令在AI场景的适用——受害者有证据证明正在或即将遭受AI换脸造“黄谣”等侵害,不及时制止将造成难以弥补损害的,可申请法院责令行为人或AI服务提供者停止有关行为。

该规定为深度伪造的受害者提供了诉前快速救济通道。在传统诉讼框架下,从起诉到判决可能需要数月甚至数年,而深度伪造内容的传播速度极快,损害后果可能在几天内就不可逆转。禁令制度的设计回应了这一现实需求,体现了人格权保护的时效性要求。

六、归责原则的体系化安排:从“一刀切”到“分层配置”

(一)过错责任为原则的体系依据

《意见》第3条确立了“过错责任为原则、无过错或过错推定为例外”的归责原则体系。其规范依据是民法典第1165条第1款和第1166条共同构成的归责原则体系:法律对归责原则有特别规定的,优先适用该规定;法律未作特别规定的,适用一般过错责任。

在政策层面,这一选择反映了对人工智能产业尚处于发展初期的审慎判断。正如西南政法大学教授郑志峰所指出的,原则上适用过错责任原则,有助于人工智能开发者、提供者、使用者控制成本,避免出了事故之后承担过重的责任,为人工智能技术创新与大规模应用提供了充分的空间。

(二)三种归责原则的分工适用

《意见》第3条并非简单地回归传统过错责任框架,而是根据人工智能应用的不同场景,建立了三种归责原则的分工适用体系:

其一,人工智能产品责任适用无过错责任。 具身智能体等符合产品质量法关于“产品”定义的人工智能产品造成他人损害的,认定生产者责任时应当适用无过错责任。

其二,侵害个人信息权益适用过错推定责任。 个人信息处理者利用人工智能技术侵害个人信息权益造成损害的,应当根据《个人信息保护法》第69条第1款的规定,由处理者证明自己没有过错。

其三,法律未作特别规定的情形适用一般过错责任。 例如生成式人工智能侵权,适用民法典第1165条第1款规定的过错责任原则。

这一安排体现了分类分级治理的理念:依据应用场景的风险性质与程度配置不同的归责标准,既保持与现行法的衔接,也为技术发展保留了必要空间。

(三)过错认定的六项考量因素

《意见》第3条列举了六项考量因素:应用场景、自主化程度、技术与信息透明度、潜在风险及影响范围、相关主体采取防范措施的情况及技术上的可能性、使用者对损害的预见能力与控制能力。

这六项因素的核心逻辑可以概括为一个原则:注意义务的水平应当与控制能力相匹配。自主化程度越高,开发者、提供者相较使用者应当承担越高的注意义务;潜在风险越高、影响范围越大,注意义务水平相应越高;若以现有技术条件,采取措施完全避免侵权内容生成不具有技术上的可能性,则一般不应当将最终结果的达成与未履行审查义务相绑定。

(四)平台注意义务的分层构建

《意见》第7条确立生成式AI服务提供者参照适用避风港规则:经权利人通知后,未及时采取停止生成侵权内容等必要措施的,方承担责任。这一规则的设计,体现了平台注意义务的分层逻辑。

传统避风港规则是为中立第三方平台服务设置的。但生成式AI的技术特征对这一规则提出了重要调适的需求。由于AI往往是“点对点”生成私密内容,权利人难以获得或提供侵权内容的公开网络链接。《意见》认可权利人以模拟输入提示词、技术测试等方式合理证明侵权内容生成,即构成有效通知。这一调整回应了生成式AI的技术特征——侵权内容不以公开链接形式存在,而是需要特定提示词触发。

《意见》未对“红旗规则”在AI场景的适用作出明确规定。但最高人民法院民三庭庭长李剑在发布会上明确表示:人工智能生成内容被诉侵害他人著作权的,不能以被诉侵权内容系人工智能生成为由免除相关主体责任,而应当坚持责任承担与控制能力、注意义务相匹配的原则。这意味着,如果平台对AI生成内容进行编辑、筛选、推荐的,仍可能被追责。

七、未来展望:从司法规则供给到体系化立法

(一)综合性立法的推进

2026年5月11日,《国务院2026年度立法工作计划》公布,明确提出“完善人工智能治理,加快推进人工智能健康发展综合性立法”。同日,全国人大常委会2026年度立法工作计划公布,将人工智能健康发展等方面的立法项目列为“抓紧开展调研和起草工作,视情安排审议”的事项。

(二)跨部门法协同治理的挑战

人工智能的法律治理本质上是一个跨部门法的系统工程。同一技术流程可能连续触及性质不同的权利:一个模型可能在数据收集时涉及复制权和个人信息,在微调时涉及声音人格利益,在回答问题时产生名誉侵害,在内容分发时引发信息网络传播权争议。若将整条业务流程笼统概括为“人工智能使用”,法律评价容易在支持创新与保护权利之间作整体选择,进而忽略具体行为、责任要件和损害来源。

(三)实务合规的核心策略

第一,建立技术性注意义务的履行记录。 从模型研发、测试、风险评估到安全措施和运行机制,系统性保存技术记录。这些记录不仅是内部合规管理的需要,更可能在未来的侵权诉讼中成为无过错抗辩的关键证据。

第二,完善通知响应与内容下线机制。 建立高效的通知接收与处理流程,确保在收到有效通知后能够及时停止生成侵权内容、屏蔽相关生成指令。

第三,审慎处理训练数据。 建立数据来源的合规审查机制,对训练数据的版权状态进行分类管理,对高风险数据采取替代或过滤措施,并系统性地保存数据来源和授权文件。

第四,系统化管理创作过程文档。 对于AI内容创作者,完整的创作过程记录——从剧本构思、镜头安排、参数设置到后期修改——是证明“人类智力投入”的关键证据。

第五,前瞻性规划算法合规。 平台企业在设计算法定价、搜索排序、推荐展示等核心功能时,应当将反垄断合规纳入产品设计的前端流程,定期开展算法风险评估。

返回列表

Copyright © 2015-2024 上海陆同律师事务所 版权所有

沪ICP备2021024837号-1 Powered by 上海安薪发企业服务外包有限公司运营