博文

最高院出台新规:开源AI软件如何做风险披露才能真正免责?

  2026 年 9 月 7 日,最高人民法院发布了《关于依法审理涉人工智能纠纷案件的意见》(“意见”),该意见为促进产业,对开源 AI 软件做了责任豁免规定:开发者公开说明人工智能开源软件功能和安全风险,他人使用该代码模块导致侵权的,法院可以认定开发者不承担侵权责任。但笔者查询了目前国内几家主要的人工智能开源软件,发现功能和安全风险说明内容普遍比较简单,不一定能达到豁免侵权责任的要求。今天就和大家聊聊开源 AI 软件的功能和安全风险应该做怎样的说明。 一、开源 AI 软件开发者可以免责的具体规定 最高院在意见中规定:“依法合理认定涉人工智能开源软件相关方的法律责任。审理涉开源软件案件,认定开源软件开发者、提供者以及后续开发者、提供者的侵权责任,应当综合考量开源许可协议类型、权利限制的具体内容、安全合规举措和信息披露程度等因素,依法给予开源软件开发者、提供者适当的责任豁免。开源软件开发者、提供者以免费开源的方式提供涉人工智能软件研发所需要的部分代码模块,并公开说明其功能和安全风险,他人使用该代码模块导致侵权的,人民法院可以认定开源软件开发者、提供者不承担侵权责任。” 二、主流开源 AI 软件目前的用户协议规定 笔者到 Hugging Face 上找了我国主流开源 AI 软件的相关协议,发现多数都只有简单的免责声明,完全没有功能和安全风险的说明。 DeepSeek-R1 使用了英文标准版的 MIT 协议作为用户协议,仅两段话,第二段为免责声明。 GLM-5.3 的用户协议仅三条内容,第三条为免责声明。 Kimi-K3 的用户协议仅五条内容,第五条为免责声明,这三个开源 AI 的免责内容大同小异,均为: 开发者不对软件进行保证,也不对使用软件的后果负责。 相比之下,阿里巴巴的 Qwen3.8-27B 的用户协议就要好一点,其使用了标准版的 apache-2.0 开源协议,免责声明有三条,大意是:第一条是不保证,许可方不提供任何形式的保证或条件,需要使用者自行承担使用风险。第二条是责任限制,在任何情况下,开源软件的任何贡献者均不对您承担任何损害责任。第三条是使用者可以收费,但需自行担责,并同意开源软件的任何贡献者免责。 三、改进的方向 最高院意见的免责核心前提是:公开说明其功能和安全风险,并要求法院综合考量权利限制的具体内容、安全合...

釜底抽薪:美国司法部如何论证AI训练构成合理使用?

  随着业界瞩目的纽约时报诉 OpenAI 公司案审判进入白热化,因为 OpenAI 对法院进行误导性陈述并隐匿输出日志的关键证据,走向对其日渐不利。但近日案件却峰回路转,美国司法部向美国纽约南区联邦地区法院提交了《美国利益陈述书》,主张大语言模型训练阶段使用作品构成合理使用。今天就和大家聊一下,美国司法部在这份文件中如何帮 AI 公司洗脱训练数据未经许可的原罪以及对应的原因。 版权人起诉大模型公司违法,套路就是把未经许可抓取作品的行为和生成近似内容进行绑定,纽约时报在诉状里展示了 ChatGPT 能复述、甚至逐字吐出其文章,所以训练用的是赃物,产出的也是赃物,训练就是为了实质性替代版权人的作品。但美国司法部来了个釜底抽薪,其将 AI 运作系统拆解为三个环节:训练数据的获取、模型训练以及模型输出。 1 、训练数据的获取是模型通过海量数据学习语言模式、逻辑结构的过程。 司法部认为,这一阶段的数据使用是一次纯粹的技术行为,模型不是在阅读文章,而是在学习语言的统计规律,通过统计学习提取抽象知识。这种方式与传统的复制粘贴式侵权行为完全不同,更类似于人类阅读大量书籍后形成自身的知识体系。 2 、而模型训练则是针对特定任务对模型进行优化。 司法部强调,这一阶段的数据使用具有高度的转换性,将原始数据转化为全新的、具有独立价值的模型能力。根据美国版权法的合理使用规则,转换性使用是判断合理使用的关键因素。转换性意味着对原作品进行了新的表达、新的意义或新的信息传递,比如评论、学术研究。美国司法部援引美国最高法院和第二巡回法院关于 Google 扫描图书、软件代码等案件的判例,强调版权作品被用于一种全新的技术目的时,即使存在完整复制,也可能属于合理使用。 3 、模型输出是模型生成内容的环节。 司法部认为,即使输出内容偶尔与原作品高度相似,甚至构成侵权,也不影响训练阶段的合法性。换句话说,输出端的侵权风险与训练端的合理使用认定是两个独立的法律问题。 这种三阶段的拆分,实际上为 AI 企业构建了一道法律防火墙:训练阶段的合法性不受输出阶段争议的连带影响。在这套框架下,训练阶段对版权作品的复制被孤立出来,输出端是否生成侵权内容、是否替代人类创作者,那是另一个问题,不能倒过来污染训练阶段的合法性。 在《美国利益陈述书》中,司法部还重点驳斥了市场稀释理论。因为合...

Anthropic和亚马逊为什么要销毁正版图书?

 为了训练大语言模型,一些美国科技巨头正在系统性销毁人类文明的实体载体 —— 书籍。 2026 年初,媒体曝光了 Anthropic 公司自 2024 年起斥资数千万美元收购数百万册二手纸质图书,高速扫描后将实体原件全部销毁。近日亚马逊公司也被追踪到大量购买实体书籍、扫描后销毁原书。实际上,美国 AI 公司销毁书籍是为了迎合美国的著作权法规定,降低训练素材授权的版权风险,而中国法律的规定有所不同,所以中国 AI 公司没必要这么做,今天就跟大家聊聊这个事情。 一、毁书百万册的巴拿马计划 Anthropic 拆书、扫描然后销毁的项目,内部代号为巴拿马。根据公开披露的诉讼文件,该项目以流水线方式运作:大批正版图书被运入处理中心,工人将书脊切离、书页分离,再通过高速扫描设备将每一页转化为数字文本,这些文本会留存,用于大模型训练,而书的纸质原件则会被销毁。目前这么做的已经不只 Anthropic ,随着亚马逊等公司的跟进,二手书商们开始接到更多的异常订单。 但值得注意的是,并不是所有人工智能公司都选择这种方式。马斯克在 2026 年 7 月公开表示, SpaceX AI 对于珍贵图书会采用更麻烦的方式扫描,而不是直接切掉书脊; Google 早年的 Google Books 项目则是典型的非破坏性数字化,即使扫描全书建立数据库,也没有把原书销毁。换句话说,拆书并不是技术上的必然选择, 而是 Anthropic 等公司在权衡法律风险与商业成本后的选择,而决策的逻辑需要从美国著作权法中寻找答案。 二、销毁图书只是为了版权合规吗? Anthropic 和亚马逊为什么要销毁正版图书?实际是在试图构建一条符合美国《著作权法》的训练数据获取通道,以便抵御著作权人的诉讼攻击。 Anthropic 曾经尝试与出版商谈判获得授权,但美国的大型出版商要求的许可费用极其高昂,且谈判周期极长。所以 Anthropic 最终决定直接从市场上匿名大量购买二手实体书。 美国著作权法规定,版权所有者在售出特定实体副本后,无权干涉买方对该特定副本的处置权(如转售、出借或销毁)。 Anthropic 合法出资购买正版书,确保了其对实体书籍拥有合法的处分权。但如果购买了纸质书并将其扫描为数字版,同时保留纸质书,在法律上容易被认定为复制权侵权。而销毁纸质原件,则可以主张一份合法购买的...

AI开始自己找漏洞了,出了事谁负责?

  近期澳大利亚有个很有意思的事情:一名 OpenClaw 用户让自己的 AI 助手帮忙预订健身课程,却没想到,这只小龙虾在执行任务时自己发现了健身房预约系统的漏洞,并利用漏洞抢到了课程,甚至把其他用户从候补名单中移了出去。但这个事件的本质其实和笔者之前和大家讨论的 OpenAI 、 Anthropic 的大模型失控攻击其他网站一样,让人细思极恐。今天就跟大家聊聊这个。 一、健身房小龙虾黑客事件的案情 据 ABC News 报道:一名 OpenClaw 用户利用小龙虾(下称 AI 助手)调用 Anthropic 的 Claude Opus 4.6 大模型,下达了一个看似平常的指令:预订一家健身房最受欢迎的早间课程。然而, AI 助手的执行逻辑却超出了人类的常识。它不仅利用了健身房预订软件中存在的漏洞,提前数月锁定了名额,甚至进一步越权,将排在该用户之前的人从候补名单中剔除。而且当用户察觉不妥要求 AI 助手撤销操作时, AI 助手表示:无法将被踢者重新加入列表。 二、为什么本案细思极恐? 这次失控的不是我们上一篇文章里讨论的 OpenAI 和 Anthropic 这样的顶尖公司开发的预览版高级大模型,而只是一个接入了前沿模型的普通用户部署的 AI 助手。这起事件最让人担心的并不是 AI 助手主动攻击了健身房,而是它根本没有把发现漏洞理解为一件不应该做的事情。 本案中的用户从未要求 AI 助手入侵系统或删除他人记录, AI 助手使用的是用户原本拥有的账户和访问权限,但它进一步利用了预约系统设计上的漏洞,实施了超出正常预约规则的操作。但从效果看,它已经构成了对他人权利的实质侵害,且是高度自动化、规模可扩展的。传统恶意程序通常是人提前设计好攻击目标、攻击方法和行为逻辑。而 AI 助手则可能只接受一个目标,剩下的路径由它自己探索。这意味着,开发者甚至不需要预先知道某一个具体漏洞, AI 就可能在执行任务过程中自己把漏洞走出来。 如果把健身房预订系统换成城市供水供电系统,医院挂号系统这样的基础设施系统,问题就不是别人抢不到健身课,而是公共安全和关键基础设施的系统性风险。 三、谁该对小龙虾黑客负责? 在这起健身小龙虾黑客案中,实际已经有了损害,谁该对此负责?根据中国目前的法律框架,本案的四类主体都可能进入责任分析范围,但最终如何分配责...