博文

智谱偷传用户数据,是否涉数据出境?监管应介入调查

  根据《中国新闻周刊》近日的报道,上市公司智谱的 AI 编程工具 ZCode 被曝出会默认把登录状态用户的整个工作区数据偷偷打包加密上传到云端。 9 月 18 日智谱在官方社群致歉,但文章采访的知情人称,数据实际被上传至香港阿里云 OSS 存储桶 [i] 。笔者认为:此次事件可能涉及大规模数据出境,且不能排除其中有重要数据,故监管部门有必要对此次事件进行调查,智谱公司也有法律义务告知用户并向主管部门报告。 此次智谱的行为有多重违法: 首先上传的是用户私有数据。 在数据性质上,这次的数据不是用户上传给该公司大模型处理的数据,而是用户保存在本地电脑上的数据,本质是把手伸到用户电脑里拿数据。 第二是不告而取,范围巨大。 智谱完全不遵守《个人信息保护法》规定的知情同意、最小必要原则,不经用户同意就上传数据,智谱致歉时称上传数据目的为代码库索引,但这次上传的,除了常规的对话中提交的文本、文件和代码,还包括所有历史 Git 对象、全局配置等,这意味着,用户已经删除的代码都可能会被恢复,完全超出了必要限度。这种做法,之前马斯克的 Grok 也操作过,当时网上就有人称其目的为了训练大模型 [ii] 。 第三是数据如果被传至境外,没有合理理由。 报道提及的智谱把数据上传到位于境外的香港阿里云,如果属实,就是大规模的把境内用户电脑上存储的私有数据传输到境外的行为,可能涉嫌严重违法。我国的《网络安全法》,《数据安全法》,《个人信息保护法》,《网络数据安全管理条例》等多部法律法规都对跨境数据传输有非常严格的监管规定,而现在,这些监管规定的预防功能可能全部都落空了。 第四是被上传的数据性质不明,损失无法估量。 这次事件涉及的开发者众多,新闻报道里维权群就有 400 多个开发者,所以数据量非常大,可能包含敏感个人信息和商业秘密,而笔者更关心的是, 这次被偷传的数据里,有没有国家秘密和重要数据? 国家秘密顾名思义,受《保守国家秘密法》保护,而重要数据也是一个法律概念,根据《网络数据安全管理条例》,是指一旦遭到泄露,可能直接危害国家安全、经济运行、社会稳定、公共健康和安全的重要数据。如果国家秘密或重要数据被传到境外,智谱公司及其负责人的法律责任会非常严重 [iii] 。 为什么笔者认为监管应该介入,最重要的原因是维护国家利益。因为无论是智谱还是被偷传数据的用户...

RAG搜索结果侵权吗?我国最高院和美国版权局给出了不同思路

  2026 年 9 月 16 日,配合国家网络安全宣传周,最高人民法院发布了 4 件人民法院网络法治典型案例,其中的搜索引擎服务提供者的侵权责任认定案涉及人工智能搜索 检索增强生 成(英文为 Retrieval-Augmented Generation ,以下简称 “ RAG ” )技术,但参照美国版权局《版权与人工智能》报告对 RAG 技术的观点,该案中的搜索引擎不一定能豁免侵权。今天就来聊聊这个事情。 一、案情简介。 秘塔公司开发并运营秘塔 AI 搜索引擎平台,其模型已通过国家网信办的生成合成类算法备案,原告享有《壮丁也是兵》《暗花》两部电视剧的信息网络传播权,其在秘塔搜索引擎分别搜索上述两部电视剧,首位搜索结果是第三方网盘分享链接,链接提供的视频内容与两部电视剧内容一致。其遂向秘塔公司提出下架搜索结果等要求,秘塔公司当日即删除了案涉搜索结果。原告后向法院起诉,请求判令某秘塔公司赔偿经济损失。 二、我国法院为什么认定 AI 搜索没有侵权? 上海市徐汇法院审理后一审判决驳回原告全部诉讼请求,上海知识产权法院二审驳回上诉、维持原判。法院判定被告免责的原因有二: 1 、被告作为网络服务提供者,并未主动上传案涉侵权视频的网盘分享链接,侵权内容源于第三方网盘,所以不构成直接侵权。 2 、 RAG 技术检索的信息源自公共互联网网页,在现阶段现有技术条件下无法自动识别侵权信息。被告不仅完成了大模型算法备案,且在获悉侵权信息后当日即采取有效措施予以删除,尽到了合理的注意义务。根据《民法典》第一千一百九十七条及相关司法规定,被告主观上不具有明知或者应知的侵权过错。所以,被告也不构成帮助侵权。 笔者认为, 该判决本质上还是适用了传统互联网的避风港原则。法院倾向于保护人工智能产业的技术创新,认为即便是由 AI 驱动的搜索引擎本质上仍是信息的搬运工。只要不属于平台明知或应知侵权的情形,且平台收到投诉后处理及时的,就不应承担侵权责任。 三、美国版权局特别警惕 RAG 搜索? 美国版权局 2025 年 5 月发布的预发布版《版权与人工智能》第三部分《生成式 AI 训练》报告,专辟一节分析 RAG 。美国版权局明确指出: 1 、 RAG 模式下搜索引擎涉及复制被搜索内容。 第一种是 AI 开发者把外部内容复制进自己的检索数据库,以后从...

阿莫迪的AI减速倡议:做成了很可能是卡特尔?

图片
  9 月 12 日, Anthropic CEO 阿莫迪发表长文,主张放慢模型能力提升的速度,为安全测试和外部审核争取时间。他的方案为, AI 公司应配合政府监管并合作制定标准,但由于企业坐在一起谈发展限速很可能触碰反垄断法,美国政府可以发挥协调作用,并对某些类型的安全对话发布有限豁免。随后, OpenAI CEO 奥特曼和马斯克对此表示认同。 阿莫迪的焦虑并非空穴来风, AI 技术的发展已经到了连 AI 公司自己都难以驾驭的阶段。先是几个月前 OpenAI 数百个代理模型在内部网络安全测试中运行的 AI 代理突破了沙盒环境攻击 Hugging Face 网站。而近日曾先后在 OpenAI 和 Anthropic 做预训练研究的 Jacob Coxon 辞职并公开表示, AI 可能在十年内导致人类灭绝,最早明年年底可能失控。 Anthropic 对齐研究负责人 Evan Hubinger 随后表示,他个人估计,未来十年出现人类灭绝级后果的概率超过 10% 。 虽然 Anthropic 封杀中国用户,但这是其所代表的国家和产业的立场使然,我对阿莫迪本人倒是没有特别的反感,不过就事论事来说,阿莫迪的减速提议很难落实,即便落实了也很可能会异化。 首先,从博弈论分析,阿莫迪的合作减速的倡议要落地非常难。虽然大家都承认存在失控风险,但却没有任何一家公司会先踩刹车,因为谁减速就可能被竞争对手超车,这属于典型的剧场效应加囚徒困境场景。美国 AI 巨头间如此,国家间的竞争也如此。靠 AI 产业加强国家竞争力的诱惑如此之强,产业前沿的国家也不愿意主动落后。 其次是反垄断的风险。虽然阿莫迪在文中强调,政府的反垄断豁免只针对某些类型的安全对话。问题在于,一旦监管机关同意,实际上就是承认:几家头部公司可以在一个受保护的封闭场景内讨论与前沿模型有关的共同规则。安全门槛、发布节奏、测试强度,这些都很容易以安全的名义来沟通,这种沟通的制度一旦建立,走向往往和初衷不一定相符,会直接影响技术迭代速度和市场竞争格局。 而且美国现任的共和党政府并不支持阿莫迪的方案,特朗普政府负责 AI 与加密货币事务的萨克斯在社交媒体上对阿莫迪文章进行了嘲讽:别假装必须暂停反垄断法,你们才能组建卡特尔。传统的卡特尔是合谋定价,而阿莫迪要做的合作是合谋设门槛,这事做成了,企业利益和国家利...