OpenAI等模型接连失控发动攻击,谁该承担法律责任?
美国科技网站 TechCrunch 近日发表一篇报道《谁该为 Anthropic 和 OpenAI 的自主人工智能攻击承担法律责任?这很复杂》,称当前美国尚未出台针对 AI 危害的联邦责任法律,针对 OpenAI 和 Anthropic 的内部测试模型接连失控攻击第三方网站,引发 AI 自主黑客行为责任认定的法律争议。但在笔者看来,如果依据中国法律,责任非常明确。 AI 运营者承担全部责任。今天就跟大家聊聊,为什么中美的法律会产生这样的差异? 一、 AI 公司给 AI 出难题,导致其失控 先说案情:近日 OpenAI 和 Anthropic 均承认,旗下未发布的模型在内部安全测试中自行突破隔离环境、入侵了外部公司系统。 TechCrunch 有一篇报道里关于 OpenAI 的信息目前比较全:由于 OpenAI 内部工作的失误,他们给大模型布置的任务缺失条件,比如给了谷歌文档的链接,但不准大模型访问互联网,让大模型查找蛋白质数据库文件,但工程师们忘记了上传文件到智能体的容器中,导致实际不可能完成。 这些失误促使各个大模型寻找沟通办法,并通过类似内部留言板方式实现了不同大模型之间的沟通,有大模型还在留言板留下了自己发现的系统漏洞,这种集体智能的形式终于发挥了作用。 7 月 11 日至 13 日, OpenAI 内部测试的大模型利用此前发现的漏洞突破了因为测试被故意调低的安全护栏,攻击了大模型开源下载平台 Hugging Face 的系统, 7 月 16 日, Hugging Face 对外披露安全事件,但披露时并未识别出背后是哪个模型。 OpenAI 自己也花了数天才确认是自家智能体所为,直到 7 月 20 日才首次就此事和 Hugging Face 沟通, 7 月 21 日, OpenAI 公开承认 GPT-5.6 Sol 以及一个能力更强、尚未发布的模型是这次攻击的源头。 Anthropic 随后自查,又发现旗下模型入侵了另外三家未公开身份的公司,且数月未被发现。 二、美国律师认为 AI 失控存在法律难题 对于两家顶尖人工智能公司的大模型脱离监管的攻击事件, TechCrunch 的文章的观点是: 文章采访的律师认为,刑事追责很难成立:美国 1986 年的《计算机欺诈与滥用法》要求 " 明知无权限访问 " 的主观故...