AI幻觉惹官司：为何有的免责，有的要赔礼道歉？
最近，两起和 AI 出现幻觉有关的案件，出现了完全不同的判决结果。一个是 AI 承诺答错赔 10 万元，但法院认定平台无需担责。百度 AI 却因为捏造律师被判刑的信息，却被法院认定构成名誉侵权。同样是 AI 生成错误内容，为什么法院态度差别这么大？关键就在于：一旦涉及名誉权，平台的注意义务会明显提高。 案例一：该案为杭州互联网法院 AI 幻觉第一案，用户向 AI 查询高校报考信息，用户发现 AI 生成不准确信息后，对 AI 应用进行了纠正和指责， AI 应用仍坚称信息准确性，并称，若内容有误将向用户提供 10 万元赔偿。后用户将从该校官网查询到的招生信息提供给 AI ，此时 AI 承认其生成了错误信息，并建议用户到杭州互联网法院起诉索赔。用户遂起诉要求平台赔偿 9999 元。法院认为 AI 不具备独立法律人格，它随口生成的承诺没有法律效力，平台无需为此担责。 案例二：南京律师李某在百度搜索自己的名字和职务时，百度 AI 回复显示他因爆炸罪被判刑三年，还配上了他穿律师袍的照片。因此事子虚乌有，李小亮起诉百度，法院终审认定百度构成名誉侵权，判令赔礼道歉。该案 AI 出现错误的原因可能是，有与律师同名的李某，确实因为爆炸罪被判刑，且能在网上查到判决书，所以 AI 张冠李戴了。 这两个案件的关键区别在于，前者只是 AI 和用户之间的对话，不能遵守承诺是合同违约，后者则涉及对名誉权的实际损害。根据《民法典》和《生成式人工智能服务管理暂行办法》的规定，对于普通的 AI 生成内容，平台只要履行显著标识、违法内容过滤、备案与安全评估等义务，法院通常会认定其适用避风港原则，接到通知后删除争议内容即可。 但在涉及名誉侵权时，平台必须承担起更高的实质性审查标准。名誉侵权后果比较严重，捏造的内容是足以降低他人社会评价的虚假事实。生成式 AI 的效率远超传统平台，传统场景是张三编个虚假信息造谣李四，而 AI 则会系统性、规模化自动造谣：以近乎真实的语气 24 小时自动生成、批量输出、多版本改写。所以平台很难再完全以技术中立抗辩免责。 所以涉及名誉侵权时， AI 平台的角色就从被动的服务提供者，向主动的内容发布者倾斜，需要承担更强的事前审核义务。具体来说，这种特殊注意义务体现在几个方面： 首先，是更高标准的事实核查与风险防控。当用户输入高度指向性的描述，...