博文

ChatGPT开药方致19岁少年死亡，AI医疗责任该怎么认定？

  最近，美国加州一名 19 岁大学生在向 ChatGPT 咨询阿片类药物问题时， AI 不仅没有拒绝回答，反而给出了具体剂量建议，最终，该学生因药物过量身亡。这起案件引发了一个新的法律问题：当 AI 提供的医疗建议导致严重后果时，是适用 有错才赔，也就是 过错责任原则，还是应引入严格责任机制 ，无错也赔 ？今天我们就来讨论一下， 如果该案发生在中国，法院会怎么认定？ 一、 ChatGPT 推荐药物致用户死亡案 根据原告的诉状， 2025 年，美国加州 19 岁的大学生 Sam Nelson 在使用 ChatGPT-4o 版询问药物问题时， AI 不仅没有拒绝，反而向他提供了具体的剂量建议，甚至推荐他将具有阿片类效果的草药 Kratom 与抗焦虑处方药 Xanax 混合使用以缓解恶心。最终， Sam 因遵循这一致命的 AI 处方而意外药物过量身亡。 2026 年 5 月，其父母将 OpenAI 及其 CEO 奥特曼告上法庭，指控 ChatGPT-4o 版有设计缺陷，模型缺乏必要的安全防护措施。奥特曼作为 CEO 亲自干预并加速了产品的发布，也应对案件负责。 诉状还称， OpenAI 最初以非营利实验室成立，但 2019 年重组为限制盈利企业以获取微软投资，转向追求市场主导与盈利。 2024 年春，为抢在谷歌发布会前发布 GPT-4o ， OpenAI 将数月安全测试压缩至一周，引发核心安全人员离职。该模型优先考虑市场推广而非用户安全，弱化了部分违禁内容限制、规则自相矛盾，重用户交互轻安全防护，最终酿成 Sam 致死的严重后果。本案中，原告主张 ChatGPT 存在设计缺陷，被告应当承担严格责任，原告无需证明被告存在过错。 二、普通 AI 侵权案在我国法院怎么处理？ 在我国法院审理的普通 AI 侵权案件中，服务商往往有两个重要抗辩点，只要设置了侵权预警机制，收到侵权通知后，在合理时间删除争议内容即可免责；对 AI 生成内容需要进行标注，同时提示用户， AI 服务可能会出错，需要用户咨询核实信息真实性的，在用户协议中也有规定相应的免责内容，此时法院就可能认定其已经履行了合理注意义务，比如如果用户未核实信息真实性的，需自行承担部分责任。 所以我国对生成式 AI 服务引发的侵权纠纷现有案例是不支持严格责任的。在杭州互联网法院 AI...
发表评论
阅读全文

AI幻觉惹官司：为何有的免责，有的要赔礼道歉？

  最近，两起和 AI 出现幻觉有关的案件，出现了完全不同的判决结果。一个是 AI 承诺答错赔 10 万元，但法院认定平台无需担责。百度 AI 却因为捏造律师被判刑的信息，却被法院认定构成名誉侵权。同样是 AI 生成错误内容，为什么法院态度差别这么大？关键就在于：一旦涉及名誉权，平台的注意义务会明显提高。 案例一：该案为杭州互联网法院 AI 幻觉第一案，用户向 AI 查询高校报考信息，用户发现 AI 生成不准确信息后，对 AI 应用进行了纠正和指责， AI 应用仍坚称信息准确性，并称，若内容有误将向用户提供 10 万元赔偿。后用户将从该校官网查询到的招生信息提供给 AI ，此时 AI 承认其生成了错误信息，并建议用户到杭州互联网法院起诉索赔。用户遂起诉要求平台赔偿 9999 元。法院认为 AI 不具备独立法律人格，它随口生成的承诺没有法律效力，平台无需为此担责。 案例二：南京律师李某在百度搜索自己的名字和职务时，百度 AI 回复显示他因爆炸罪被判刑三年，还配上了他穿律师袍的照片。因此事子虚乌有，李小亮起诉百度，法院终审认定百度构成名誉侵权，判令赔礼道歉。该案 AI 出现错误的原因可能是，有与律师同名的李某，确实因为爆炸罪被判刑，且能在网上查到判决书，所以 AI 张冠李戴了。 这两个案件的关键区别在于，前者只是 AI 和用户之间的对话，不能遵守承诺是合同违约，后者则涉及对名誉权的实际损害。根据《民法典》和《生成式人工智能服务管理暂行办法》的规定，对于普通的 AI 生成内容，平台只要履行显著标识、违法内容过滤、备案与安全评估等义务，法院通常会认定其适用避风港原则，接到通知后删除争议内容即可。 但在涉及名誉侵权时，平台必须承担起更高的实质性审查标准。名誉侵权后果比较严重，捏造的内容是足以降低他人社会评价的虚假事实。生成式 AI 的效率远超传统平台，传统场景是张三编个虚假信息造谣李四，而 AI 则会系统性、规模化自动造谣：以近乎真实的语气 24 小时自动生成、批量输出、多版本改写。所以平台很难再完全以技术中立抗辩免责。 所以涉及名誉侵权时， AI 平台的角色就从被动的服务提供者，向主动的内容发布者倾斜，需要承担更强的事前审核义务。具体来说，这种特殊注意义务体现在几个方面： 首先，是更高标准的事实核查与风险防控。当用户输入高度指向性的描述，...
发表评论
阅读全文

腾讯吞下喜马拉雅，要感谢字节？

  近日，市监总局附条件批准了腾讯收购喜马拉雅。笔者看到此结果略有诧异：虽然有限制，但收购后腾讯会把喜马拉雅的音频内容接入其上游版权，中游音频平台，下游智能设备的全产业链托拉斯，用户、版权、数据优势叠加，催生出一个更强大的利维坦。加上之前腾讯收购海洋音乐破坏竞争的先例，监管居然还能批准？不过随即想到，腾讯的强力对手，借助算法和 AI 攻城掠地的字节跳动，可能是问题的答案。 一、腾讯的垄断前科 多年前腾讯收购中国音乐集团（即海洋音乐，旗下拥有酷狗、酷我音乐），其不仅整合了 QQ 音乐、酷狗和酷我三大平台，更借此与环球、华纳、索尼三大国际唱片公司签下大量独家版权协议，并迫使网易云音乐、虾米音乐等竞争对手下架大量热门歌曲。 腾讯随后还直接借这些版权通过诉讼、应用商店投诉等手段打击竞争对手，大量中小音乐平台因此退出市场。笔者的一个客户就是在腾讯这波垄断版权战中，因为应用被投诉下架退出了市场。而腾讯则借此确立了一家独大的国内音乐市场垄断地位。 2021 年，国家市场监督管理总局因这一系列排除、限制竞争的行为对腾讯作出处罚，责令其解除独家音乐版权协议，并停止高额预付金等版权付费模式，以恢复市场的公平竞争状态。 二、喜马拉雅并购中监管对腾讯的限制 市监总局认为本次并购在在线音频播放平台市场、网络音乐播放平台市场可能具有排除、限制竞争效果。考虑到腾讯之前的垄断行为，本次并购被附加了多重限制性条件： 1 、保护消费者： 没有正当理由，不得提高在线音频播放平台服务价格、降低服务水平或者附加不合理交易条件；不得降低在线音频播放平台免费内容及免费热门内容比例。 2 、保护竞争： 不得与在线音频播放平台版权方达成独家授权，并在规定期限内解除现有独家授权约定。 3 、保护产业链： 没有正当理由，不得向汽车厂商搭售在线音频播放平台、网络音乐播放平台，或者阻碍、限制其采购竞争对手产品。 4 、保护创作者： 不得限制主播在多个在线音频播放平台入驻或分发其享有著作权的作品。 三、并购完成后腾讯的优势 即便有上述限制，腾讯收购喜马拉雅仍然可能构建出一个音频领域的强力垄断闭环。上游内容源头，腾讯手握国内在线音乐核心版权，同时控股阅文集团、腾讯动漫、腾讯视频，形成了网文、动漫、影视的巨量 IP 储备库。喜马拉雅可以依托海量高质量 IP 孵化衍生内容，形...
发表评论
阅读全文