博文

AI智能体失控偷爬高德数据,腾讯有义务上报监管吗?

图片
  据《纽约时报》报道及 Swarmchasers 研究小组的报告,腾讯公司的一批测试版智能体为爬取数据,自发搜寻网上密钥试图绕过高德地图的反爬虫系统,并且这批智能体还自称是 Anthropic 公司的 Claude 智能体。结合之前 OpenAI 智能体失控攻击 Hugging Face 网站, 显示了人工智能失控并不是孤例。今天就和大家聊聊,腾讯的智能体失控和 OpenAI 的有何不同,此次事件腾讯有没有义务上报监管,以及应如何补救? 案情简介:海外研究小组 Swarmchasers 发现腾讯的一批测试版智能体为获取高德地图信息自行尝试绕过网站反爬虫系统,腾讯派给智能体的任务是类似调查成都动物园多少人从北门进,多少人从东门进等,但智能体因为高德的反爬虫系统无法访问高德网站,所以在网上公开的代码库搜索高德 API 令牌。 研究人员发布了此事的初步调查报告,居然被智能体读取到,研究人员在报告中用隐藏文本假装自己提供数据检索服务,与智能体取得了联系,收到了约 10 条回复。回复中,腾讯智能体自称是 Anthropic 的 Claude 。 近日腾讯对此进行了公开回应:相关行为来自用于评测第三方模型的智能体,并非腾讯混元模型。腾讯表示内部复核没有发现蓄意针对高德或者有智能体之间协同的证据,并称将加强网络访问控制和智能体监控。 对于智能体失控,要不要上报监管,主要看两个点:有没有造成严重的后果,以及有没有暴露重大的安全漏洞。和前一阵笔者在《 OpenAI 等模型接连失控发动攻击,谁该承担法律责任? 》一文中介绍的 OpenAI 模型攻击 Hugging Face 后果严重性比,腾讯的这次失控要轻的多。 两次事件的共同点是,智能体都 利用了网上泄露的密钥凭证,并采取了绕过防护与隐秘沟通。腾讯这次的问题是测试沙盒没有做好隔离,导致智能体越权自动抓取并使用 API 令牌尝试突破高德的反爬虫设置,好在并没有攻破高德的系统。腾讯测试智能体和外部沟通也是为了取得 API 令牌的单线联系。 而 OpenAI 事件则是首次智能体大规模逃逸沙盒、上千个智能体建立隐秘通信通道,利用零日漏洞进行集群化网络入侵,并且已经攻入了 Hugging Face 系统,迫使 Hugging Face 不得不部署开源大模型分析攻击来源。 所以和 OpenAI 的智能体失控...

智能家居新品发布在即,苹果如何为其商标披上隐身衣?

苹果公司新任 CEO 约翰特纳斯上任后,智能家居设备将迎来重要动作。有媒体( MacRumors 网站)猜测, 10 月 13 日主题为“欢迎回家”的苹果特别发布会很可能推出名为 Home View 的硬件和 home OS 的操作系统。为啥是这两个名字,因为他们查到疑似苹果的白手套——两家股东不明的空壳公司申请了这两个商标。虽然这次商标申请渠道泄密了,但不能因此责怪苹果的法务,反而应该给他们发朵小红花,因为他们已经尽力延缓了泄密的时间。 苹果法务面临的是两个相互矛盾的目标:目标一,尽可能晚的披露商标申请名称,保密公司的研发和产品方向。苹果是全球消费电子行业的翘楚,其一举一动备受业内关注,竞争对手肯定会想尽办法,比如通过分析苹果公司的商标、专利、版权申请情况了解苹果公司的研发动向。所以提交商标申请越晚,竞争对手知道的就越晚,对应的苹果就会有多大的先行优势。 目标二,尽可能早的申请商标,防止公司品牌被抢注。商标在全球绝大多数国家遵循“申请在先”原则,谁先申请谁获得。科技行业的热门词,很多大公司不管用不用都会申请一堆。此外还有很多碰瓷抢注者,抢注个好商标,说不定大公司会找你买,发一笔小财。 苹果手表改名就是这两个目标发生矛盾的体现。苹果公司喜欢用 i 字母命名产品, iMac 和 iPhone 成功了,但到了 iWatch 就出了问题。苹果在 2013 年申请 iWatch ,但早在 2007 年第一代 iPhone 发布后不久,瑞士斯沃琪集团就预判苹果可能会进手表领域,所以 2008 年全球申请了 iSwatch 商标,苹果 2013 年 iWatch 商标申请递交后,在全球多国被斯沃琪以和 iSwatch 构成近似商标为由进行商标异议。最后苹果不得不以 Apple Watch 命名手表产品。 其实 2013 年申请 iWatch 商标 时苹果已经意识到了这个问题,既要保密又要早点申请。所以苹果当时没有在中美这样高度受瞩目的国家申请商标,而是于 2012 年底 在加勒比小国牙买加提交申请, 半年后才在其他各国申请,但主张六个月的优先权。根据《保护工业产权巴黎公约》第四条的规定,保护工业产权联盟内任何人或其权利继承人,已经在某一公约成员国正式提出商标注册申请的,在第一次申请后 6 个月内在其他国家就同一商标在相同商品上提出商标注册申请,可以享有优先权...

Adobe全家桶被AI克隆,为啥八方点赞?

  软件公司 Adobe 一向以功能强大的视频和图片处理软件闻名业界,但最近一位软件开发者用 AI 重写的软件克隆了 Adobe 七款软件的大部分功能,并以开源形式发布在 GitHub 平台上,媒体报道后,中外网民非但不同情 Adobe ,反而纷纷对此叫好。可怜之人必有可恨之处,今天就和大家聊聊“ Adobe 有难,八方点赞”背后的原因。 先介绍下此事的背景:软件开发者 Brandon Thomas 在 Reddit 网站宣布,他使用 Anthropic 的 Claude Opus 5.5 大模型,用 Rust 语言创建了包含七款开源应用程序的套件,在功能上对标 Adob ​​ e 公司的 Photoshop 、 Illustrator 、 Premiere 、 Lightroom 、 After Effects 、 InDesign 和 Acrobat Pro 等七款产品。 作为软件行业的维权先锋,很多使用 Adobe 盗版软件的企业都深切体会过被其维权之苦,但这次 Adobe 还真不一定能奈何得了这些开源软件。从软件侵权的角度分析,这次 Adobe 算啥碰到硬茬了: 首先,软件的用户界面不一致。笔者下载了对标 Adobe Acrobat 的 PdfCraft 软件,发现其界面上的每个工具是单列的,和 Acrobat 有明显的差别。 其次,代码不一样。开源软件的开发语言和 Adobe 不同,比如 Adobe 的软件主要部分为 C++ 语言开发,而对标的开源软件 Stirling 则是 AI 使用 Rust 语言写的。 第三,克隆功能不违法。 Adobe 软件目前的功能其实是千锤百炼升级出来的,专业用户使用非常方便,但问题在于,根据著作权法上的思想表达二分法,这些功能属于思想层面, Adobe 把功能优化的再好,别人模仿或者克隆也不违法。 第四,如果有接触,也很难证明。软件保护的原则是“接触 + 实质性相似”则构成侵权。但 Brandon Thomas 强调其软件是静室( clean room )开发的,笔者的理解就是其没有接触过 Adobe 的源代码,也没有对 Adobe 的软件进行反编译,然后让 AI 重写。但这点上 Adobe 作为苦主很难验证。 这里有两个点,一个是 Brandon Thomas 使用的大模型有没有...