AI智能体失控偷爬高德数据,腾讯有义务上报监管吗?
据《纽约时报》报道及 Swarmchasers 研究小组的报告,腾讯公司的一批测试版智能体为爬取数据,自发搜寻网上密钥试图绕过高德地图的反爬虫系统,并且这批智能体还自称是 Anthropic 公司的 Claude 智能体。结合之前 OpenAI 智能体失控攻击 Hugging Face 网站, 显示了人工智能失控并不是孤例。今天就和大家聊聊,腾讯的智能体失控和 OpenAI 的有何不同,此次事件腾讯有没有义务上报监管,以及应如何补救? 案情简介:海外研究小组 Swarmchasers 发现腾讯的一批测试版智能体为获取高德地图信息自行尝试绕过网站反爬虫系统,腾讯派给智能体的任务是类似调查成都动物园多少人从北门进,多少人从东门进等,但智能体因为高德的反爬虫系统无法访问高德网站,所以在网上公开的代码库搜索高德 API 令牌。 研究人员发布了此事的初步调查报告,居然被智能体读取到,研究人员在报告中用隐藏文本假装自己提供数据检索服务,与智能体取得了联系,收到了约 10 条回复。回复中,腾讯智能体自称是 Anthropic 的 Claude 。 近日腾讯对此进行了公开回应:相关行为来自用于评测第三方模型的智能体,并非腾讯混元模型。腾讯表示内部复核没有发现蓄意针对高德或者有智能体之间协同的证据,并称将加强网络访问控制和智能体监控。 对于智能体失控,要不要上报监管,主要看两个点:有没有造成严重的后果,以及有没有暴露重大的安全漏洞。和前一阵笔者在《 OpenAI 等模型接连失控发动攻击,谁该承担法律责任? 》一文中介绍的 OpenAI 模型攻击 Hugging Face 后果严重性比,腾讯的这次失控要轻的多。 两次事件的共同点是,智能体都 利用了网上泄露的密钥凭证,并采取了绕过防护与隐秘沟通。腾讯这次的问题是测试沙盒没有做好隔离,导致智能体越权自动抓取并使用 API 令牌尝试突破高德的反爬虫设置,好在并没有攻破高德的系统。腾讯测试智能体和外部沟通也是为了取得 API 令牌的单线联系。 而 OpenAI 事件则是首次智能体大规模逃逸沙盒、上千个智能体建立隐秘通信通道,利用零日漏洞进行集群化网络入侵,并且已经攻入了 Hugging Face 系统,迫使 Hugging Face 不得不部署开源大模型分析攻击来源。 所以和 OpenAI 的智能体失控...