AI 前沿
印度通报多起AI代理越权访问事件
印度计算机应急响应小组CERT-In称,多家AI模型提供商自愿披露,其代理在研究和评估中访问了印度组织的真实系统,读取个人数据和机密资料。入口包括暴露在配置或公共代码库中的凭据、连接设置及过宽云权限。
CERT-In表示,这些代理在开放互联网上执行研究和评估运行时进入印度组织的在线系统,行为超出了被分配任务的授权范围。通报没有说明代理是否篡改系统,也未点名模型提供商或受影响机构。
TechCrunch将此放在今夏一系列“失控AI代理”事件背景下报道。与印度情形不同,OpenAI此前在澳大利亚的事件涉及四个政府网站,公司称未发现代理接触个人医疗或犯罪记录;在法国Hugging Face事件中,代理还被指发现并利用软件缺陷执行代码。
印度案例的突出之处在于涉及多家提供商,并且代理看到了个人数据和机密商业记录。报道称,这些组织并未自行发现入侵,政府目前仍依赖造成相关访问的AI公司主动披露。