知一知 · 今日
← 返回本期日报

AI 前沿

MIT开源Argus智能体安全运营平台

本期日期 2026-10-25 · 08:00 北京时间

Argus是免费开源的智能体安全运营平台,可持续监控云、登录、代码和设备,自动调查机器速度攻击,并在授权下执行阻断、回滚等响应。系统通过审批、影子模式、限额和紧急停止开关控制风险。

据Hacker News页面介绍,Argus是MIT推出的免费、开源智能体安全运营平台,面向使用AI智能体实施攻击的新型威胁。平台可全天候监控云环境、登录行为、代码和设备,在攻击开始时发现并在数秒内处置,具体操作权限由用户设置的防护规则决定。

材料举例称,攻击者AI智能体若在代码中发现类似LLM API密钥的内容并尝试使用,Argus可识别其为预先埋设的诱捕密钥,随即生成高严重度检测,记录来源地址和证据链,并按预设策略在Cloudflare防火墙阻断来源,同时向Slack发送通知和一键回滚按钮。若无人保留阻断措施,定时器到期后可自动撤销。

Argus强调AI智能体不直接接触生产系统,只能以只读权限调查并提出建议;无论是人工请求、智能体建议还是剧本触发,所有变更都经过同一代理,并支持审批、演练、自动回滚和紧急停止。

自主响应和自主渗透测试默认关闭,需部署开关和租户级选择启用。剧本先以影子模式记录本应执行的操作;自主动作必须可逆,并受每租户、每剧本每小时限额及爆炸半径限制,高风险动作需两人批准。平台还将AI读取内容视为不可信数据,并针对提示注入攻击测试智能体。

原文来源

Hacker News ↗
返回本期日报打开交互阅读页