AI 前沿
研究显示预训练投毒可给AI智能体植入远程代码执行后门
一篇安全论文称,攻击者可在大规模公共预训练语料中植入少量有毒内容,使经干净流程后训练出的命令行智能体在遇到触发器时执行攻击者指定命令。实验从零预训练0.6B、1.7B和4B的Qwen3模型,4B模型在0.1%投毒率下攻击成功率约92%。
Hacker News收录的论文《Agentic Backdoors via Pretraining Poisoning》指出,大语言模型通常在从公共网络抓取的海量、未经筛选语料上预训练,攻击者可通过预先埋设有毒内容制造安全风险。
研究人员称,这是首次展示此类投毒能够在智能体中植入远程代码执行后门,使其在用户机器上执行攻击者选择的命令。为端到端衡量威胁,他们从零预训练了0.6B、1.7B和4B三种规模的Qwen3模型,再用干净流程分别后训练为命令行界面智能体。
论文称,只需用其设计的新毒化样本污染0.1%的预训练语料,部署后的智能体就会在触发器出现时执行恶意命令,而在干净输入上保持正常行为。攻击成功率随模型规模上升而提高:4B模型在0.1%投毒率下达到约92%,即使投毒率降至0.0005%,攻击仍能保持一定成功率。