知一知 · 今日
← 返回本期日报

社媒话题

团队称用大模型为逾百个开源库完成汇编级安全证明

本期日期 2026-10-23 · 08:00 北京时间

一项与Theorem合作的研究称,借助Claude在RISC-V汇编代码层面为123个真实开源库证明安全属性,包括在输入小于64MB及建模的Linux环境下不发生内存安全错误或断言失败。团队称写证明过程中还发现长期潜伏缺陷。

文章指出,成熟且经过大量测试的软件仍可能存在缺陷,而大模型越来越擅长发现并串联漏洞。形式化验证把代码转化为数学模型,证明其始终遵守既定安全规则;若证明失败,失败方式也可提示潜在缺陷。

形式化验证过去成本很高。文章举例称,seL4操作系统内核实现耗时约2人年,而形式化验证耗时约20人年,因此通常只用于空客航空电子代码等关键场景。

团队称,他们让Claude在123个开源库中证明有用的安全属性,部分可执行工件在特定条件下不会崩溃,包括对每个小于64MB的输入,以及每个被建模的Linux操作系统响应和内存布局,程序都会正常退出,不触发内存安全错误或断言失败。

文章称,这是已知首次大规模把AI用于生产软件汇编代码层级的形式化验证,覆盖超过100个真实开源库;Claude在编写证明时还发现了历经大量测试仍未被检出的缺陷。团队预计,随着模型能力提高,形式化验证可能成为安全软件开发流程的重要组成部分。

原文来源

Hacker News ↗
返回本期日报打开交互阅读页