知一知 · 今日
← 返回本期日报

AI 前沿

Gemini API推出工具检索以降低大型工具库开销

本期日期 2026-11-21 · 08:00 北京时间

Google在Gemini API的Interactions API中预览推出Tool Retrieval。代理连接大量工具时,无需每次请求都载入全部参数模式;模型先看到工具名称和描述,需要时再在同一请求内检索完整模式并调用函数,以减少输入令牌、延迟和误选工具。

Google AI介绍,当代理连接数十甚至上百个工具时,把每个工具的完整参数模式放入每次请求会迅速增加输入令牌、提高延迟,并在候选工具变多后降低选择准确性。Tool Retrieval让完整工具库保持待命,只在当前任务需要时加载参数模式。

开发者可在请求中加入tool_search,并对暂缓加载的工具设置defer_loading。模型仍能看到所有暂缓工具的名称和描述;需要某个工具时按名称请求,API在同一调用中加载完整参数模式,模型随后发出函数调用。整个搜索、加载和调用过程会出现在interaction.steps中,便于调试。

该功能无需开发者自建或托管索引,检索由Google服务器完成;常用工具可保持预先加载,低频工具则按需载入。它还能与前缀缓存配合,避免延迟加载的模式破坏缓存前缀。对于Gemini API中的远程MCP服务器,也可设置按需加载其暴露的全部工具;若开发者维护自有工具注册、嵌入索引或用户权限过滤,还可使用客户端检索模式。

原文来源

Google AI ↗
返回本期日报打开交互阅读页