知Yizhi Daily
← Volver a esta edición

IA

La API de Gemini lanza la recuperación de herramientas para reducir el costo de las bibliotecas de herramientas grandes

Edición 2026-11-21 · 08:00 Hora de Pekín

Google lanzó en versión preliminar Tool Retrieval en la Interactions API de la API de Gemini. Cuando un agente se conecta a una gran cantidad de herramientas, no necesita cargar todos los esquemas de parámetros en cada solicitud; el modelo ve primero los nombres y descripciones de las herramientas y, cuando es necesario, recupera el esquema completo dentro de la misma solicitud e invoca la función, para reducir los tokens de entrada, la latencia y la selección incorrecta de herramientas.

Según explica Google AI, cuando un agente se conecta a decenas o incluso cientos de herramientas, incluir el esquema de parámetros completo de cada herramienta en cada solicitud aumenta rápidamente los tokens de entrada y la latencia, y reduce la precisión de selección a medida que aumentan las herramientas candidatas. Tool Retrieval mantiene toda la biblioteca de herramientas lista, pero solo carga los esquemas de parámetros cuando la tarea actual lo necesita.

Los desarrolladores pueden añadir tool_search en la solicitud y configurar defer_loading para las herramientas cuya carga se aplace. El modelo sigue viendo los nombres y descripciones de todas las herramientas aplazadas; cuando necesita una herramienta, la solicita por nombre, la API carga el esquema de parámetros completo en la misma invocación y el modelo emite posteriormente la llamada a la función. Todo el proceso de búsqueda, carga e invocación aparecerá en interaction.steps para facilitar la depuración.

La función no requiere que los desarrolladores creen ni alojen su propio índice; la recuperación la realizan los servidores de Google. Las herramientas de uso frecuente pueden mantenerse precargadas, mientras que las herramientas de baja frecuencia se cargan bajo demanda. También puede combinarse con el almacenamiento en caché de prefijos para evitar que los esquemas cargados con retraso rompan el prefijo de caché. En el caso de los servidores MCP remotos dentro de la API de Gemini, también se puede configurar la carga bajo demanda de todas las herramientas que exponen; si los desarrolladores mantienen su propio registro de herramientas, índice de incrustaciones o filtrado de permisos de usuario, también pueden utilizar el modo de recuperación en el cliente.

Fuentes originales

Google AI ↗
Volver a esta ediciónAbrir lector interactivo