IA
Box integra el sistema de embeddings Nvidia Nemotron para la recuperación de contenido por agentes
Box presentó Box Content Retrieval, que integra el modelo de embeddings Nvidia Nemotron en el núcleo del producto y utiliza metadatos para ayudar a los agentes de IA a recuperar contenido empresarial de forma más rápida, precisa y económica. Box indicó que la función está dirigida a clientes Enterprise Advance y su lanzamiento está previsto para principios del próximo año.
Box mostró Box Content Retrieval en su conferencia de desarrolladores. La función integra el sistema de embeddings Nemotron de Nvidia en el núcleo de los productos de Box y, mediante metadatos de embeddings generados por Nemotron, permite que los agentes de IA recuperen contenido con mayor eficacia al responder preguntas o ejecutar tareas.
Box afirmó que los usuarios obtendrán consultas más rápidas, precisas y de menor coste. Kari Briski, vicepresidenta de software de IA generativa de Nvidia, declaró a TechCrunch que se espera que la velocidad de consulta se multiplique por cuatro, los errores se reduzcan un 20 % y el uso de tokens disminuya un 90 %. La función se lanzará inicialmente para clientes de Box Enterprise Advance a principios del próximo año.
Aaron Levie, consejero delegado de Box, afirmó que el sistema puede devolver los fragmentos de documento más relevantes para la consulta del usuario o la tarea del agente, sin que el agente tenga que leer los documentos uno por uno. En su base utiliza el modelo de embeddings de pesos abiertos Nvidia Nemotron Embed; el Nemotron publicado recientemente por Nvidia lideró el benchmark RTEB, que mide la calidad de recuperación.
Box indicó que el sistema es especialmente adecuado para trabajar con agentes activos. Por ejemplo, un abogado puede encontrar más fácilmente cláusulas y jurisprudencia relevantes, porque los embeddings de Nemotron no solo coinciden con palabras clave, sino que también pueden mapear conceptos subyacentes y descubrir temas jurídicos relacionados aunque la redacción o el idioma sean distintos. Aunque el modelo Nemotron puede utilizarse libremente, la solución también depende de los metadatos y controles de permisos ya existentes de Box; Levie afirmó que equivale a encapsular varias tecnologías en una API sencilla.