Después de elegir el modelo de IA, las empresas buscan técnicas para hacerlas más precisas. Es en este contexto donde entra el trapo para la generación de recuperación. Esta técnica tiene como objetivo hacer que LLM sea más precisa y más confiable. Con fuentes de datos específicas, que a menudo no se han incluido en la capacitación original de los modelos. Varias compañías han desarrollado herramientas específicas para el trapo. Este es el caso con Google Con Vertex Ai Rag Engine.

En una publicación de blogLa compañía estadounidense presenta la herramienta como un componente de la plataforma AI Green proporciona a los desarrolladores para facilitar la creación y el despliegue de aplicaciones generativas de IA. Vertex Ai Rag Engine es un servicio de orquestación administrado que racionaliza el complejo proceso para recuperar información relevante y su transmisión a un LLM.

Google presentó el motor RAG en Vertex AI. (Crédito de la foto: Google)

Ventajas para una multitud de sector

Google ve varias ventajas en su servicio. Los desarrolladores simples pueden comenzar a través de una API para crear rápidamente una prueba. Es capaz de conectarse a varias bases de datos vectoriales, como Pinecone y Weaviate, o usar Vertex AI Search. La personalización es establecer con la elección en análisis, fraccionamiento, anotación, almacenamiento de vectores y el uso de modelos de código abierto.

En su mensaje, Google da algunos ejemplos de uso de motores de trapo en Vertex AI. Los asesores financieros pueden, por ejemplo, cuestionar un sistema de IA con el perfil específico y los objetivos de inversión de un cliente. El sistema también puede señalar posibles conflictos de intereses o violaciones de regulación basadas en la información encontrada en los datos ingeridos. En el campo de la salud, un motor de trapo puede ingerir e indexar la vasta literatura biomédica y datos de pacientes. Los médicos podrán establecer tratamientos personalizados basados ​​en las características únicas y el historial médico de un paciente.