Databricks ha dibujado una salva de funciones y actualizaciones para ayudar a las empresas a controlar mejor el desarrollo de sus agentes y aplicaciones generativas de IA. Entre ellos la funcionalidad Gobernanza centralizadaactualmente propuesto en la vista previa pública, para gobernar los principales modelos de idiomas, ya sea de código abierto o cerrado, dentro de Puerta de entrada de Ai Mosaic. "Nuestro estudio muestra que la gobernanza es una de las principales preocupaciones de las empresas relacionadas con sus iniciativas IA, complicadas por el hecho de que el proceso tiene múltiples componentes", dijo David Menninger, director ejecutivo del gabinete ISG. Según Doug MacWilliams, director de tecnología y experiencia del cliente de West Monroe Consulting Company, la capacidad centralizada de gobierno Gobernanza centralizada Simplifica enormemente las cosas. "Garantiza la consistencia de la seguridad, los controles de acceso y el cumplimiento, al tiempo que reduce los costos, elimina los duplicados y racionalizan los costos de la licencia. Además, facilita el monitoreo y la resolución de problemas de deriva o parcialidad", dijo MacWilliams. "En general, la funcionalidad también debe simplificar el proceso de aprobación de equipos legales, cumplimiento y seguridad, permitiéndoles examinar y aprobar los modelos a través de una sola interfaz.» »
Una sola solicitud de SQL para ejecutar la inferencia por lotes
Otra habilidad para facilitar el despliegue de los agentes de IA La inferencia por lotes es la provisión para ayudar a las empresas a ejecutar una solicitud de IA sin tener que configurar una infraestructura dedicada. También propuesto en la vista previa pública, esta capacidad permite ejecutar mucha inferencia a través de Mosaic AI con una sola solicitud de SQL y las empresas pagan la infraestructura que usan ", dijo el proveedor." La inferencia de lotes desagradables es un gran paso adelante para el despliegue de la IA, porque se enfrenta a la escala de la AI y reduce los costos porque solo usa los recursos ", dijo el consignación de su parte de la IA. Esta capacidad de función sin servidor porque evita tener que configurar las cosas por adelantado. Tendencias, enriqueciendo los datos del catálogo de productos con descripciones generadas por AI, la ejecución de controles de cumplimiento regulares y la evaluación semanal de las bases de datos de los clientes para el riesgo de darse de baja, y todo esto sin requerir una infraestructura especial ", continuó el Sr. MacWilliams.
El proveedor en Data Store Solutions también ha actualizado su aplicación Evaluación del agente de IA Ahora proporcionando a los expertos en dominios la capacidad de proporcionar evaluaciones, etiquetado y etiquetado de datos y definir criterios de evaluación personalizados, sin la necesidad de hojas de cálculo o aplicaciones personalizadas. "Al facilitar la colección de comentarios estructurados, los equipos pueden refinar constantemente el rendimiento de los agentes de IA y mejorar sistemáticamente su precisión", dijo la compañía. Genie es una herramienta sin código cuya interfaz permite a los usuarios analizar datos haciendo preguntas en lenguaje natural. La herramienta es capaz de producir visualizaciones para explicar los datos. "Con el genio API, los usuarios pueden enviar preguntas de manera programática y recibir información tal como lo harían en la interfaz de usuario de Genie. La API tiene un estado para que pueda mantener el contexto a través de múltiples preguntas de seguimiento en un hilo de conversación", escribió el proveedor del proveedor En una publicación de blog.
Según Arnal Dayaratna, Vicepresidente de Investigación de IDC, la API no solo aumenta la extensibilidad de los asistentes de conversación que usan datos de Databricks, sino que también llena la brecha entre la disponibilidad y la accesibilidad de los datos, lo que nos permite obtener información utilizable más rápidamente. Otra ventaja de API es que democratiza el acceso a los datos al permitir a los usuarios profesionales interactuar con los datos utilizando el lenguaje natural, para que no haya más barreras técnicas para la experiencia en SQL, por ejemplo. "Además, la API reduce la carga de trabajo de los desarrolladores al ofrecer funciones de conversación preconstruidas y, por lo tanto, pueden centrarse en otras tareas importantes en lugar de construir estas interfaces desde cero", señaló el Sr. MacWilliams de West Monroe. Al comparar la API Genie con el API Salesforce de API recientemente publicado, el Sr. MacWilliams dijo que la versión Databricks estaba más integrada en su lago de datos y sus herramientas de BI, lo que hizo que el análisis fuera un poco más conversacional en comparación con el enfoque de Salesforce que consiste en la creación de agentes autónomos. Según Jason Andersen, analista principal de Moor Insights and Strategy, este enfoque es muy similar al adoptado por AWS con Amazon Bedrock.
Una estrategia para entrar en agentes
Los analistas también creen que estas actualizaciones tienen como objetivo acercar los databricks a los usuarios profesionales y hacer que sus ofertas sean más atractivas. "Al unificar la cartera de datos en la IA, Databricks crea una plataforma que administra todo, desde datos sin procesar hasta IA operacional, sin la necesidad de otros productos", dijo MacWilliams de West Monroe, y agrega que esta estrategia hace que su plataforma sea más sólida, que reduce la tasa de desafección del cliente y aumenta los ingresos al ampliar la base de usuarios dentro de las compañías. En el campo de los agentes de IA, el Sr. Menninger de L'Isg cree que Databricks tiene una ventaja sobre los demás, porque su enfoque es más técnico ", lo que permite la creación de agentes más complejos que potencialmente automatizan actividades" en cualquier campo relacionado con los datos. Pero el Sr. Menninger piensa que esta ventaja es a expensas de aquellos que pueden crear estos agentes, entre los cuales probablemente haya pocos usuarios profesionales. "En esta guerra en torno a los agentes, todos los proveedores están tratando de hacerse cargo. Sin embargo, una gran parte de lo que está sucediendo hoy se limita a" pseudo agentes "que pueden llamarse chatbots de agentes. La verdadera capacidad de un agente sigue siendo complicada y técnica. Se requiere programación", recordó el Sr. Menninger. "Y si Salesforce y ServiceNow parecen centrarse en las capacidades de conversación, para facilitar la creación de agentes, esto puede estar a expensas de los tipos de tareas que los agentes pueden lograr", señaló Menninger.
Otras noticias que te pueden interesar