AWS está aumentando sus anuncios sobre inteligencia artificial y, más precisamente, IA generativa. A principios de semana, Amazon -empresa matriz de AWS- anunció inversiones que podrían aumentar hasta 4 mil millones de dólares en Anthropic. Hoy la empresa presenta otro paquete de innovaciones en este ámbito. El punto principal es obviamente la disponibilidad general de Bedrock. Anunciado en abrilEste servicio totalmente gestionado hace que los modelos básicos (los llamados fundamentos) de las principales empresas de IA estén disponibles a través de una única API. Como recordatorio, los FM son modelos de aprendizaje automático muy grandes, previamente entrenados con grandes cantidades de datos. Fácilmente aplicables a una amplia gama de casos de uso debido a su flexibilidad, sin embargo, a menudo son la causa de puntos conflictivos para las empresas.

En primer lugar, existe la necesidad de encontrar una forma sencilla de encontrar y acceder a LLM de alto rendimiento que ofrezcan resultados acordes y se adapten mejor a sus objetivos. En segundo lugar, los clientes quieren que la integración de aplicaciones sea fluida, sin gestionar grandes grupos de infraestructura ni incurrir en altos costos. Finalmente, buscan formas sencillas de utilizarlos y crear aplicaciones diferenciadas con sus datos. Sin embargo, dada la importancia de estos datos, es necesario controlar cómo se comparten y utilizan. AWS dice que con Bedrock, los usuarios ya no tienen que preocuparse por este tipo de problemas. Además, la solución ofrece capacidades diferenciadas, como la creación de agentes administrados que realizan tareas comerciales complejas, desde reservar viajes y procesar reclamaciones de seguros hasta crear campañas publicitarias y gestionar publicidad. inventario - sin escribir código.

Índice
  1. Llama 2 de Meta llega a Bedrock
  2. CodeWhisperer surca los cielos con IA
  3. Otros cambios menores con Titan y QuickSight

Llama 2 de Meta llega a Bedrock

Lo menos que podemos decir es que AWS (finalmente) ha entendido el interés en la IA generativa y ahora está acelerando el campo, como lo confirma Swami Sivasubramanian, vicepresidente de datos y de IA en AWS. "Durante el año pasado, la proliferación de datos, el acceso a la informática escalable y los avances en el aprendizaje automático han llevado a un renovado interés en la IA generativa, generando nuevas ideas que podrían transformar sectores enteros y reimaginar cómo se hace el trabajo", dijo. Y añadió que: “El anuncio de hoy es un hito importante que pone la IA generativa al alcance de todas las empresas, independientemente de su tamaño, y de todos los empleados, desde los desarrolladores hasta los analistas de negocio. datos ".

Como resultado, AWS ha optado por conectar su servicio Bedrock a una selección de LLM líderes, incluidos modelos de AI21 Labs, Anthropic, Cohere, Stability AI y, en las próximas semanas, Meta. La firma especifica que “Bedrock es el primer servicio de IA generativa totalmente gestionado que ofrece Llama 2, la última generación de LLM de Meta, a través de una API”. Por lo tanto, los clientes podrán crear aplicaciones de IA generativa impulsadas por los modelos Llama 2 con parámetros 13B y 70B, sin la necesidad de configurar ni gestionar ninguna infraestructura. Como recordatorio, estos modelos presentan mejoras significativas con respecto a los modelos Llama originales, con entrenamiento con un 40% más de datos y un contexto más largo de 4000 tokens para trabajar con documentos más grandes.

CodeWhisperer surca los cielos con IA

CodeWhisperer, formado en miles de millones de líneas de código público y de Amazon, a menudo se promociona como un asistente impulsado por inteligencia artificial que mejora la productividad de los desarrolladores. Si utilizan con frecuencia la herramienta para su trabajo diario, a veces necesitan incorporar el código base privado interno de su empresa (por ejemplo, API internas, bibliotecas, paquetes y clases) en una aplicación, ninguno de los cuales está incluido en los datos de capacitación de CodeWhisperer. . Y los problemas incluyen dificultades para usar este código interno porque la documentación puede ser limitada y no hay recursos públicos o foros donde los desarrolladores puedan pedir ayuda.

Un ejemplo de las capacidades de personalización de CodeWhisperer. (Crédito: AWS)

En este sentido, la capacidad de personalización agregada a CodeWhisperer debería ayudar a los usuarios a personalizar sugerencias utilizando su código base privado en un entorno seguro. Para hacer esto, AWS dice que un administrador simplemente necesita conectarse a su repositorio de código privado desde una fuente, como GitLab o S3, y programar una tarea para crear su propia personalización. Tenga en cuenta que, por razones de seguridad, el LLM subyacente que impulsa CodeWhisperer no utiliza personalizaciones para la capacitación. Esta capacidad de personalización estará disponible en versión preliminar para los clientes en las próximas semanas, como parte de una versión futura de CodeWhisperer Enterprise Tier, se especifica.

Otros cambios menores con Titan y QuickSight

Como complemento a esta ola de cambios, AWS anunció que Titan Embeddings ya está disponible de forma generalizada. Como recordatorio, Titan Embeddings es parte de una familia de modelos (Titan FM) creados y previamente entrenados por AWS en grandes conjuntos de datos, lo que los convierte en capacidades poderosas y de uso general diseñadas para respaldar una variedad de casos comerciales. 'usar. El primero de estos modelos generalmente disponible para los clientes es Titan Embeddings, un LLM que convierte texto en representaciones digitales llamadas incrustaciones para impulsar casos de uso de recuperación-generación aumentada (RAG).

Por su parte, QuickSight cuenta con capacidades adicionales para la creación de Business Intelligence (BI). Con él, los expertos pueden crear y personalizar fácilmente imágenes utilizando comandos de lenguaje natural (por ejemplo, "¿cuáles son los 10 productos más vendidos en California?" o con fragmentos de preguntas sobre "los 10 productos principales"). Los analistas de negocios simplemente describen el resultado deseado y QuickSight genera imágenes que se pueden agregar fácilmente a un panel o informe con un solo clic.