Después de los anuncios y pruebas en su evento I/O, Google está dando el siguiente paso al poner a disposición varias funciones en versión preliminar en sus modelos y AI Studio. En primer lugar, la ventana emergente de Gemini 1.5 Pro aumenta a 2 millones de tokens. Esta capacidad estaba disponible anteriormente en una lista de espera, pero ahora está disponible para todos los desarrolladores.
La empresa señala que a medida que la ventana de contexto se hace más grande, también lo hacen los costos de entrada potenciales. Para ayudar a los desarrolladores a reducir los costos de las tareas que utilizan los mismos tokens en múltiples indicaciones, Google introdujo el almacenamiento en caché de contexto en la API de Gemini para Gemini 1.5 Pro y Flash. Esta característica es útil en escenarios como chatbots, análisis repetitivo de archivos de video de formato largo, consultas recurrentes en un gran conjunto de documentos, análisis frecuente del repositorio de código o errores.
Ejecución de código disponible y Gemma 2 llega a AI Studio
Otros anuncios incluyen la habilitación de la generación de código para Gemini 1.5 Pro y Flash. Los modelos ahora pueden desarrollar y ejecutar código en Python y aprender de manera iterativa. Para mayor seguridad, la función está integrada en un entorno aislado y viene con algunas bibliotecas como estándar. Está disponible a través de la API de Gemini y en Google AI Studio en “configuración avanzada”.
Por último, el proveedor también ha puesto a disposición de los desarrolladores el modelo Gemma 2 en AI Studio para realizar pruebas. Cabe recordar que Gemma es una familia de modelos de código abierto que incluye sistemas con 9 y 27 mil millones de parámetros. Además, Gemini 1.5 Flash, un modelo multimodal similar a GPT-4o, ha enriquecido sus configuraciones. La parte de texto ya está lista para el equipo rojo y se implementará gradualmente para todos los desarrolladores. Estos últimos tendrán acceso a la optimización de Gemini 1.5 Flash a través de la API de Gemini y en AI Studio a mediados de julio, indicó la empresa.
Otras noticias que te pueden interesar