El gigante financiero JPMorganchase ha desplegado un asistente interno de IA Bautizado LLM después de más de 200,000 de sus empleados. Un despliegue en la producción que se basa en las plataformas de aprendizaje automático AWS Sagemaker y generativo Bedrock, como lo detalla Lori Beer, DSI World of the Bank con motivo de AWS Re: Invent que se llevó a cabo en Las Vegas del 2 al 6 de diciembre. "Ya vemos el valor aportado por estas tecnologías en ciertos casos de uso de LLM", dijo Lori Beer. AI ofrece ideas para interactuar mejor con los clientes a nuestros banqueros y asesores. Nuestros agentes de viajes usan LLM para ayudarlos a crear y reservar rutas de viaje para nuestros clientes. Nuestros agentes del centro de contacto resumen las transcripciones de llamadas. Finalmente, nuestros desarrolladores usan herramientas de generación de código basadas en AI y exploramos medios para usar en paralelo para ellos agentes basados ​​en AI. "Y aunque muchas empresas en el mundo de las finanzas prefieren permanecer discretas sobre el uso del Genai en producción, JPMorganchase no oculta que la IA generativa es parte de su $ 17 MD de inversión total en tecnología.

"Hoy, estamos desbloqueando activamente muchos casos de uso de Genai y estamos trabajando para hacer esto con AWS en la hoja de ruta en la roca madre", dijo Lori Beer. Las mejoras prometidas por el estadounidense en términos de reducción de alucinaciones y seguridad en su plataforma de roca madre, según el DSI, han permitido levantar los temores relacionados con estos riesgos. Temas que impiden que ciertos actores se muden de POC a la producción.

Resiliencia interregional

Hace dos años, JPMorganchase ha migrado su aplicación de consumo Chase.com y su aplicación móvil en AWS, reduciendo así los costos y aumentando la resistencia. Especialmente porque el banco ha explotado las capacidades de configuración activa de AWS entre varias regiones del mundo. "Por lo tanto, dos de cada tres regiones pueden descomponerse sin impacto en el cliente", explicó Lori Beer, pero el enrutamiento, por lo tanto, Geo-Optimized también ha mejorado nuestra experiencia global del cliente. La batería de infraestructura de AWS se actualiza con frecuencia y automáticamente para mejorar nuestra exposición al riesgo y nuestra resistencia y cumplir con nuestros requisitos de control de seguridad. »»

Más transacciones de comercio electrónico en la nube

JPMorganchase comenzó a trabajar con AWS en 2020, y su banco público general, Chase.com, en el Reino Unido se construyó a partir de cero en este último. En 2023, la compañía tenía casi 1,000 solicitudes en la producción de AWS, incluidos servicios básicos como depósitos y pagos. JPMorganchase también ha utilizado procesadores AWS Graviton en este contexto.


"Hoy, estamos desbloqueando activamente muchos casos de uso de Genai y estamos trabajando para hacer esto con AWS en la hoja de ruta en la roca madre", dice Lori Beer, DSI World of JPMorganchase. (Foto: JPMorganchase)

La compañía de 225 años administra alrededor del 50% de todas las transacciones de comercio electrónico en los Estados Unidos, desempeñando un papel importante, por ejemplo, durante las Mega-Sales of Black Friday y Cyber ​​Monday. "Es por eso que hemos reinventado la forma en que construimos la infraestructura de pago bancaria y global, y es por eso que hemos presionado la nube en sus últimos atrincheramientos", dijo el CIO del banco.
En una entrevista reciente con Cio.com, Gill Haus, DSI de Chase.com, acordó que la mayoría de las transacciones de tarjetas de crédito todavía pasaban por mainframe, pero también informó que el desarrollo de la plataforma de depósito de Chase ofreció a la compañía más oportunidades en términos de transacciones de comercio electrónico en nubes privadas y públicas.

Una plataforma de datos para clientes institucionales

JPMorganchase también ha lanzado una nueva compañía, que se basa en AWS Fusion, para proporcionar una plataforma de gestión de datos y análisis a lo largo del ciclo de vida de las inversiones, mejorando así la interoperabilidad entre varias fuentes de datos y permitiendo a sus clientes institucionales acceder a las bases a gran escala. "Tenemos cerca de un exo -octet de datos, lo que hace que los datos sean uno de nuestros activos más críticos", dijo el DSI, especialmente porque estamos integrando cada vez más IA en nuestros desarrollos con herramientas de gestión de datos como AWS Glue. Nuestros datos se pueden descubrir, accesibles, interoperables y reutilizables en nuestros datos y una plataforma SEGUS IA de principio a fin ”.

JPMorganchase utiliza el aprendizaje automático de AWS Sagemaker para simplificar el ciclo de vida del desarrollo de sus modelos, desde la experimentación hasta la implementación en la producción. “Esta es la base de nuestra plataforma de IA en una escala de empresa, que diseñamos para ser reproducible con una arquitectura extensible, de modo que nuestros científicos de datos aprovechan esta gama de soluciones del ecosistema de AWS.

"Ahora estamos comenzando a explorar Bedrock para proporcionar a los científicos de datos acceso transparente a más modelos, que pueden refinarse en nuestros datos", continuó Lori Beer. Nuestro objetivo es usar Genai a gran escala, y seguimos aprendiendo cómo aprovechar al máximo estas nuevas capacidades dentro de un negocio regulado como el nuestro. »»