Seleccionar las tecnologías adecuadas es uno de los aspectos más complejos del trabajo de CIO. Es aún más difícil cuando las necesidades son apremiantes y las tecnologías aún no están maduras. Como es el caso hoy de la IA generativa.
Ante un tema conmovedor como este, existe una gran tentación de recurrir a soluciones disponibles y esperar y ver. Una respuesta táctica, aparentemente razonable, pero que pone en peligro el control del tema dentro de la empresa. Por el contrario, embarcarse en un proceso de construcción de una plataforma GenAI puede parecer arriesgado, pero es esto lo que garantizará el control, la escalabilidad y la agilidad del SI "aumentado".

Una paradoja tan antigua como TI

El mercado de la IA generativa está en auge. Los anuncios se suceden y cada avance tecnológico sugiere nuevos casos de uso. La forma más fácil de beneficiarse del ritmo de estos avances es suscribirse a la oferta de una editorial, especialmente si es pionera y de referencia en el sector. Este es el gran argumento de OpenAI. Al hacerlo, un CIO seguramente no cometerá ningún error, ¿verdad? Una pregunta que se hace eco de lo que escuchamos hace años, sobre IBM u Oracle, sobre opciones que finalmente dieron lugar a largas y costosas estrategias de retirada.

La elección de basar una sección entera de su SI en un único editor, OpenAI u otro, siempre es un doble filo. Nos beneficiamos de un ecosistema bien integrado, pero creamos una fuerte dependencia. A la hoja de ruta del editor, por supuesto. Pero también a su futuro, y vimos cuán frágil puede ser la gobernanza de una empresa como OpenAI.

Necesidad de integración nativa con el SI

En términos de IA generativa, el bloqueo será aún más fuerte: ¿cómo podemos imaginar que los usuarios, departamentos enteros que han comenzado a apropiarse de asistentes de IA generativa, renunciarán fácilmente a sus herramientas si el departamento de TI intenta realizar algún cambio? Porque el futuro próximo de estas soluciones pasa por su personalización para dar respuesta a cuestiones empresariales o incluso personales. ¿Cómo, en estas condiciones, puedes adaptar el uso de herramientas a la estrategia y gobierno de tu empresa? ¿Cómo puede implementar salvaguardias específicas para su empresa, sus valores y sus operaciones? Hacer estas preguntas en sentido ascendente lleva naturalmente a considerar el enfoque de plataforma.

La idea de una plataforma de IA generativa no consiste, para la empresa, en sustituir las ofertas de los editores, sino en garantizar su independencia y, por tanto, su compatibilidad con el futuro. Una plataforma basada en un orquestador y API abre el campo de posibilidades. Se vuelve fácil trabajar con los mejores LLM del mercado y cambiarlos a medida que avanzan sus respectivos desarrollos, sin retocar aplicaciones ni tener que dar soporte a los usuarios. Incluso pueden seleccionar su modelo favorito durante cada solicitud. O la empresa puede dirigir solicitudes en función de los costos o la huella ambiental.

Con una plataforma interna, el departamento de TI facilita la implementación de cualquier tipo de caso de uso centrándose en sus aspectos regulatorios, típicamente la adición de servicios para asegurar solicitudes y respuestas, monitoreo de usos o incluso integración nativa con el SI de la empresa, y principalmente con el directorio de la empresa.

Asistentes inteligentes que se basan en el sistema de gestión de derechos

Personalizar la IA generativa para satisfacer las muy diversas necesidades profesionales de todos los empleados requiere acceso a los datos y documentos de la empresa, a través de mecanismos RAG (generación aumentada de recuperación). Sin embargo, está fuera de discusión permitir que todos los empleados tengan acceso a todos los documentos; es necesario contar con un mecanismo de verificación de derechos vinculado a roles e identidades, que ya existe dentro de la empresa para el acceso a la información.

Por supuesto, configurar una plataforma requiere un poco más de inversión, pero en última instancia el esfuerzo sigue siendo relativamente limitado, gracias a proyectos de código abierto como LangChain y un conjunto de servicios ya disponibles en la nube. Con este tipo de herramientas y una plataforma de gestión API disponible, cambiar unas pocas líneas de código es suficiente para adaptarse a la llegada de nuevos productos al ecosistema de IA generativa.

Por mucho que no tenga sentido diseñar sus propios modelos, construir su plataforma para utilizar los modelos disponibles y crear sus propios asistentes dentro del SI de la empresa es, por tanto, una elección que preserva su futuro frente a la rápida evolución de la tecnología y sus asociados. ofrendas.