eSentire, proveedor de soluciones de detección y respuesta administradas (MDR), anunció la disponibilidad de LLM Gateway, un marco de código abierto para ayudar a los equipos de seguridad a mejorar su gobernanza y monitoreo de IA generativa y modelos de grandes datos. Idioma (LLM). Desarrollado originalmente para fines internos, el prototipo de puerta de enlace ahora está disponible gratuitamente en GitHub. Este es el primer proyecto de eSentire Labs que ayuda a las empresas a ampliar el uso de herramientas de inteligencia artificial generativa de la manera más segura posible, dijo la compañía.
Este lanzamiento se produce cuando los equipos de seguridad y TI tienen cada vez más la tarea de garantizar que los datos críticos de su organización no queden expuestos cuando sus empleados utilizan LLM de IA generativa como ChatGPT. Por lo tanto, los líderes de seguridad necesitan cada vez más implementar políticas de seguridad que no solo adopten y respalden la adopción empresarial de la IA generativa, sino que aborden eficazmente los riesgos sin sofocar la innovación.
Una ola de adopciones sin controles de seguridad internos
"Las empresas se apresuran a inyectar LLM en todo, generalmente con controles de seguridad internos mínimos o nulos", dice Alexander Feick, vicepresidente de eSentire Labs. “Dado el alto valor que pueden crear los LLM, existe una demanda por parte de las empresas para seguir adelante, incluso con un alto riesgo. Uno de los mejores usos de los LLM es resumir información para el usuario. Sin embargo, el uso de LLM también puede exacerbar los riesgos de exposición involuntaria de datos confidenciales”, añade. "Además, el ámbito del MLM y la superficie de amenaza aún no se conocen bien, por lo que los defensores tienen dificultades para saber para qué prepararse".
Conceptualmente, una puerta de enlace LLM es un lugar donde se centralizan todas las interacciones con los modelos LLM, explica Alexander Feick. Las puertas de enlace LLM siguen y habilitan principios de seguridad al crear la capacidad de inyectar controles apropiados en todas las funciones basadas en LLM, independientemente de dónde se encuentren en el flujo de la aplicación, agrega. Estas puertas de enlace proporcionan una forma confiable de garantizar que la entrada y salida de datos a la herramienta LLM esté libre de datos patentados de la empresa. “Una vez que todas tus interacciones pasan por la puerta de enlace, obtienes monitoreo, pero también creas un punto central para aplicar controles de seguridad. Al implementar una puerta de enlace, cada vez que los datos entran o salen de un sistema LLM, éste tiene la capacidad de inspeccionar, modificar o redireccionar esas interacciones”, afirma Alexander Feick.
Una capa de protección entre los datos de la empresa y las herramientas LLM
El marco LLM Gateway de eSentire crea una capa de protección entre los datos empresariales y las aplicaciones abiertas de IA, incluido ChatGPT, según la compañía. Por lo tanto, los usuarios registran los diferentes tipos de interacciones de LLM que ocurren en la puerta de enlace por motivos de seguridad y el marco proporciona recomendaciones básicas sobre cómo ver y rastrear el uso de LLM en los complementos iniciales. 'eSentire. También proporciona a los profesionales de la seguridad y a los equipos de TI la capacidad de aplicar sus propios controles, como políticas corporativas, reglas de uso, protocolos de seguridad e indicaciones. Según Alexander Feick, debe considerarse un ejemplo práctico y simplificado del uso de una puerta de enlace para proteger, registrar y gestionar las interacciones con ChatGPT y otros LLM o aplicaciones, como parte de un viaje hacia la construcción o compra de una solución más madura.
"Sin una puerta de enlace LLM, cada solicitud que utilice LLM debe evaluarse individualmente y los datos de registro para cada una pueden ser diferentes", afirma. Esto conduce a un aumento exponencial del trabajo y hace que los equipos respondan más lentamente a las nuevas amenazas cibernéticas. “La implementación de la puerta de enlace es, ante todo, un concepto arquitectónico avanzado que posiciona a los defensores de la seguridad para que puedan responder rápidamente a las amenazas de seguridad emergentes y a los requisitos de cumplimiento que aún no se cumplen. aún no se entiende del todo”.
Otras noticias que te pueden interesar