La seguridad de los sistemas de IA generativos, co -pilotes o agentes de IA está ganando impulso. Para responder a este problema, Securiti acaba de lanzar Gencore AI, una herramienta para controlar y asegurar datos comerciales utilizados para soluciones que crean modelos de IA. "La conexión segura con los sistemas de datos, con la garantía de que los controles y la gobernanza se respetan en toda la tubería de IA, es el principal obstáculo para el despliegue a gran escala de sistemas de IA generativos en empresas", dijo Rehan Jalil, CEO de Securiti.
"Al señalar que la mayoría de los datos corporativos son datos no estructurados, es esencial gobernar y controlar estos activos cuando estos datos se utilizan para alimentar la IA", dijo. "Además, como las tecnologías Gencore AI son propietarios, las empresas pueden conectarse de manera segura con cientos de sistemas de datos al tiempo que preservan los controles y el gobierno de datos", agregó.
Gráficos de conocimiento caseros
Al confiar en los controles de seguridad existentes, Gencore AI de Securiti construyó sistemas de IA alineados en las políticas y los requisitos reglamentarios de la empresa para proteger los datos confidenciales de los ataques maliciosos. "Con Gencore AI, las empresas pueden construir fácil y fácilmente SEGURA AI Systems", dijo Rehan Jalil. "La herramienta se alimenta con un solo gráfico de conocimiento que mantiene información granular y contextual sobre datos y sistemas de IA". El gráfico de conocimiento único al que se hace referencia al administrador se llama "Gráfico de comando de datos" o gráfico de control de datos.
"La función deriva de la capacidad de Securiti para descubrir" datos confidenciales y sistemas de IA a través de una serie de nubes públicas, datos de datos, nubes privadas y aplicaciones SaaS, basadas en cientos de clasificadores integrados y más de 400 conectores nativos. ", Detalló. Aparentemente, este gráfico proporcionará información granular al nivel del archivo, la columna, la línea o el CLOB (objetos anchos de carácter), que se encarga de" miles de millones de nodos ". Esta característica puede facilitar el procesamiento de grandes cantidades de datos no estructurados, además de datos estructurados, en los cuales las empresas generalmente forman sus modelos inteligentes.
Un firewall LLM con capacidades contextuales
A medida que las empresas implementan soluciones Genai a gran escala, los firewalls de LLM se vuelven extremadamente relevantes como interacciones IA, como la detección y el bloqueo del acceso no autorizado a datos y comportamientos anormales. Hay varios proveedores de firewall LLM, incluidos AI abiertos, NVIDIA, antrópico y ai a escala. Según Securiti, en comparación con las ofertas existentes, el firewall de Gencore AI LLM incluye características adicionales, en particular controles alineados en las recomendaciones del OWASP (Proyecto de Seguridad de Aplicación Mundial de todo el mundo), políticas de seguridad preconfiguradas para la IA y teniendo en cuenta el contexto de los datos.
"Gencore AI protege automáticamente información confidencial y mantiene la gobernanza de los datos comerciales", dijo Rehan Jalil. "Gracias a su conocimiento regulatorio integrado, Gencore AI también garantiza la conformidad de los procesos de IA con regulaciones relevantes, como la Ley de la Ley Europea y el marco de gestión de riesgos vinculado a la IA (AI RMF) de la NIST estadounidense.
Otras noticias que te pueden interesar