LMI: Acabas de lanzar Su servicio Genai Luminen en sus elementos de solución de ciberseguridad Sin costo adicional, ¿aumentará el precio de la suscripción en los próximos meses?

Leszek Tasiemski: No queremos que Luminen se convierta en una nueva fuente de ingresos. Por supuesto, hay una razón comercial detrás de cualquier decisión, pero queremos que Luminen sea un factor de diferenciación para que la IA sea más accesible para las pequeñas y medianas empresas que no pueden permitirse usar soluciones más caras. Y tienes razón, es costoso explotar. Es por eso que, de hecho, somos muy cautelosos al calcular datos que se alimentan en los modelos LLM, de modo que usemos el LLM lo menos posible. Por lo tanto, si algo se puede calcular fuera del modelo, lo hacemos fuera del modelo y solo invocamos el LLM cuando sea necesario. Entonces, en cierto modo, lo usamos de manera muy efectiva. Y de acuerdo con nuestros cálculos actuales, parece que podemos incluir la funcionalidad básica de Luminen con elementos sin aumentar el precio. Con el tiempo, no sabemos cómo se verá la carga de trabajo, por lo que podríamos vernos obligados a introducir una versión premium de la suscripción de Luminen para que las características básicas siempre estén incluidas. Pero cuanto más avanzamos, más extendemos el Genai.

¿Cuál es la plataforma de tecnología detrás de Luminen, qué modelo LLM usas? Entiendo que estás trabajando con AWS Bedrock.

Sí, trabajamos con AWS y usamos Bedrock. Hemos trabajado con diferentes LLM que están disponibles y confirmados en la plataforma Batedrock.

¿Qué LLM usas, Mistral, OpenAi ... y el cliente tiene la opción de la LLM o toma esta decisión?

Como ya hemos dicho, no entrenamos a nuestro propio modelo, pero usamos AWS Bedrock y con Bedrock puede cambiar fácilmente el modelo. Entonces eso es lo que hacemos. Intercambiamos los modelos y vemos cómo funcionan. En este momento, creo que estamos usando Claude 2 o 3 [Anthropic]Pero no estoy seguro. El hecho es que cambiamos fácilmente de un modelo a otro. Tenemos los datos básicos y verificamos con diferentes modelos cómo funcionan y cuánto cuesta, porque vienen con diferentes costos. Intentamos ver cómo obtener buenos resultados con el modelo más barato o un modelo más caro trae mejores resultados. Y si vemos que el resultado es el mismo, usamos el más barato una vez más para mantener el precio sin cambios y proporcionar este servicio a nuestros clientes sin suscripción adicional. Probamos los modelos de rendimiento, alucinaciones y luego el precio. Por lo tanto, no planeamos permitir que los clientes usen un modelo, es demasiado complejo y el servicio podría volverse ineficaz. Ofrecemos a Luminen como servicio. Entonces, cuanto más somos simples, mejor.

¿Qué tipo de datos recopila con los clientes para el análisis?

Siempre creamos datos contextuales. Entonces, para un mensaje dado, preparamos los datos fuera del modelo para reducir los costos. Y solo tenemos en cuenta los datos que ya estamos mostrando al cliente. Por lo tanto, Luminen puede acceder a los datos que puede acceder por otros medios dentro de los elementos. Si algo se refiere a la confidencialidad o el cumplimiento, no debemos recopilarlo: cortamos y filtramos los datos en un nivel mucho más bajo. Por ejemplo, tratamos de no recopilar nada que sea sensible a respetar los problemas de GDPR y confidencialidad. Por lo tanto, Luminen ni siquiera verá estos datos, ya que se filtra o se anonimiza en etapas anteriores tanto como sea posible.

Todo el procesamiento de Luminen está garantizado en la nube en AWS, ¿tiene centros de datos locales para sus clientes? Por ejemplo, en Europa con AWS, tienes diferentes regiones.

Actualmente no apoyamos las instalaciones por razones específicas. Ciertas partes del software están en APAC o en América del Norte. Pero es una nube segura y eficiente. Entonces, con los clientes japoneses o asiáticos, sería un enfoque deficiente para el desempeño de las solicitudes de realización con un centro de datos europeo. Entonces esta parte está duplicada. Si un cliente proviene de Europa, sus datos se alojan y procesan en Alemania de acuerdo con el GDPR.

Ya ha probado Luminen con los clientes, ¿cuáles son los primeros comentarios?

Tenemos muchos usuarios piloto. Luminen se ha implementado en más de 70 clientes. Muchos de ellos están satisfechos, dicen que Luminen les ahorra tiempo. Lo que escuchamos es, por lo tanto, de acuerdo con lo que habíamos planeado. Hoy hay dos solicitudes de características importantes, y sabíamos que iban a venir. Uno es informes mensuales. La instantánea de siete días es interesante para llegar a un estado de situación, pero muchos clientes también deben informar durante todo el mes. Esta solicitud llegó muy temprano en la fase de co-creación. La otra solicitud que también tenemos es la explotación de nuestra base de inteligencia en amenazas (inteligencia de hilos). Tenemos una gran base de datos sobre ciberrencias. Y en este momento, Luminen es limitado para mostrar solo la información que ya está en los eventos. Entonces, por ejemplo, si hay un nombre de dominio, una dirección IP o hash en un archivo, podría buscar información en nuestra base de datos y mostrar por qué este dominio es malicioso. Puede decirle que creemos que es malicioso porque transmite un malware utilizado en campañas realizadas por cibercriminales o que se registró un dominio la semana pasada para llevar a cabo el phishing. Si usa elementos, solo ve que es malicioso, pero el sistema no le dice por qué. Queremos enriquecer este último punto para especificar que él es malicioso debido a X, Y ... Z. Estos son los dos comentarios más grandes de los clientes y los integramos en nuestro plan de desarrollo.