Katarzyna Kapusta, ingeniero de I + D de ciberseguridad en Thales, dirige a los piratas informáticos industriales del industrial. Este grupo solo funciona en Proyectos de investigación de seguridad de IA en sistemas críticossujeto ahora en el corazón de toda la actividad de Thales. Estos piratas informáticos éticos organizados dentro del Laboratorio de Tales Coraix combinan ciberseguridad, IA y conocimiento empresarial. Trabajando para todo el grupo, exploran la IA pública y las desarrolladas por Thales para Thales.

"Soy médico de criptografía aplicada de Télécom Paris y mi tesis trata sobre los métodos de protección de datos en un universo multicloud", explica Katarzyna Kapusta. En su tesis, se preguntó sobre las posibilidades de seguridad, aparte de las que consisten en dejar que los proveedores se encarguen de ello. "¿Deberíamos cuantificar todos los datos antes de enviarlos a la nube?" Pero, ¿qué sucede si un atacante encuentra la clave de cifrado? Mi idea era dispersar los datos en diferentes lugares. En este caso, tener la clave no es suficiente. »»

Trabajar en la propiedad intelectual de los modelos de IA

Luego, cuando comenzó con Thales en 2020, Katarzyna Kapusta continúa con la criptografía aplicada a la IA y con la protección de la propiedad intelectual de los modelos. "La gestión digital de los derechos clásicos no se aplica bien a la IA", dice ella. Por lo tanto, es posible "robar" un modelo desarrollado por un industrial como Thales para releerlo con nuevos datos. "El modelo ya no tendrá exactamente los mismos parámetros, pero su rendimiento seguirá siendo similar. Advertir este tipo de lacin, Katarzyna Kapusta exploró la marca de agua de los modelos de IA, una técnica inspirada en multimedia.

Hoy, ella y su equipo de hackers realizan trabajos de investigación, escriben publicaciones científicas y presentan patentes sobre la seguridad cibernética de IA, pero también trabajan directamente en soluciones con las diferentes unidades de tales. "Un artículo científico es perfecto", resume el investigador, pero a veces una solución más simple y directamente utilizable, es suficiente. Su equipo también trabaja en grupos de certificación y estandarización, colabora en proyectos de investigación europeos, etc. Thales también participa en la IA de confianza del programa francés.

Modelos de visión por computadora engaño

"Hemos tenido una gran demanda durante 4 años", dice el investigador. En temas como los modelos de visión por computadora de Thales para la detección de personas en un área específica, por ejemplo. Thales le dio a sus piratas informáticos una caja negra que contenía uno de estos modelos, y les preguntó si un atacante podía hacer que las imágenes desaparecieran y eviten ser detectados. "Nos posicionamos como atacantes reales", dice Katarzyna Kapusta. Y logramos hackear el sistema, sin conocer el contenido de la caja negra. Con IA, es que cuando un ataque funciona en un modelo, posiblemente puede funcionar con un modelo similar.

AnuncioEl principio? La manipulación de imágenes de la cámara que entran en el modelo de detección para las personas. "Introducimos patrones de color, modificamos algunos píxeles, por ejemplo, para engañar a la IA. Utilizamos técnicas muy sofisticadas que llevan al modelo a malinterpretar la imagen. Los piratas informáticos también han ganado los Desafío organizado en noviembre pasado por la DGA durante la Conferencia sobre Inteligencia Artificial para la Defensa (CAID)En un desafío muy similar para el cual, entre otras cosas, tuvimos que encontrar "imágenes de aviones utilizadas durante la fase de aprendizaje de un algoritmo de IA, protegido por técnicas de desaprendizaje.»

El descubrimiento de la realidad de la profesión de ingeniero de TI

Para Katarzyna Kapusta, mucho antes de llegar a la cabeza de los amigables piratas informáticos de Thales, todo comenzó en la escuela con un pronunciado sabor a las matemáticas, antes de un giro hacia el desarrollo informático y una reunión con ciberseguridad. "Mi padre es ingeniero de investigación en electrónica e informática y siempre me animó a aprender matemáticas", dice ella. En la escuela secundaria, en Polonia, ya tenía un perfil de 'matemáticas y computadora', pero aún no me atreví a avanzar hacia él. La imagen del geek encapuchado detrás de su pantalla solo lo intenta ... Es una competencia comercial por la diversidad, con equipos de desarrolladores mixtos, que finalmente lo decidirán. Tenía 15 años y su equipo ganó la posibilidad de visitar un centro de datos. Ella descubre la realidad de la profesión de ingeniería, muy diferente de las imágenes transmitidas por el cine o la serie. Ella encontró su camino.

"Sobre la tecnología, no hay diferencia entre hombres y mujeres"

Después de un primer diploma en Ensimag en Grenoble, pasó un año en el CERN en 2020, trabajando en Java en una herramienta de monitoreo interno de la red de TI. Un proyecto que le da un gusto por el desarrollo y especialmente la ciberseguridad. "También entendí que lo que me gustó fue la innovación, la capacidad de traer mi propio ladrillo y hacer algo más allá del estado del arte", agrega Katarzyna Kapusta, quien, por lo tanto, continuará en la investigación. Y la ciberseguridad es propicio para la innovación, especialmente para el cruce con IA. »»

El hecho es que la ciberseguridad, tal vez incluso más que en general, es un mundo masculino. Especialmente en la industria. Pero como muchas mujeres, Katarzyna Kapusta es muy cuidadosa. "En seminarios, a menudo soy el único", comenta. Pero nos acostumbramos. Es un poco molesto cuando se señala ... pero veo que más y más mujeres llegan al tema. Tenemos más y más candidatos a los estudiantes para pasantías. En sujetos tecnológicos, no hay diferencia que hacer entre hombres y mujeres. El investigador también estuvo acompañado por dos mentores como parte de un programa de Thales, un ingeniero de ciberseguridad y un gerente de finanzas. La ayudaron a ganar confianza, incluso para aceptar la responsabilidad del equipo de hackers.