/ SPEAKER
Ingénieure-chercheure dans le laboratoire ThereSIS de Thales, Katarzyna Kapusta a plus de dix ans d’expérience dans la cybersécurité. Depuis 2022, elle pilote l’initiative « AI Friendly Hackers » ayant pour objectif de développer des outils d’évaluation de la robustesse des systèmes à base d’ Intelligence Artificielle contre les attaquants visant à exploiter les vulnérabilités intrinsèques des réseaux de neurones. Co-auteur de plusieurs brevets et publications, elle s’intéresse particulièrement à la protection de la propriété intellectuelle dans le contexte de l’IA, notamment aux techniques de filigranes de modèles d’IA. Elle intervient en tant qu’expert technique dans les projets de recherches collaboratifs et dans les groupes de standardisation européens. Elle est titulaire d'un doctorat en informatique et d'un diplôme d'ingénieur, tous deux obtenus à Télécom Paris.
Rejoignez-nous pour découvrir comment l'alliance de notre expertise en IA, incarnée par notre Labo de Recherche THERESIS, et notre pragmatisme technique au sein de la Thales Digital Factory, repousse les limites de la cyber-sécurité. Dans un contexte où les données sensibles exigent une vigilance de tous les instants, nous avons intégré Azure OpenAI de manière stratégique à notre infrastructure cloud. Afin de maintenir un niveau de sécurité à l'état de l'art nous menons quotidiennement des études et campagnes de test de cybersecurité sur des modèles disponibles en open source, ceci dans le souci d'adopter une approche complémentaire à l'utilisation d'un LLM en "black box".
Nous aborderons les stratégies de "hacking éthique", essentielles à l'audit de sécurité de nos LLM. Ces tactiques particulières, combinées à des pratiques rigoureuses, renforcent la fiabilité de nos outils de GenAI. Vous découvrirez aussi comment les directives OWASP adaptées pour ces technologies nous ont aidées à fixer les standards de sécurité. Une invitation à envisager l'IA non comme une menace, mais comme un partenaire de la sécurité informatique.
Searching for speaker images...