AI & Agentic SystemsConference45min
Les gardiens du Prompt: menaces et recettes de sécurité pour une production zen.
Ce talk propose un état de l’art de la sécurité des applications GenAI, illustré par des démos pratiques : architecture défensive, outils d’observabilité, protection contre les attaques (prompt injection, fuites), tests de sécurité automatisés et bonnes pratiques pour passer d’un prototype à une solution de production robuste.
Philippe LaumayMoody's
Loïc GudetMoody's
Les applications GenAI ne jouent pas selon les mêmes règles: non-déterminisme, surface d’attaque mouvante, pression réglementaire (EU AI Act, NIST, …). Bref, si vous ne pentestez pas votre LLM, ce sont vos nerfs qui le seront. Ce talk s’appuie sur plus de trois ans d’expertise terrain à concevoir, déployer et opérer des applications GenAI en production.
On pose d’abord le cadre, puis on passe aux choses sérieuses, démos à l’appui. Parce que la sécurité, ce n’est pas qu’un poster dans l’open space !
D’abord, l’état de l’art pour ne pas piloter à vue: OWASP Top 10 for LLM Applications, EU AI Act, ...
Puis, nous présenterons des démos interactives très pratico-pratiques sur une application GenAI:
On pose d’abord le cadre, puis on passe aux choses sérieuses, démos à l’appui. Parce que la sécurité, ce n’est pas qu’un poster dans l’open space !
D’abord, l’état de l’art pour ne pas piloter à vue: OWASP Top 10 for LLM Applications, EU AI Act, ...
Puis, nous présenterons des démos interactives très pratico-pratiques sur une application GenAI:
- Architecture défensive et observabilité d’abord (LangSmith, Langfuse).
- AI Guards en I/O pour contrer prompt injections, fuites, ...
- Prompt injection & output handling, filtrage sémantique; policy-as-code; quotas/rate limiting (les attaquants détestent).
- QA sécurité en continu: jeux d’attaque Garak en CI/CD, et pentests externes pour valider le tout.
Philippe Laumay
Philippe est passionné par le monde du numérique ! Il a commencé sa carrière technique professionnelle avec un doctorat en informatique à l’INRIA, suivi de dix ans de gestion de projet dans l'industrie numérique au sein d'entreprises internationales comme Yahoo et Kelkoo.
Il a ensuite passé 10 ans dans la start-up Bonitasoft où il a occupé des postes orientés clients : responsable du support technique, responsable Customer Success, responsable du développement. Puis VP Product & Cloud, en charge de la stratégie produit et de la roadmap de la plate-forme Bonita on-premise et SaaS.
Il a rejoint Moody’s en 2022 où il a pris la tête de l’innovation et de la stratégie technologique pour la plateforme logiciel SaaS dédiée aux Assureurs. Depuis 2025, il pilote les équipes Engineering en charge de cette plate-forme.
Il a ensuite passé 10 ans dans la start-up Bonitasoft où il a occupé des postes orientés clients : responsable du support technique, responsable Customer Success, responsable du développement. Puis VP Product & Cloud, en charge de la stratégie produit et de la roadmap de la plate-forme Bonita on-premise et SaaS.
Il a rejoint Moody’s en 2022 où il a pris la tête de l’innovation et de la stratégie technologique pour la plateforme logiciel SaaS dédiée aux Assureurs. Depuis 2025, il pilote les équipes Engineering en charge de cette plate-forme.
Loïc Gudet
Loïc est un passionné du développement sur les nouvelles technologies. Fort de près de 15 ans d'expérience, dont plus de 10 ans chez Moody's, il a occupé des rôles clés tels que Technical SME, Architecte logiciels et Software Engineer.
Actuellement responsable des sujets d'innovation, Loïc se concentre sur l'intégration des IA génératives, démontrant sa volonté de rester à la pointe des avancées technologiques.
Actuellement responsable des sujets d'innovation, Loïc se concentre sur l'intégration des IA génératives, démontrant sa volonté de rester à la pointe des avancées technologiques.
comments.speakerNotEnabledComments