AI & Agentic Systems3H Hands-on Lab180min
Jailbreak, Prompt Injection, MCP Poisoning... Don't Panic and Hack AI 🥰 🤖
Cet atelier pratique explore les menaces contre les chatbots et agents IA : attaques de prompt, failles agentiques, Tool Poisoning ou Command Injection. Les participants expérimentent des techniques de “jailbreak” avec des outils open source et apprennent à identifier, comprendre et protéger leurs applications, outils et agents contre ces vulnérabilités.
Pierre TherrodeSNCF Connect & Tech
Francois NollenSNCF Connect & Tech
Benjamin BERNARDCrédit Mutuel Arkéa
Xavier CharefSNCF Connect and Tech
LLM, RAG, désormais Agentique et MCP : y'a-t-il d'autres risques à connaître que les "hallucinations" ?
Learn AI 🤓
Dans ce codelab vous découvrirez les attaques les plus fréquentes sur les chatbots gonflés à l'IAGen, vous comprendrez les menaces qui visent le Prompt et maintenant les Agents et Tools MCP.
Hack AI 😈
Vous pratiquerez des exercices de "Jailbreak" inspirés de publications universitaires et du Pentest, testerez les vulnérabilités de bots sur un playground avec des outils open source comme Garak et PyRIT, découvrirez les failles inhérentes aux architectures agentiques et les risques pour les Agents et le MCP : Tool Poisoning, Shadowing, Command Injection, etc.
Protect AI 😇
À l’issue de l'atelier, vous saurez non seulement expliquer les principes et conséquences de ces attaques, mais vous aurez aussi mis en oeuvre des protections adaptées pour renforcer la sécurité de vos applications, Tools et Agents.
Don't Worry, be Happy AI 🤖 🥰
Learn AI 🤓
Dans ce codelab vous découvrirez les attaques les plus fréquentes sur les chatbots gonflés à l'IAGen, vous comprendrez les menaces qui visent le Prompt et maintenant les Agents et Tools MCP.
Hack AI 😈
Vous pratiquerez des exercices de "Jailbreak" inspirés de publications universitaires et du Pentest, testerez les vulnérabilités de bots sur un playground avec des outils open source comme Garak et PyRIT, découvrirez les failles inhérentes aux architectures agentiques et les risques pour les Agents et le MCP : Tool Poisoning, Shadowing, Command Injection, etc.
Protect AI 😇
À l’issue de l'atelier, vous saurez non seulement expliquer les principes et conséquences de ces attaques, mais vous aurez aussi mis en oeuvre des protections adaptées pour renforcer la sécurité de vos applications, Tools et Agents.
Don't Worry, be Happy AI 🤖 🥰
Francois Nollen
Staff Engineer chez SNCF Connect & Tech. Membre association TOSIT.fr « The Open Source I Trust ». Contributeur plateforme open source Tock « The Open Conversation Kit ». Communautés InnerSource Commons et Staff42. #OpenSource #Flutter #Kotlin #AI #Chatbot #DevOps #TeamTopologies
Benjamin BERNARD
Développeur full stack sur des solutions conversationnelles au sein du Crédit Mutuel Arkéa depuis près de 4 ans, esprit Maker et Do It Yourself.
Benjamin promeut dans le milieu professionnel ainsi que dans le milieu associatif au travers de la Maison du Libre (Brest) des solutions Open Source.
Benjamin promeut dans le milieu professionnel ainsi que dans le milieu associatif au travers de la Maison du Libre (Brest) des solutions Open Source.
Xavier Charef
Data Scientist de puis 7 ans à SNCF Connect & Tech, j'ai travaillé sur des produit IA pour différentes directions (Client, Marketing et Produit). Depuis 2 ans, j'ai contribué à migrer notre ancien bot d'aide en ligne ouvert au grand public vers une solution à base de IA générative ainsi que plusieurs PoC avec de l'agentique. Par ailleurs, je suis également formateur interne à SNCF Connect où j'anime différentes formations pour accompagner nos collaborateurs à la démarche IA de l'entreprise et les aider à repérer des Use Case IA au quotidien.
comments.speakerNotEnabledComments