BigData, Machine-learning, AI & AnalyticsDeep Dive120min
Compose & Dragons: le jeu de rôle des agents nourris aux Tiny Language Models
Cette présentation démonte les idées reçues sur les très petits LLMs (<4 b paramètres) en prouvant qu’ils peuvent alimenter des systèmes d’IA générative. À travers un jeu de rôle textuel conçu avec Docker et divers mini‑modèles, les auteurs montrent comment créer PNJ, maître du donjon et interactions IA réutilisables.
talk.summaryAiDisclaimer
Philippe CharrièreDocker
Guillaume LoursDocker
Debunkons quelques croyances relatives aux (tout) petits LLMs, ceux qui font moins de 4b de paramètres. On entend souvent:
Ils sont inutiles et ne savent rien faire, ils ne connaissent rien, ils sont mauvais en function calling (donc pas de MCP)
C'est en partie faux, et on peut remédier au reste et construire des systèmes d'IA générative avec ces très petits modèles.
C'est ce que nous allons démontrer lors de cette université d'une façon ludique:
Nous avons utilisés les fonctionnalités d'IA de Docker, pour développer un jeu de rôle de type "dungeon crawler" (EN MODE TEXTE) avec des PNJ, des monstres, des jets de dés ... le tout piloté par des agents d'IA (codés from scratch par nos soins) qui utilisent uniquement de très petits modèles (comme par ex: Jan-nano-gguf 4b, qwen2.5 1.5b, granite-embedding 278m pour le RAG, ...)
Nous verrons entre autre comment créer des PNJ avec une personnalité, un dungeon master qui va gérer vos mouvements, combats ... et permettre de parler à tel ou tel PNJ ...
Alors, notre jeu n'est pas Diablo (mais il reste jouable), mais vous repartirez avec des recettes et des conseils réutilisables pour développer vos propres solutions avec des tout petits modèles.
Ils sont inutiles et ne savent rien faire, ils ne connaissent rien, ils sont mauvais en function calling (donc pas de MCP)
C'est en partie faux, et on peut remédier au reste et construire des systèmes d'IA générative avec ces très petits modèles.
C'est ce que nous allons démontrer lors de cette université d'une façon ludique:
Nous avons utilisés les fonctionnalités d'IA de Docker, pour développer un jeu de rôle de type "dungeon crawler" (EN MODE TEXTE) avec des PNJ, des monstres, des jets de dés ... le tout piloté par des agents d'IA (codés from scratch par nos soins) qui utilisent uniquement de très petits modèles (comme par ex: Jan-nano-gguf 4b, qwen2.5 1.5b, granite-embedding 278m pour le RAG, ...)
Nous verrons entre autre comment créer des PNJ avec une personnalité, un dungeon master qui va gérer vos mouvements, combats ... et permettre de parler à tel ou tel PNJ ...
Alors, notre jeu n'est pas Diablo (mais il reste jouable), mais vous repartirez avec des recettes et des conseils réutilisables pour développer vos propres solutions avec des tout petits modèles.
Philippe Charrière
Geek assumé et Solution Architect chez Docker le jour, dresseur de tiny LLMs la nuit. Convaincu que les meilleurs modèles tiennent en moins de 4B de paramètres et que Go est le langage des gens bien. Multiplie les side projects comme d'autres collectionnent les NFTs — mais en plus utile.