AI & Agentic SystemsConference45min
Gérer vos tickets support avec de l’IA mais sans cramer la planète
Ce talk montre comment remplacer les grands modèles d’IA par des « Tiny Language Models » locaux pour automatiser la gestion de tickets. En suivant un cycle de vie simple (ingestion, classification, similarité, RAG, capitalisation), on réduit coûts et empreinte carbone sans sacrifier efficacité, avec démonstration et retour d’expérience.
Matthieu VincentSopra Steria
Philippe CharrièreDocker
L'IA générative, c'est pratique, mais mon ticket 'J'ai perdu mon mot de passe' a-t-il vraiment besoin d'être traité par un modèle de 175 milliards de paramètres ?
Dans ce talk, on vous expliquera comment passer par des LLM locaux nécessitant des ressources raisonnables pour gérer vos tickets par exemple plutôt que des plateformes comme ChatGPT, Claude.ai & cie
En découpant en étapes simples le cycle de vie, on peut arriver à utiliser uniquement des « TLM » (Tiny Langage Model) spécialisés plutôt que des très gros modèles génériques tels que Opus, GPT-5 … :
Toutes ces opérations, bien orchestrées, peuvent être réalisées sans avoir besoin de brûler une forêt à chaque requête et on vous le montrera avec des démos live !
Durant cette session, nous présenterons les résultats de notre « proof of concept » : avantages, contraintes, limites et points à creuser
Un talk pour repenser nos utilisations de l’IA générative pour qu’elle soit utile sans pour autant sortir un tank pour tuer une mouche
Dans ce talk, on vous expliquera comment passer par des LLM locaux nécessitant des ressources raisonnables pour gérer vos tickets par exemple plutôt que des plateformes comme ChatGPT, Claude.ai & cie
En découpant en étapes simples le cycle de vie, on peut arriver à utiliser uniquement des « TLM » (Tiny Langage Model) spécialisés plutôt que des très gros modèles génériques tels que Opus, GPT-5 … :
- Ingestion des nouveaux tickets
- Classification d’après des thématiques préconfigurées
- Similarité avec la base globale
- RAG pour préparer une réponse
- Capitalisation pour enrichir la base de connaissance
Toutes ces opérations, bien orchestrées, peuvent être réalisées sans avoir besoin de brûler une forêt à chaque requête et on vous le montrera avec des démos live !
Durant cette session, nous présenterons les résultats de notre « proof of concept » : avantages, contraintes, limites et points à creuser
Un talk pour repenser nos utilisations de l’IA générative pour qu’elle soit utile sans pour autant sortir un tank pour tuer une mouche
Matthieu Vincent
I'm working at Sopra Steria as TechAdvocate and Engineering Platform leader.
In my spare time, I'm the co-founder of Volcamp and of the meetup GreenTechAuvergne, also a GitLab Hero & a R2DevOps ambassador. I love coding and opensource, I'm the owner of 3 littles assets : svn2git, gitlab-emoji and heimdall (https://github.com/yodamad)
All my contributions are available at https://me.yodamad.fr, I'm speaking in conferences and rewriting blog articles since 2022.
In my spare time, I'm the co-founder of Volcamp and of the meetup GreenTechAuvergne, also a GitLab Hero & a R2DevOps ambassador. I love coding and opensource, I'm the owner of 3 littles assets : svn2git, gitlab-emoji and heimdall (https://github.com/yodamad)
All my contributions are available at https://me.yodamad.fr, I'm speaking in conferences and rewriting blog articles since 2022.
Philippe Charrière
Geek assumé et Solution Architect chez Docker le jour, dresseur de tiny LLMs la nuit. Convaincu que les meilleurs modèles tiennent en moins de 4B de paramètres et que Go est le langage des gens bien. Multiplie les side projects comme d'autres collectionnent les NFTs — mais en plus utile.
comments.speakerNotEnabledComments