BigData, Machine-learning, AI & AnalyticsConference50min
SLM vs LLM : L’IA générative qui tourne sur mon laptop !
Cette session explore les Small Language Models (SLMs) comme DeepSeek et Mistral, qui fonctionnent localement sur un laptop, offrant latence réduite, confidentialité et coût nul. Découvrez leur utilisation via Ollama et LangChain pour des applications variées, démontrant que les SLMs sont rapides, économiques et adaptés à des usages réels et confidentiels.
Vincent HeuschlingDataTask
talkDetail.whenAndWhere
Friday, June 20, 14:45-15:35
NT
Faut-il vraiment des centaines de milliards de paramètres pour tirer parti de l’IA ?
Spoiler : non.
Dans cette session, on explore les Small Language Models (SLMs) – comme DeepSeek, Mistral, ou Phi-2 – qui tiennent dans quelques Go et tournent localement sur un laptop.
À la clé : latence minimale, confidentialité totale, coût zéro par token, et un contrôle complet sur vos outils.
Pour être concrets, on verra comment utiliser ces modèles avec Ollama, LangChain, ou LlamaIndex, en live coding.
Génération de code, chat intelligent, RAG local, copilotes internes : autant de cas d’usage utiles, rapides à mettre en place et réellement utiles pour les développeurs.
On y expliquera pourquoi :
• Les SLMs sont plus rapides, plus économiques et plus respectueux de la confidentialité
• Leurs usages ne sont pas limités au “chat”, mais s’étendent à des cas opérationnels réels
• L’écosystème open source explose, avec pleins de modèles spécialisés
Une autre IA est possible : plus légère, plus agile, plus proche de vos besoins et préocupations.
Spoiler : non.
Dans cette session, on explore les Small Language Models (SLMs) – comme DeepSeek, Mistral, ou Phi-2 – qui tiennent dans quelques Go et tournent localement sur un laptop.
À la clé : latence minimale, confidentialité totale, coût zéro par token, et un contrôle complet sur vos outils.
Pour être concrets, on verra comment utiliser ces modèles avec Ollama, LangChain, ou LlamaIndex, en live coding.
Génération de code, chat intelligent, RAG local, copilotes internes : autant de cas d’usage utiles, rapides à mettre en place et réellement utiles pour les développeurs.
On y expliquera pourquoi :
• Les SLMs sont plus rapides, plus économiques et plus respectueux de la confidentialité
• Leurs usages ne sont pas limités au “chat”, mais s’étendent à des cas opérationnels réels
• L’écosystème open source explose, avec pleins de modèles spécialisés
Une autre IA est possible : plus légère, plus agile, plus proche de vos besoins et préocupations.
Vincent Heuschling
Fondateur passionné de la plateforme Data "DataTask" et du podcast data francophone "BigDataHebdo" avec plus de 200 épisodes enregistrés.
Tombé dans la data au début des années 2010, j'essaye de transmettre mon enthousiasme au plus grand nombre
J'accompagne mes clients dans la création, le développement et l'execution de leurs plateformes data & IA.
Ma position me permet d'avoir un vision sur toutes les technologies Data et IA émergentes.
Tombé dans la data au début des années 2010, j'essaye de transmettre mon enthousiasme au plus grand nombre
J'accompagne mes clients dans la création, le développement et l'execution de leurs plateformes data & IA.
Ma position me permet d'avoir un vision sur toutes les technologies Data et IA émergentes.
comments.speakerNotEnabledComments