Podcast: Play in new window | Download (Duration: 33:29 — 46.1MB)
L’Intelligence Artificielle est au cœur des développements actuels. Depuis l’avènement de GPT d’OpenAI, de nombreux LLM (Large language Model) sont apparus avec, et c’est la bonne nouvelle, de modèles en Open Source.
Mais quand on veut utiliser un LLM (ou un SLM), on a recours aux différents providers web dont Microsoft Azure et son Azure AI Studio, qui mettent à notre disposition de puissants serveurs avec des cartes dédiées.
La bonne nouvelle c’est que si l’on veut héberger sur ses propres serveurs son AI, il existe actuellement des solutions Open Source qui arrivent à maturité. Bien entendu, il est quasi-impossible de faire tourner les gros modèles, mais pour les petits, c’est envisageable.
Le but de cet épisode est de démystifier la complexité de l’approche, vous montrer qu’en quelques minutes, vous pouvez créer votre propre serveur et l’utiliser dans vos applications.
La chaine Youtube
Pensez à vous abonner à notre chaine Youtube : https://www.youtube.com/channel/UCgOS-dpvwOP7M5xd47WuPLw
Les liens de l’épisode
- Ollama : https://ollama.com/
- Le blog Semantic Kernel : https://devblogs.microsoft.com/semantic-kernel
- Llama Edge : https://github.com/LlamaEdge/LlamaEdge
- Open WebUI : https://github.com/open-webui/open-webui
- LM Studio : https://lmstudio.ai
- AutoGen for .NET : https://microsoft.github.io/autogen-for-net/index.html
- Le blog post de laurent : https://laurentkempe.com/2024/05/01/run-phi-3-slm-on-your-machine-with-csharp-semantic-kernel-and-ollama
Les packages Nuget pour se connecter aux API de Ollama :
L’invité de l’épisode
- Laurent Kempé, Microsoft MVP (https://laurentkempe.com)
Un épisode animé par Richard Clark, Microsoft MVP et 😎 CEO, CTO, CFP, CMO 😎 devdevdev.net.