eGPU pour l'IA Locale : LLM et Stable Diffusion sur Ultrabook
Jérémie Calos
17 juillet 2026
De tous les usages d'une carte graphique externe, il y en a un que je vois exploser dans les fils de discussion de r/eGPU et r/LocalLLaMA depuis des mois, et que presque aucun guide francophone ne traite sérieusement : l'IA locale. Faire tourner un modèle de langage ou Stable Diffusion sur son propre matériel, sans abonnement, sans envoyer ses données à un tiers, depuis un ultrabook d'1,3 kg.
Et voilà le paradoxe qui rend le sujet passionnant : l'eGPU, souvent critiqué pour ses pertes de performances en jeu, est presque parfait pour l'inférence IA. Je vous explique pourquoi, chiffres à l'appui, et je détaille les configurations qui fonctionnent vraiment.
Pourquoi l'inférence IA adore l'eGPU
Le reproche classique fait à l'eGPU vient du gaming : en Thunderbolt 4, un jeu perd 15 à 25 % de ses images par seconde à 1440p parce que le CPU et le GPU échangent en permanence des données à travers un câble limité à 40 Gbps. Notre guide eGPU complet détaille ces pertes interface par interface.
L'inférence d'un modèle de langage fonctionne autrement. Le modèle se charge une fois en VRAM, au lancement, et c'est le seul moment où le câble travaille vraiment. Ensuite, chaque token généré ne fait transiter que quelques kilooctets entre la machine et le GPU. Le calcul se passe intégralement dans la carte, la bande passante de l'interface devient presque anecdotique. Les mesures relayées par la communauté egpu.io situent la perte entre 3 et 8 % en inférence, contre 15 à 25 % en jeu sur le même câble Thunderbolt.
Concrètement : le chargement d'un modèle de 8 Go prendra quelques secondes de plus qu'en PCIe desktop, puis la génération tournera quasiment à la vitesse nominale de la carte. Même logique pour Stable Diffusion, où l'image se calcule entièrement dans la VRAM avant de revenir d'un bloc.
C'est le renversement complet du verdict gaming, et la raison pour laquelle je considère l'IA locale comme LE cas d'usage où l'eGPU n'a pratiquement aucun inconvénient technique.
La VRAM décide de tout le reste
Avant de parler de puissance de calcul, parlons mémoire, parce que c'est elle qui fixe la frontière entre ce qui tourne et ce qui ne tourne pas. Un modèle qui ne rentre pas en VRAM déborde vers la RAM système, et là le câble redevient un goulot avec des vitesses divisées par cinq ou dix.
Les ordres de grandeur à connaître, pour des modèles quantifiés en 4 bits (le format standard de l'usage local via llama.cpp, Ollama ou LM Studio) :
| Taille du modèle | VRAM nécessaire (Q4) | Exemples | Carte minimum |
|---|---|---|---|
| 7-9B | 5 à 7 Go | Llama 3.1 8B, Mistral 7B | 8 Go |
| 12-14B | 8 à 10 Go | Qwen 14B, Phi-4 | 12 Go |
| 24-32B | 16 à 20 Go | Qwen 32B, Mistral Small | 16 Go (limite) / 24 Go |
| 70B+ | 40 Go et plus | Llama 3.3 70B | Hors périmètre mono-GPU grand public |
Pour Stable Diffusion, comptez 8 Go de VRAM confortables pour SDXL en 1024 px, et 12 à 16 Go dès qu'on empile ControlNet, upscaling et batchs.
La conclusion pratique tient en une phrase : pour l'IA locale, un gigaoctet de VRAM vaut plus qu'un teraflop. Et cette phrase va à contre-courant de toutes les recommandations gaming.
Quelle carte choisir : mon classement spécial IA
Le choix du constructeur, d'abord, ne se discute pas vraiment : NVIDIA. L'écosystème logiciel de l'IA locale (PyTorch, llama.cpp, ComfyUI, vLLM) reste construit autour de CUDA. ROCm d'AMD progresse, mais chaque installation est une aventure dont les forums gardent la trace. J'ai développé ce point dans la section NVIDIA ou AMD du guide général, et il pèse encore plus lourd ici qu'en création vidéo.
Ensuite, à contre-courant du gaming, ma hiérarchie pour un boîtier eGPU dédié IA :
La RTX 4060 Ti 16 Go d'abord, le choix malin. Génération précédente, environ 200 W de TDP, et surtout 16 Go de VRAM pour un tarif régulièrement observé sous les 500 €. En inférence, ses 16 Go chargent un modèle 14B avec de la marge et s'aventurent sur du 24-32B quantifié serré. Une 5070 plus récente et plus rapide en calcul se fait battre sur les gros modèles, faute de mémoire.
La RTX 5070 Ti 16 Go ensuite, le haut de gamme raisonnable à environ 780 € : la VRAM du niveau supérieur et la puissance Blackwell pour générer vite. C'est la carte que je monterais aujourd'hui dans un setup IA sans contrainte budgétaire stricte.
La RTX 5070 12 Go enfin, excellente carte polyvalente (jeu + IA légère), mais ses 12 Go la cantonnent aux modèles 14B maximum. Si l'IA est votre usage principal, les 16 Go des deux autres valent le surcoût ou le sacrifice de puissance.
À éviter pour l'IA : toute carte à 8 Go de VRAM, quel que soit son prix. Elle plafonnera aux modèles 7-9B et à du Stable Diffusion contraint, et la frustration arrivera vite.
Voir RTX 4060 Ti 16 Go sur Amazon
Le setup complet, du câble au modèle
Côté boîtier, rien de spécifique à l'IA : les recommandations de notre comparatif de boîtiers eGPU s'appliquent. Le Razer Core X Chroma (environ 320 €) pour un ultrabook Thunderbolt, l'AOOSTAR AG01 (environ 218 €) si votre machine a de l'OCuLink. Un détail favorable à l'IA : la perte d'interface étant marginale en inférence, même un vieux port Thunderbolt 3 fait parfaitement l'affaire, là où les joueurs regretteraient l'absence de TB5.
Le budget total réaliste s'établit ainsi : environ 720 € en entrée de gamme sérieuse (AG01 + RTX 4060 Ti 16 Go), autour de 1 100 € pour la config confort (Core X Chroma + 5070 Ti). À comparer à un abonnement IA cloud à 20 €/mois qui ne vous appartiendra jamais, ou aux tarifs des stations de travail équivalentes.
Côté logiciel, la chaîne s'est incroyablement simplifiée. Ollama ou LM Studio détectent le GPU externe comme n'importe quelle carte NVIDIA, sans configuration particulière : on installe le driver GeForce standard, on lance, le modèle s'offloade en VRAM. Pour Stable Diffusion, ComfyUI et Forge fonctionnent à l'identique. Le seul réglage qui compte est de vérifier que le nombre de couches offloadées correspond bien à votre VRAM, ce que ces outils font désormais automatiquement.
Un mot sur l'entraînement, pour être complet : l'eGPU convient à l'inférence et au fine-tuning léger type LoRA sur petits modèles. L'entraînement sérieux, lui, sature les transferts mémoire en continu et redonne toute son importance au goulot de l'interface. Pour ça, le cloud reste imbattable.
Trois scénarios vécus
Le développeur qui teste des agents locaux : ultrabook TB4, Core X Chroma, 4060 Ti 16 Go. Llama 3.1 8B répond de façon fluide et instantanée pour du RAG et de l'autocomplétion de code, un 14B reste confortable. Total 820 € environ, données jamais sorties de la machine.
Le créatif Stable Diffusion : même boîtier, 5070 Ti 16 Go. SDXL génère en quelques secondes par image, ControlNet et les LoRA tiennent en mémoire. L'ultrabook reste la machine de mobilité, le GPU attend au bureau.
Le possesseur de mini-PC OCuLink : AG01 + 4060 Ti 16 Go, environ 720 €. Le serveur IA familial le moins cher qu'on puisse construire, qui sert aussi de station de jeu 1440p le week-end. C'est le montage au meilleur ratio de tout cet article.
FAQ
Un eGPU est-il assez rapide pour faire tourner un LLM en local ?
Oui, et c'est même son meilleur cas d'usage. Une fois le modèle chargé en VRAM, l'inférence se déroule intégralement dans la carte : la perte liée au câble se limite à une fourchette de 3 à 8 % selon les mesures communautaires egpu.io, contre 15 à 25 % en jeu. La vitesse de génération dépend essentiellement de la carte installée dans le boîtier, pas de l'interface.
Combien de VRAM pour un LLM local ?
Retenez 6 Go pour les modèles 7-9B quantifiés, 10 Go pour du 14B, 16 Go et plus pour aborder les modèles 24-32B. En dessous de la VRAM requise, le modèle déborde en RAM système et les performances s'effondrent. C'est le critère d'achat numéro un, avant la puissance de calcul.
Peut-on utiliser une carte AMD pour l'IA locale en eGPU ?
Techniquement oui, llama.cpp et Ollama savent exploiter ROCm et Vulkan. En pratique, l'écosystème (ComfyUI, vLLM, la majorité des tutoriels et des builds précompilés) suppose CUDA, donc NVIDIA. Pour un setup IA sans friction, je ne recommande pas AMD aujourd'hui.
Stable Diffusion fonctionne-t-il bien via Thunderbolt ?
Très bien. La génération d'image se calcule entièrement dans la VRAM du GPU, le câble n'intervient qu'au chargement du modèle et à la récupération de l'image finale. Avec une carte à 12-16 Go de VRAM dans le boîtier, SDXL tourne à des vitesses proches d'une installation desktop.
Et sur Mac, l'IA locale en eGPU ?
Impossible sur les Mac Apple Silicon, qui ne supportent aucun GPU externe. Mais la mémoire unifiée des puces M compense autrement : un Mac avec 32 ou 48 Go de RAM charge des modèles que les GPU grand public ne peuvent pas accueillir. J'ai détaillé ce paradoxe dans notre article sur les alternatives à l'eGPU sur Mac.
Pour aller plus loin :