🔗 Découvrez la config complète ici (Threadripper 9980X + Radeon AI PRO R9700 de chez @AMD :
🧮 Et estimez vos coûts cloud vs local avec le calculateur d’AMD :
J’ai construit un PC à plus de 10 000 € avec un objectif bien précis : faire tourner de l’intelligence artificielle entièrement en local. LLM, transcription, analyse de documents, agents IA et génération d’images… j’ai voulu voir jusqu’où cette machine pouvait aller, sans dépendre du cloud.
J’espère que tu apprécieras 🙂
🫶🏻 Pour me soutenir :
👌🏻 Abonne-toi :
Pour toute collaboration ou partenariat, contactez-moi à parlonscyberpro@gmail.com.
—————————————————-
🧭Mes liens :
► Mon Discord :
► Mon Linkedin :
► Mon TikTok :
—————————————————-
⏱️ Les Moments Clés ⏱️
0:00 – Un PC à 10 000€ ?
0:48 – Présentation de la machine
1:59 – Installation et ROCm
2:20 – Premier test : LLM local
4:20 – Transcription audio avec Whisper
5:15 – RAG : donner une mémoire à l’IA
6:28 – Passage aux agents IA : OpenClaw
8:39 – Génération d’images avec ComfyUI
10:25 – Est-ce que ça vaut le coup ?
11:18 – Limites de l’IA locale
12:05 – Le modèle hybride
#RadeonAIPro #CreateWithRadeonAI
source
L’adaptation d’AMD sur un Linux pour ce genre de tâche n’a pas été trop compliqué ?
Je suis en plein dedans c'est incroyable le besoin
MEC 32 GO TU fais tourner des modele ridicule, en dessous de 120 GO de RAM, c'est pas un pc IA c'est un pc gamer avec un modèle IA de 2018
Il faut faire la différence entre les modèles de texte et ceux de vidéo/image. Si vous voulez générer du texte, prenez un pc avec de la mémoire unifiée, beaucoup de mémoire mais pas la plus rapide, parfait pour charger de gros modèles dans la mémoire ou pour en charger plusieurs en même temps (jusque 128/196gb). Pour la génération d'images ou de vidée, il faut de la mémoire rapide mais on n'a pas besoin d'autant de mémoire, donc il faut une bonne carte graphique, même si la mémoire est bien plus limitée (24-48gb).
14000€ et t'as moins de 256Go de RAM.
C'est de l'arnaque
Je mets aucune limite dans ce que j'envoie que ce soit chinois ou americain la confidentialite ca existe pas Babylone a gagne depuis longtemps meme dans le cyber espase. L'IA local est un avantage financier c'est tout
Que pense tu de un unsloth pour mon ia loca?. Merci
ben moi 30 000 avec le prix des composants ^mdr lol
Très bonne vidéo !
J'ai tout de même une question, car je ne trouve pas de réponse : tu parles d'hybride à la fin de ta vidéo et c'est ce que je cherche, sauf que je souhaite que ça s'exécute automatiquement en fonction des besoins et des ressources ( un peu ce que tu racontes dans ta vidéo, notamment avec la confidentialité ). J’avais cru comprendre que des Agents comme Hermes étaient capables de le faire, mais je ne trouve pas comment ? Des idées ?
Bravo pour la vidéo et pour la démarche ! Montrer ce qu'une IA locale fait vraiment, avec ses limites et le modèle hybride, c'est exactement ce que j'aime voir. Et on vient du même monde : mon métier, c'est la cybersécurité.
De mon côté, j'ai aussi monté un PC à plus de 10 000 €, avec une config assez proche : un Threadripper PRO 9955WX, 192 Go de RAM et quatre cartes AMD, trois R9700 et une RX 9070 XT, soit 112 Go de VRAM. Ma machine s'appelle Major. Petite différence quand même : chez moi, le sponsor, c'est mon banquier. Mais si AMD passe par là, je suis preneur 🙂
Ce serait chouette d'échanger sur le montage et les choix de config. Et sur cette idée qu'on partage : garder la main sur ses données, avec une IA qui tourne chez soi.
La présentation de Major : https://youtu.be/vZAASJQsEuw
Et ce que changent 32 Go et quatre cartes pour l'IA locale : https://youtu.be/znXxKYaH79Y
Au plaisir d'en discuter, et bonne continuation !
Hello !
Je fais actuellement un peu ce que tu fais, une IA en local, qui a la possibilité communiquer avec un MCP,
Voici plusieurs questions qui me turlupinent l'esprit :
Pourquoi ROCM sur une telle machine ?
Pourquoi est-ce que la machine est aussi chère pour que 32 GO de vram ?
pourquoi ce modèle, est-ce parce que c'était le plus récent et qui tenait en FP8 sur la machine 27B -> 27Go)? limite de RAM ? de Quantification ? NVFP4 FP8 FP16 Q2 … ?
Pourquoi LMStudio ? …
J"aurai aimé que tu commente un petit peu tes choix et proposes des alternatives niveau software (et possiblement hardware si la collab le permettait).
Personnellement j'opère sur le supercalculateur DGX SPARK de Nvidia (128Go mémoire unifiées, 20 coeurs, proc : GB10 Blackwell), je passe par le moteur d'inférence vLLM, où j'y ai mis Qwen3.8 Flash Next forké du pare RedixArk du vrai model sur huggingface, et éditer depuis un repo Github (pour le build et faire tourner en Quantifié NVFP4 sur 1 seul DGX SPARK Nvidia avec mmap, PLE et de la swap).
Réponse courte: non
Et tu arrives à mettre tous les modeles en même temps ?
Super intéressant ! Par contre, je sais pas comment le calculateur arrive à 33k pour une personne sur 4 ans, surement juste via appels API mais pour la grande majorité des gens un abonnement même max à 200€/mois suffit largement… Un aspect qui n'est pas prit en compte c'est que d'ici 4 ans, les IA et services proposés par GPT Claude etc seront bien plus évolués comme le matériel utilisé, là où l'IA locale sera déjà complètement dépassée sous tous les aspects
tu me regale encore un fois, par contre le prix du pc voila quoi incr la video et le montage encore une fois 😍😍👍👍
Pour la ram coûte plus che re que le pc
32 go c’est vraiment limité pour de l’IA.
Tu peux faire la même chose pour 20 euros avec des appels API, sans acheter un PC à 10 000 euros
Le pc devrait plutôt être en carton au vue de notre budget !
Super vidéo !
Bien joué pour la collab AMD 👍👏
À refaire avec une RTX Spark
L'adoption d'une IA locale est devenue indispensable pour toute entreprise économique ou administrative.
Toutefois, ce n'est point avec des équipements de performance moyenne qu'il est possible de l'exploiter efficacement.
Il s'agit véritablement d'un investissement conséquent, assorti d'une maintenance rigoureuse et pérenne.
Merci beaucoup pour ce tutoriel, qui ne manquera pas d'inspirer de nombreux entrepreneurs.
Tu as choisi de partir sur un setup full AMD par rapport au prix, ou il y a un autre avantage à opter pour AMD ?
Quelle évolution, bravo à toi, très belle vidéo.!
11:18 Sympa cette vidéo, mais on n'a pas tous 14k € a lâcher pour créer une IA locale à la maison qui rivalise avec un abonnement GPT à 10 € / mois, mais on est nombreux a avoir un PC gamer équipé d'un GPU ayant 8, 12 ou 16 Go de VRAM (AMD ou NVIDIA, peu importe) et qui aimerions expérimenter les IA locales, pourrais-tu nous faire une vidéo pour nous donner des conseils pour nous aider à choisir des modèles les plus performants selon nos machines ? J'ai vu qu'il y énormément de paramètres à prendre en compte, MoE / dense, quantification BF16 / INT8 / NVFP4 / etc.., distillation, tokenizer, transformer, contexte, etc…
Là, tu racontes quelque chose de trompeur sur les capacités réelles de ta machine.
Avec 32 Go de VRAM, on peut faire de l’IA, évidemment, mais on est vite limité dès qu’on passe à des usages sérieux avec de gros contextes ou de la génération lourde.
J’ai un DGX Spark et j’ai testé plusieurs modèles localement. Mon meilleur modèle de codage actuellement est `qwen3.6:27b-coding`. Le modèle seul prend environ 18 Go en mémoire. Dit comme ça, on pourrait croire qu’une carte de 32 Go suffit largement.
Sauf qu’il faut ajouter le contexte, le KV cache, le mode thinking et toute la mémoire nécessaire pendant l’utilisation réelle.
Avec un contexte de 256k, je peux monter autour de 50 Go de mémoire utilisée. Et 256k, ce n’est même pas délirant pour du développement logiciel complexe, surtout quand le modèle raisonne longtemps et accumule du contexte.
Donc avec 32 Go de VRAM, tu es déjà bloqué bien avant.
Même problème pour la génération vidéo : suivant les modèles et les workflows, la consommation mémoire peut monter vers 90 Go. Là encore, une carte 32 Go atteint très vite ses limites.
C’est pour ça que je trouve étrange de présenter une machine à environ 10 000 € comme une grosse machine IA si elle reste limitée à 32 Go de VRAM.
Mon DGX Spark m’a coûté environ 6 300 €, avec 4 To de SSD et 128 Go de mémoire unifiée. Pour mon usage IA local, cette quantité de mémoire change complètement ce qu’il est possible de faire.
Le problème en IA locale, ce n’est pas seulement la puissance brute du GPU.
Très souvent, le vrai mur, c’est simplement la mémoire disponible.
sudo apt purge htop
sudo apt install bpytop
alors je suis d'accord que l'IA local est génial et deviens plus en plus pertinente même si il y a des défauts majeur actuellement. Je ne comprends pas l'interet d'avoir un CPU aussi Overkill pour qu'ils soit aussi peut utiliser.
Entre hermes agent et openclaw tu pense qui est en dessus de l'autre.
Bonjour et merci
Merci pour la vidéo ! Je comprends l'aspect vulgarisation au max mais résultat tu survoles beaucoup de sujets.
En fait, si la question c'était vraiment "est-ce qu'une tour à 10k est utile ?" , il aurait fallu faire un comparatif des mêmes 5 tâches entre Claude / OpenAI, une carte graphique grand public et la tour à 10k.
Là, j'ai l'impression que la vidéo répond surtout à la question "est-ce que l'IA locale est utile ?" et pour le coup, pas besoin d'avoir une tour à 10k, moi je peux exécuter toutes les tâches de la vidéo sur ma 3080.
Donc ça peut fausser la représentation de l'IA locale pour les non-initiés, comme s'il fallait absolument investir énormément alors que non, on commence même à en avoir sur les smartphones.
Es ce que tu pourras faire une vidéo sur toute l'instalation que tu a montré dans cette vidéo stp 🙏🙏🙏
Je t'aime bien mais stp arrête les concepts IA même si ça marche
Un truc cool ça aurait été de faire comme en entreprise : plusieurs personnes utilisent le workflow
Combien max ? Niveau latence c’est comment ?
Arrêter de comparer les modèles locaux vs les modèles frontières même avec 32giga de vram il faut des modèles de >120b
C'est vrai qu'il y a une réelle valeur ajoutée, d'un point de vue économique à fabriquer des images… Bon c'est un peu cher à 10K€ mais quand on aime