Actualité : Un avocat assemble huit anciennes cartes Nvidia Tesla V100 pour garder les dossiers de ses clients hors du cloud et faire tourner sa propre IA basée sur DeepSeek au bureau
Un avocat américain spécialisé dans les litiges civils a détaillé sur Reddit comment il fait tourner sa propre intelligence artificielle dans son cabinet, afin que les dossiers de ses clients ne transitent pas par le cloud. Son serveur réunit huit cartes Nvidia Tesla V100 de 32 Go, des accélérateurs pour centres de données de la génération Volta, commercialisée en 2018, soit 256 Go de mémoire vidéo au total. Il les a acquises en deux lots de quatre pour environ 2 400 $ chacun, soit près de 4 800 $. La machine comprend aussi un processeur AMD Threadripper Pro, de la mémoire DDR4 et deux alimentations branchées sur des circuits électriques ordinaires du bureau. Elle exécute une version compressée de DeepSeek V4.1 Flash, dont la précision de calcul est réduite pour économiser de la mémoire. Il a mesuré jusqu'à 215 tokens par seconde sur certaines tâches de programmation, mais seulement environ 118 sur des textes juridiques, le modèle anticipant sa réponse et le code étant plus prévisible que la prose.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Les Numériques IA. Lire l'article original →
Au quotidien, le juriste demande à ce serveur de retrouver des faits, des dates et des montants dans ses dossiers, et lui fait rédiger des résumés ou certains brouillons. Il relit systématiquement chaque production avant de l'utiliser. Selon sa propre estimation, 50 à 60 % de ses usages habituels de l'IA peuvent être assurés par cette installation locale. Le projet n'a pas été sans difficultés : la machine a connu des redémarrages et des erreurs de mémoire, et il a découvert un connecteur d'alimentation endommagé, ce qui l'a conduit à ajuster plusieurs réglages de consommation et de refroidissement. Le 14 novembre 2026, il a décrit une évolution avec davantage de mémoire vive et une carte RTX 3090 : les réponses sont plus précises, mais la vitesse est retombée à environ 150 tokens par seconde sur le code et 105 sur les textes juridiques.
Cet exemple illustre une tendance concrète : des professions tenues au secret, comme les avocats, peuvent se doter d'une IA performante sans confier leurs données à un fournisseur extérieur. Pour un cabinet, la confidentialité des échanges avec les clients est une obligation déontologique, et envoyer des pièces de dossier vers un service en ligne soulève des questions de conservation et d'accès par des tiers. Un investissement de quelques milliers de dollars, très inférieur au coût des accélérateurs récents de Nvidia, rend l'option accessible à de petites structures. Les limites restent réelles, entre fiabilité du matériel, maintenance, vitesse modérée et nécessité d'une vérification humaine systématique, ce qui explique que seule une partie des tâches puisse être transférée.
Ce bricolage s'inscrit dans un contexte où les modèles à poids ouverts, comme ceux de DeepSeek, progressent vite et où le marché de l'occasion propose des cartes professionnelles de génération antérieure à prix réduit, grâce au renouvellement des parcs dans les centres de données. Il alimente le débat sur l'équilibre entre IA hébergée par les grands acteurs du cloud et IA exécutée en local, notamment dans les métiers soumis à des règles strictes de protection des données. L'évolution de sa configuration, avec l'ajout d'une RTX 3090, montre aussi que ces montages restent en constante adaptation, au prix d'arbitrages entre précision et rapidité. Reste à savoir si des solutions clés en main, plus simples et plus robustes, émergeront pour les cabinets qui souhaitent suivre la même voie sans devenir eux-mêmes administrateurs système.
Les cabinets et professions soumis au secret en Europe peuvent s'inspirer de ce modèle d'IA locale pour concilier confidentialité des données et exigences du RGPD.