Faut-il un NPU ou un GPU pour dicter en local avec l'IA ?

Cherchez « gpu pour whisper » et vous ne trouverez presque que des guides de déploiement serveur, pensés pour des développeurs qui hébergent une API de transcription — rien pour quelqu'un qui se demande simplement si son propre PC peut le faire. Pendant ce temps, le marketing des PC Copilot+ de Microsoft a discrètement convaincu beaucoup de monde que l'IA locale a besoin d'une puce précise : un NPU (Neural Processing Unit) évalué à plus de 40 TOPS — que la plupart des machines n'ont tout simplement pas.

Voici la réponse directe : vous n'avez besoin ni d'un PC Copilot+, ni d'un NPU. Si votre machine a une carte graphique — NVIDIA, AMD ou Intel — vieille de huit ans tout au plus, il y a de très fortes chances qu'elle fasse tourner Whisper, le modèle de reconnaissance vocale derrière la plupart des outils de dictée locale, en temps réel. Le NPU d'un PC Copilot+ est conçu pour un ensemble restreint de fonctionnalités Windows. Ce n'est pas la puce qui fait ce travail, et la plupart des logiciels d'IA locale — dont le moteur whisper.cpp qui fait tourner les apps de dictée locale — n'y touchent jamais.

De quoi Whisper quantisé a-t-il vraiment besoin côté GPU ?

Whisper large-v3-turbo est une version distillée du modèle large-v3 d'OpenAI — même encodeur, mais un décodeur réduit de 32 à 4 couches — ce qui explique qu'il tourne environ 8 fois plus vite que le modèle complet, tout en gardant une précision quasi identique. En nombre de paramètres, cela représente environ 809 millions : un petit modèle selon les standards de 2026, une fraction de la taille d'un LLM de chat local même modeste.

La version en pleine précision que fait tourner whisper.cpp demande de l'ordre de quelques gigaoctets de VRAM. Quantisée — la même compression int8/int5/int4 qui fait passer le modèle large-v3 complet d'environ 3,1 Go à moins de 1 Go sur le disque — cette empreinte se réduit encore davantage, largement dans les capacités qu'embarque une carte gamer milieu de gamme depuis la majeure partie de la dernière décennie. C'est pourquoi la vraie contrainte pour une dictée en temps réel n'est presque jamais la capacité de VRAM. Ce qui compte, c'est que le GPU dispose d'un pilote de calcul fonctionnel et assez récent — une question de Vulkan, pas de génération de GPU.

Pourquoi Vulkan change tout — NVIDIA, ET AMD, ET Intel

La plupart de ce qui s'écrit sur Whisper accéléré par GPU suppose CUDA, parce que c'est surtout écrit pour des développeurs qui déploient sur des cartes NVIDIA de data center. Or CUDA est propriétaire à NVIDIA — si vous possédez un GPU AMD ou Intel, un guide centré sur CUDA est une impasse.

whisper.cpp — le moteur C++ sur lequel s'appuient Inkvox et la plupart des apps de dictée locale — n'a pas cette limite. Sa propre documentation liste quatre chemins d'accélération distincts : CUDA pour NVIDIA, ROCm/HIP pour AMD, OpenVINO pour certains déploiements Intel, et Vulkan, décrit comme l'option agnostique au fabricant qui fonctionne sur les GPU NVIDIA, AMD et Intel via une seule API au niveau du pilote. Vulkan est celui qui compte pour une app grand public : il tourne sur le GPU déjà présent dans la machine, sans kit logiciel propriétaire à installer.

Ce n'est pas théorique. Des développeurs qui ont bâti d'autres outils whisper.cpp accélérés par Vulkan ont rapporté une transcription à près de 8 fois le temps réel sur une Radeon RX 9070 XT une fois le support Vulkan branché — aucune carte NVIDIA impliquée. Les GPU intégrés Intel fonctionnent généralement de la même façon, via le même chemin de pilote Vulkan, même si sur des iGPU Intel plus anciens ou moins puissants, le support des fonctionnalités de calcul peut être assez inconsistant pour que le logiciel bascule automatiquement sur le CPU plutôt que d'accélérer.

Inkvox utilise ce même chemin Vulkan. C'est pour ça que l'app tourne sur les GPU NVIDIA, AMD et Intel à partir d'un seul build Windows, sans téléchargement séparé par fabricant et sans kit CUDA à installer.

Faut-il un NPU pour la dictée IA locale ?

Non — et c'est précisément là que le marketing des PC Copilot+ brouille la question. La documentation développeur de Microsoft elle-même définit le tier Copilot+ PC autour d'un NPU capable de plus de 40 téraopérations par seconde (TOPS), associé à au moins 16 Go de RAM. Ce NPU est du vrai matériel qui fait un vrai travail — mais il est cantonné à une liste précise de fonctionnalités Windows propriétaires : Recall, la traduction de sous-titres en direct, Windows Studio Effects et Click to Do. Ces fonctionnalités passent par les modèles ONNX de Microsoft, routés vers des fournisseurs d'exécution propres à chaque fabricant — QNN de Qualcomm, OpenVINO d'Intel — pas par un chemin générique qu'une app tierce pourrait simplement venir brancher.

Cette distinction compte, parce que les outils grand public qui font vraiment tourner des modèles d'IA locale pour vous — Ollama, llama.cpp, LM Studio, et le moteur whisper.cpp sur lequel s'appuient les apps de dictée — ne passent pas du tout par le NPU, à la mi-2026. Ils ciblent le GPU, via Vulkan, ROCm ou Metal, ou bien le CPU. Faire tourner un modèle sur le NPU suppose au contraire de le convertir à la main en ONNX et de le compiler pour un SDK propriétaire — un chemin de spécialiste, que whisper.cpp ou Ollama ne prennent pas en charge par défaut.

Le score TOPS du NPU d'un PC Copilot+ ne dit donc rien de la vitesse de dictée. Ce qui la détermine vraiment, c'est le GPU installé juste à côté du NPU — et sur beaucoup d'ultrabooks Copilot+ fins et sans ventilateur, ce GPU est un modèle intégré modeste, pas une carte dédiée. Un PC portable gamer de cinq ans avec un GPU dédié milieu de gamme transcrira généralement plus vite qu'un PC Copilot+ tout neuf sur cette tâche précise, parce que ce qui compte ici, c'est la puissance de calcul du GPU et le support de son pilote, pas le score TOPS.

Compatibilité indicative par classe de matériel

Rien de ce qui suit n'est un benchmark de laboratoire — c'est une cartographie honnête et qualitative, construite à partir des chemins d'accélération documentés par whisper.cpp lui-même et du seul chiffre que nous avons mesuré nous-mêmes.

• GPU NVIDIA, série GTX 10 ou plus récente (RTX 20/30/40/50) — Vulkan ou CUDA. Temps réel, confortablement : sur une RTX 3070, Inkvox transcrit une phrase en ~0,3-0,4 s, soit environ 27 fois le temps réel.
• GPU AMD, série RX 500 ou plus récente (RX 6000/7000/9000) — Vulkan (ROCm/HIP également disponible). Temps réel sur les cartes récentes — des développeurs ont mesuré près de 8 fois le temps réel sur une RX 9070 XT avec whisper.cpp accéléré par Vulkan.
• Graphismes intégrés Intel (Iris Xe / Arc récents) — Vulkan. Temps réel exploitable sur la plupart ; une minorité d'iGPU Intel plus anciens ou moins puissants n'ont pas un support complet du pilote de calcul et basculent sur le CPU.
• NPU de PC Copilot+ seul, sans GPU dédié capable — pas du tout utilisé par whisper.cpp. Bascule sur le GPU intégré de la machine ou sur le CPU — tout dépend de cette puce, pas du score TOPS du NPU.
• Aucun GPU compatible / matériel ancien — repli CPU. Ça fonctionne. Plus lent que le temps réel sur de l'audio long ; très bien pour de courtes salves de dictée.

Pas de GPU compatible ? Le repli CPU

Chaque app basée sur whisper.cpp, Inkvox y compris, bascule automatiquement sur un chemin CPU quand aucun GPU utilisable n'est présent — rien ne casse, la dictée tourne juste plus lentement. C'est le filet de sécurité, pas l'expérience visée : toute la raison d'être du support Vulkan est justement d'éviter ce chemin CPU pour la grande majorité des machines qui n'en ont pas besoin.

La question n'est pas « ai-je besoin d'un PC Copilot+ pour dicter en local ? » C'est « mon GPU supporte-t-il Vulkan ? » — et pour presque toute personne qui lit ceci sur une machine achetée dans la dernière décennie, la réponse est oui.

Si vous comparez plus largement les options de dictée hors ligne sur Windows, voici le tableau complet de la saisie vocale locale. Si vous pesez Inkvox spécifiquement face à un autre outil local, découvrez comment il se positionne comme alternative à SuperWhisper sur Windows. Et si vous voulez simplement voir la vitesse de vos propres yeux, les chiffres sont sur la page d'accueil — ou rejoignez la liste d'attente pour l'essayer sur votre propre GPU, quel qu'il soit.

Questions fréquentes

Whisper peut-il tourner sur des GPU AMD ?

Oui. whisper.cpp, le moteur derrière la plupart des apps de dictée locale, prend en charge les GPU AMD via Vulkan (universel, fonctionne d'emblée) et via ROCm/HIP pour une accélération plus poussée spécifique à AMD. Des développeurs ont rapporté une transcription à près de 8 fois le temps réel sur une Radeon RX 9070 XT avec whisper.cpp accéléré par Vulkan. Inkvox utilise le chemin Vulkan, donc les GPU AMD sont pris en charge de la même façon que les GPU NVIDIA.

Ai-je besoin d'un NPU ?

Non. Le NPU d'un PC Copilot+ accélère un ensemble précis de fonctionnalités Windows propriétaires de Microsoft (Recall, traduction de sous-titres en direct, Windows Studio Effects) via des modèles ONNX et des fournisseurs d'exécution propres à chaque fabricant. La transcription Whisper locale passe par whisper.cpp sur le GPU via Vulkan — un chemin séparé que les outils d'IA locale grand public ne font jamais passer par le NPU. Une machine sans NPU dicte tout aussi bien qu'un PC Copilot+ à plus de 40 TOPS, du moment qu'elle a un GPU compatible Vulkan.

De quel GPU ai-je besoin pour une transcription Whisper en temps réel ?

N'importe quel GPU compatible Vulkan 1.3 chez NVIDIA, AMD ou Intel — ce qui couvre la plupart des cartes graphiques et des GPU intégrés sortis dans la dernière décennie. Le modèle large-v3-turbo de Whisper, quantisé, est assez léger pour que la capacité de VRAM soit rarement le facteur limitant ; ce qui décide vraiment, c'est un pilote Vulkan fonctionnel et assez récent.

Un PC Copilot+ dicte-t-il plus vite qu'un PC gamer classique ?

Généralement non, pour cette tâche précise. Les PC Copilot+ sont conçus autour de l'autonomie de batterie et de fonctionnalités Windows réservées au NPU, et beaucoup embarquent un GPU intégré modeste plutôt qu'une carte dédiée. Comme la transcription Whisper tourne sur le GPU, pas sur le NPU, un PC ou portable gamer avec un GPU dédié milieu de gamme transcrira généralement plus vite, quelle que soit la certification Copilot+.