« PC IA ? Non, je ne sais pas ce que c’est. » On l’aura – très – souvent entendu aux journées B2B du salon Viva Tech. Nous avions choisi l’événement pour « prendre la température » sur ce concept vieux comme ChatGPT ou presque.

Quelques semaines après le lancement du chatbot, le CES 2023 avait effectivement donné un premier élan. Par exemple avec l’annonce de Ryzen AI. Le mouvement s’était accéléré en 2024, lorsque Microsoft avait lancé le label « Copilot+ PC ».

Pour en bénéficier, une machine doit, en particulier, embarquer un NPU suffisamment puissant. AMD, Intel, Qualcomm : la bataille des TOPS Les NPU (Neural Processing Units) sont des processeurs spécialisés dans les multiplications de vecteurs et de matrices, opérations fondamentales au sein des réseaux de neurones. Ils les traitent plus efficacement que les GPU, en contrepartie d’une moindre flexibilité et surtout d’un outillage encore bien moins mature.

Lire aussi : Ceci n'est pas un PC Copilot+ : Microsoft relance des Surface 8 Go Leurs performances sont traditionnellement communiquées en TOPS. C’est-à-dire en milliers de milliards d’opérations par seconde… en simple précision (entiers 8 bits), alors que les GPU travaillent généralement en virgule flottante. Le label « Copilot+ PC » impose un seuil à 40 TOPS.

Au départ, seul Qualcomm l’atteignait, avec ses puces Snapdragon X. AMD et Intel s’aligneraient quelques mois plus tard avec, respectivement, Strix Point et Lunar Lake-V. AMD à 60 TOPS avec les Ryzen AI 400 La famille Strix Point fut annoncée en juillet 2024.

Elle comprend essentiellement la gamme Ryzen AI 300, destinée aux notebooks, avec un TDP de base de 28 W. AMD y a intégré la deuxième génération de ses NPU XDNA, basés sur la technologie de Xilinx (acquis en 2022). Il les annonce à 50 TOPS.

Avec les Ryzen AI 400 (Gorgon Point, 28 W également), annoncés en janvier 2026, le seuil a été relevé à 60 TOPS. © AMD Intel à 45 TOPS avec les Core Ultra 200V La famille Lunar Lake-V, lancée en septembre 2024, cible aussi les notebooks (17-30 W), sous la marque commerciale Core Ultra 200V. Intel y a intégré un NPU à 45 TOPS également fruit d’une acquisition (Movidius, 2016). C’est pour le moment une exception à son catalogue.

Ses autres processeurs Core Ultra Série 2 en restent à : 12 TOPS NPU pour Arrow Lake-U (15 W) 13 TOPS NPU pour Arrow Lake-H (28-45 W) 13 à 36 TOPS NPU pour Arrow Lake-S (35-125 W) © Intel Qualcomm à 45 TOPS avec les Snapdragon X… et 85 avec les X2 Avec les Snapdragon X (Elite annoncés en octobre 2023, puis Plus en avril 2024), Qualcomm est aussi à 45 TOPS, pour des TDP de base entre 23 et 35 W. Depuis, il est passé à 80 avec les Snapdragon X2 Plus (janvier 2026) et 85 avec les X2 Elite (septembre 2025). © Qualcomm Récapitulatif sur les dernières générations de processeurs mobiles : Plate-forme Puissance NPU maximale Ryzen AI 300 50 TOPS Ryzen AI 400 60 TOPS Core Ultra 200V 45 TOPS Snapdragon X 45 TOPS Snapdragon X2 85 TOPS La mémoire unifiée, adoptée mais pas systématisée sur les PC IA Au-delà de la puissance pure du NPU, l'exécution des modèles d'IA est tributaire de la quantité de mémoire. Mais aussi de sa bande passante.

Pour accroître cette dernière, des architectures unifiées ont émergé : à l'instar de ce qui se fait sur Apple Silicon, la RAM est placée sur le SoC et partagée entre tous les processeurs. AMD l'a implémenté dans les puces Halo ; pas dans les Point. Intel ne l'a intégré que dans les Lunar Lake-V… en attendant peut-être Razor Lake, destiné à concurrencer les Halo.

En bande passante mémoire, Apple garde une longueur avec ses dernières puces (153 Go/s sur la M5 ; 307 Go/s sur la M5 Pro ; 614 Go/s sur la M5 Max). © Apple Chez Qualcomm, tous les Snapdragon X ont de la mémoire unifiée. Au fil des générations, la bande passante théorique croît en conséquence de l'intégration de mémoire plus rapide. Les X Plus et Elite, avec leur LPDDR5X-8448, atteignent 135 Go/s sur le papier.

La génération X2 passe à 152 Go/s avec sa LPDDR5X-9523. Les X2 Elite Extreme font même mieux (228 Go/s) grâce à un bus 192 bits. Lire aussi : Siri AI : une inflexion qui dépasse la bascule de ChatGPT à Gemini En termes de capacité mémoire maximale, AMD a mis la barre à 128 Go sur Strix Halo, 192 Go sur Gorgon Halo et 256 Go sur Strix Point / Gorgon Point.

Chez Intel, c'est 32 Go pour Lunar Lake-V et 96 Go sur les Arrow Lake. Qualcomm est à 32 Go pour le X Plus, 64 Go pour le X Elite et 128 Go pour les autres. Pour l’ensemble de ces plates-formes, la quantité de mémoire exploitable en tant que VRAM varie en fonction des BIOS et des systèmes d’exploitation.

Récapitulatif : Plate-forme Capacité mémoire maximale Ryzen AI 300 / 400 256 Go Lunar Lake-V 32 Go Snapdragon X / X2 32 Go (X Plus) 64 Go (X Elite) 128 Go (X2 Plus et Elite) OpenVINO, Ryzen AI, QAIRT... Autant de toolkits que de NPU Ce qui varie aussi beaucoup, c'est le modèle de programmation des différents NPU : à chacun sa boîte à outils, là ou « GPU » est largement synonyme de « CUDA ». Chez Intel, les NPU sont inclus aux côtés des CPU, des GPU et des FPGA dans le toolkit OpenVINO.

Celui-ci a été doté d’extensions spécifiques aux modèles génératifs (quantification, encapsulation du cache clé-valeur, exécution spéculative…). Intel lui a adjoint un catalogue de modèles prêts à l’emploi sur ses NPU. On y trouve du ML classique (MobileNet pour détecter des objets, AlexNet pour classer des images…) et des LLM (généralement moins de 10B : Gemma 7B, Llama-3.2-1B, Phi 2…).

En plus de la compatibilité Windows, un pilote Linux est disponible à partir du noyau 6.6. Chez AMD, la pile Ryzen AI Software (pour Windows et Linux) s'appuie sur le runtime ONNX, là aussi doté d'extensions GenAI. Le SDK Lemonade offre une couche d'abstraction, avec une API Python et une interface serveur (API REST).

À plus bas niveau, il y a une API C++ qui permet notamment l'exécution hybride des modèles génératifs (utilisation du NPU pour la phase de préremplissage et du GPU pour le décodage). AMD a également un catalogue de modèles prêts à l'emploi. Certains optimisés pour la longueur de contexte (fenêtre de 16k), d'autres pour la performance (en échange d’une fenêtre réduite à 4k).

Au serveur Lemonade peut se greffer un back-end spécifique aux NPU XDNA : FastFlowLLM. Il gère Linux depuis peu. © AMD Qualcomm développe ses NPU sous la marque Hexagon, qu'il utilisait déjà depuis 2007 pour ses DSP (processeurs de traitement des signaux). Un choix pas anodin : pour lui, les premiers descendent des seconds. C'est simplement « l'architecture qui a changé » (fusion des unités de calcul scalaire, vectoriel et matriciel, avec mémoire partagée).

Le toolkit pour les programmer s'appelle QAIRT (Qualcomm AI Runtime). Il comprend, au plus bas niveau de la pile, des interfaces C et C++. Au plus haut niveau, un SDK Neural Processing.

Entre les deux, un autre SDK, plus granulaire avec par exemple des bibliothèques par accélérateur, mais qui abstrait des éléments comme le partitionnement réseau. Une passerelle avec Amazon SageMaker existe pour le fine-tuning avant déploiement local. Foundry on Windows, promesse d'un socle commun pour l'IA locale Microsoft tente d'unifier les choses avec Foundry on Windows (ex-Copilot Runtime).

Sous cette bannière, il pousse trois options pour l'IA locale* : des API, des LLM prêts à l'emploi et le framework d'inférence Windows ML. Lire aussi : Windows sur Arm : NVIDIA entre officiellement dans la danse Les API - une dizaine - permettent la reconnaissance vocale, l'OCR, le traitement d’images (description, segmentation, upscaling…) et l'accès au LLM Phi Silica de Microsoft - avec des optimisations pour les NPU, comme la compression des requêtes. Principalement réservées aux Copilot+ PC, elles ont d'abord ciblé exclusivement les NPU.

Elle commencent à s'ouvrir aux CPU (speech-to-text et upscaling vidéo) et aux GPU (Phi Silica). Les modèles correspondants sont téléchargés à l’exécution et ensuite partagés entre les applications. Lesquelles ne sont, par ailleurs, pas obligées de packager de runtimes ou de pilotes.

La deuxième option, dite Foundry Local, permet de surentraîner Phi Silica avec la méthode LoRA. Elle donne aussi accès, y compris sur les PC Windows 10, à quelques dizaines de LLM ouverts (pesant de 100 Mo à environ 10 Go) préoptimisés. Seuls quelques-uns le sont pour les NPU.

Il s'agit essentiellement de modèles Phi (3 Mini, 4 Mini, 4), Qwen (Coder, Instruct) et DeepSeek (R1-Distill-Qwen-7B). Les autres s'exécutent sur (Web)GPU et éventuellement sur CPU (Ministral, Nemotron, Olmo…). Windows ML est une distribution du runtime ONNX.

Succédant à l'API DirectML, il automatise la sélection de la puce adéquate pour l'inférence, la récupération des fournisseurs d'exécution (abstractions des back-ends) et le maintien à jour de l’ensemble via Windows Update. L’exécution des modèles génératifs y est officiellement encore en preview. Forces et faiblesses des NPU En 2024, peu après le lancement des premiers Copilot+ PC, une étude de l’université de Californie du Sud sur un SoC Intel avait mis en lumière les points forts et les points faibles des NPU.

Elle les avait comparés aux CPU et aux GPU sur deux disciplines. D'un côté, l’algèbre linéaire (produit matriciel, produit scalaire et produit matrice-vecteur). De l'autre, les réseaux de neurones, avec classification de vidéos (MobileNetV2), analyse de séries chronologiques (réseau LTSM non spécifié) et traitement du langage naturel (TinyLlama).

L'accès direct à la mémoire a des avantages... L'accès direct à la mémoire a donné au NPU une belle longueur d'avance dans le calcul des produits matrice-vecteur, la réutilisation de données étant minimale. Même situation pour les produits scalaires, a fortiori vu le poids de la synchronisation finale. © Rakshith Jayanth, Neelesh Gupta, Viktor Prasanna En revanche, sur les produits matriciels, le GPU a pris l'avantage au-delà d’une certaine taille de matrice, l'opération devenant de plus en plus dépendante de la capacité de calcul. © Jayant et al. ... et des inconvénients Pour la classification vidéo, en précision simple ou double (INT8 ou FP16), le NPU a l'avantage lorsqu'on est sur du traitement séquentiel.

Par lots, le rapport s'inverse à partir d’un batch size de 8. Avec le LTSM, le GPU est nettement meilleur. L'irrégularité des accès mémoire handicape le NPU, qui doit rafraîchir à chaque fois son mapping DMA. © Jayanth et al.

Le NPU reprend l'avantage avec TinyLlama. Il n'est pas à son aise sur la phase de préremplissage, dominée par des multiplications matricielles. Mais le gros des opérations se trouve sur la phase de décodage, quant à elle riche en produits matrice-vecteur.

Les NPU, pas fans du traitement par lots Le problème des accès mémoire irréguliers se retrouve dans un comparatif plus récent (juin 2026). Support de test : un système embarqué avec NPU Hexagon et GPU Ada. On y a fait tourner Qwen-2.5-7B et Llama-3-8B (ainsi qu’une variante 3B distillée).

Tant qu’on traite des inputs fixes, le NPU est plus performant. Ou plus économique, selon le point de vue (- 60 % d’énergie par rapport au GPU à débit égal). Les choses changent quand on passe sur des entrées de longueur variable (32 à 2048).

En INT8, la performance du GPU baisse de 12 %... contre 41 % pour le NPU. Un effet accentué quand on ajoute l'aspect traitement par lots : avec un batch size de 16, le GPU conserve 78 % de son débit séquentiel, tandis que le NPU tombe à 34 %. La faute notamment à une mauvaise gestion du padding : face à des tenseurs hétérogènes, l'exécution passe en séquentiel, avec reconfiguration interne entre les requêtes.

Génération de texte sur NPU : combien de tokens par seconde ? FastFlowLLM a fait ses propres mesures, en génération de texte, sur une APU Ryzen AI 350 à 32 Go de RAM. Les fenêtres de contexte ont été limitées par le fait que le NPU ne pouvait pas accéder à plus de 50 % de la mémoire système. On rappellera qu'un token = ¾ de mot, d'après le décompte d'OpenAI.

Les résultats sur la phase de décodage : Modèle Débit maximal (fenêtre de contexte) Débit minimal (fenêtre de contexte) LLaMA 3 1B 64,5 tokens/seconde (1k) 13,6 tokens/seconde (128k) LLaMA 3 3B 26,3 tokens/seconde (1k) 9 tokens/seconde (64k) LLaMA 3 8B 12,8 tokens/seconde (1k) 8,5 tokens/seconde (32k) Gemma 4 E2B 22,6 tokens/seconde (1k) 10,1 tokens/seconde (32k) Gemma 4 E4B 12,6 tokens/seconde (1k) 9 tokens/seconde (32k) Qwen-3.5-0.8B 39,2 tokens/seconde (1k) 21,6 tokens/seconde (32k) Qwen-3.5-2B 26,8 tokens/seconde (1k) 17 tokens/seconde (32k) Qwen-3.5-4B 15 tokens/seconde (1k) 9,6 tokens/seconde (32k) Qwen-3.5-9B 9,3 tokens/seconde (1k) 6,9 tokens/seconde (32k) gpt-oss-20b 18,2 tokens/seconde (1k) 5,7 tokens/seconde (128k) Phi-4-mini 21,8 tokens/seconde (1k) 11,2 tokens/seconde (32k) Audio, graphisme, cybersécurité, accessibilité... Les logiciels s'emparent des NPU Tous ces résultats en témoignent : avec leur pipeline plus rigide que celui des GPU, les NPU se prêtent avant tout aux charges de travail dont les patterns sont prévisibles. Les éditeurs de logiciels ont œuvré dans ce sens.

Par exemple : Norton pour la détection des deepfakes audio Adobe pour la catégorisation des contenus audio dans Premiere Pro © Adobe Moises pour la séparation de voix et d'instruments © Moises CapCut pour le sous-titrage, la synthèse vocale et la suppression d'arrière-plan Blender pour un plug-in de conversion 2D 3D Capture One pour le détourage, la retouche de visage et l'étalonnage des couleurs Cephable pour ses technologies d’assistance (contrôle vocal et gestuel) Microsoft a suivi la même logique, en se concentrant sur des tâches « temps réel », sensibles à la latence. Tout particulièrement pour la communication (« effets Windows Studio »). Certaines fonctionnalités sont réservées aux Copilot+ PC (flou de portrait, focus vocal, filtres créatifs…).

D'autres sont disponibles avec les NPU de la « génération 10 TOPS » (floutage d'arrière-plan, cadrage automatique, correction du regard…). © Microsoft Les fabricants de PC IA intègrent leurs propres services - parfois à base de NPU Les principaux fabricants de PC ont leur propre déclinaison de ces fonctionnalités. Illustration chez Acer, qui les propose sous les marques Purified View et Purified Voice. Il tire aussi parti de l’efficacité énergétique des NPU pour effectuer une tâche continue en arrière-plan : la détection de présence (User Sensing).

Avec trois usages : verrouiller/déverrouiller automatiquement le PC, rappeler à l’utilisateur de prendre une pause après un certain temps passé devant l’écran et l'avertir s'il n'est pas à bonne distance. © Acer Le catalogue « IA locale » d'Acer inclut aussi de la création d’images et un assistant généraliste à base de LLM. Mais ces fonctionnalités exigent un GPU. © Acer ASUS a opéré une segmentation similaire. Des fonctionnalités comme la suppression de bruit, la luminosité adaptative se contentent du NPU. Alors que StoryCube (gestion multimédia) et MuseTree (génération d’images) nécessitent au minimum une carte GeForce RTX 4050. © ASUS Des studios de développement...

Sur son microsite dédié aux PC IA, ASUS communique d’ailleurs les TOPS GPU en plus de ceux du NPU. Il met aussi en avant son toolkit d'inférence AI SuperBuild, développé avec Intel et validé sur ses NUC. Permettant de convertir, de déployer et d’évaluer des modèles, il inclut la gestion de bases de connaissances et une marketplace de serveurs MCP. © ASUS Dell a aussi son toolkit : Dell Pro AI Studio.

Il expose des API compatibles OpenAI et donne accès à un catalogue de modèles optimisés. Certains pour les GPU (Devstral Small, Gemma 3, Granite 4…), d'autres pour les NPU (CLIP, Whisper, Phi 4…). S'y ajoignent deux guides de référence pour développer sur NPU.

L'un traite de la recherche vocale d’images avec CLIP et Whisper. L'autre, du RAG avec LLaMA, LangChain, Chroma et Nomic. © Dell ... et des « ChatGPT locaux » Pas de tel attirail chez HP. Mais, pour l'utilisateur final, un service référent : AI Companion.

Il réunit trois briques : chatbot à usage général, gestion de connaissances et optimiseur de performance (accompagné d'une assistance à l’ajustement des paramètres et au dépannage). Réservé aux Copilot+ PC, il a un mode cloud (GPT-4o) et un mode local (Phi 3.5) qui nécessite 32 Go de RAM. © HP Depuis cette année se diffuse, sous la marque HP IQ, une approche moins liée aux Copilot+ PC. Elle reprend l'aspect chatbot et analyse de fichiers, y ajoutant une composante de prise de notes, une « mémoire organisée » fondée sur l’historique des interactions… et plus globalement une forme d'orchestration.

Celle-ci se manifeste en une UI censée faire remonter les « actions et contrôles pertinents », avec gpt-oss-20b en back-office. © HP Chez Lenovo, le « compagnon IA » s'appelle AI Now. Reposant sur LLaMA 3 pour la partie locale, il nécessite un GPU (intégré avec 24 Go de VRAM ou dédié avec 16 Go). Il reprend le triptyque chat / base de connaissances / paramétrage du PC.

Plusieurs services IA plus « spécialisés » en dépendent. Par exemple Learning Zone (aide à l'apprentissage : transcription, synthèse, création de quiz…). © Lenovo NVIDIA, un quatrième larron attendu à l'automne dans les PC IA Le serveur d'inférence Llama.cpp gère depuis peu les NPU Intel à travers le back-end OpenVINO. La prise en charge des NPU de Qualcomm reste expérimentale.

Elle est au contraire effective sur AnythingLLM, à commencer par le modèle d’embedding utilisé par défaut. NVIDIA travaille avec llama.cpp pour activer des optimisations spécifiques de type décodage spéculatif (prédiction multitoken)... en vue de son arrivée sur le segment des PC IA. Ce devrait être à l'automne 2026, avec la puce RTX Spark.

Issue d'une collaboration avec MediaTek, elle associe CPU Grace, GPU Blackwell RTX et mémoire unifiée (jusqu'à 128 Go). Pas de NPU à proprement parler, donc. Ce mouvement fait écho à celui d'Apple, qui, pour ses puces M5, a intégré un accélérateur neuronal dans chaque cœur GPU. © NVIDIA Revendiquant une puissance théorique d'un pétaflops (en précision 4 bits), NVIDIA promet une « IA agentique locale ».

Dans cette optique, il a associé des primitives de sécurité à son runtime OpenShell. Et étendu la disponibilité de son blueprint NemoClaw. Copilot, mais pas que : Microsoft décentre (un peu) sa vision L'évolution de Copilot Runtime vers Foundry on Windows marque une certaine ouverture, à la fois à d'autres machines que les Copilot+ PC et à d'autres services IA que ceux de Microsoft.

Ce dernier a même commencé à supprimer, sur Windows, des points d'entrée vers Copilot (bloc-notes et outil de capture d'écran, par exemple). Et fourni aux entreprises une GPO pour désinstaller l'assistant. Il a aussi promis une mise à jour qui permettra de remapper la touche Copilot sans avoir à passer par des outils tiers comme PowerToys ou AutoHotKey. * Microsoft pousse aussi, avec Intel, l'API WebNN.

Elle utilise ONNX Runtime Web ou LiteRT.js. Configuration minimale : un processeur Core de 11e génération (Tiger Lake) et 8 Go de mémoire. Illustration principale générée par IA