Una NPU (Neural Processing Unit, unitat de processament neuronal) és un xip —o un bloc dins d'un processador— dissenyat específicament per executar els càlculs propis de la intel·ligència artificial, sobretot les multiplicacions de matrius que sostenen les xarxes neuronals. A diferència d'una CPU (propòsit general) o d'una GPU (nascuda per a gràfics i adaptada després a la IA), la NPU està optimitzada des del disseny per a inferència de models: fa aquestes operacions de manera massivament paral·lela amb un consum energètic molt inferior. El seu rendiment brut sol expressar-se en TOPS (bilions d'operacions per segon).
La seva rellevància pràctica és directa: fa viable executar IA en local —en un portàtil, un mòbil, un dispositiu edge o un servidor a les instal·lacions de l'empresa— sense dependre del núvol. Per a una organització això es tradueix en menor latència, cost per inferència més baix i, sobretot, sobirania de la dada: els models i la informació no surten físicament de casa.
Les 5 millors unitats NPU de 2026 i 2027
El 2026–2027 el mercat s'ha ordenat en una escala clara, de la butxaca al datacenter. Aquestes cinc referències la cobreixen sencera.
1. Tiiny AI Pocket Lab — IA personal de butxaca
Presentat al CES 2026, el Pocket Lab de Tiiny AI concentra en 300 grams una CPU ARM v9.2 de 12 nuclis, una NPU discreta d'~160 TOPS (més ~30 TOPS al SoC), 80 GB de LPDDR5X i 1 TB de SSD. Executa LLMs de fins a 120B de paràmetres totalment offline, amb desplegament en un clic de models oberts (GPT-OSS, Llama, Qwen, Mistral), per uns 1.400 €.
2. NVIDIA Jetson AGX Orin / Thor — l'estàndard embedded
En robòtica, visió per computador i indústria, la família Jetson de NVIDIA continua sent la referència: fins a 275 TOPS a l'AGX Orin i un salt generacional amb Thor per a màquines autònomes. El seu avantatge no és només el silici, sinó l'ecosistema de programari més madur del mercat (CUDA, TensorRT, Isaac).
3. Hailo-10H — IA generativa a l'edge amb 3 watts
La Hailo-10H ofereix 40 TOPS INT8 amb 8 GB de RAM dedicada consumint ~3 W. Disponible en mòduls M.2, USB i com a cervell de la Raspberry Pi AI HAT+ 2, porta LLM petits i models de visió a dispositius on abans només hi cabia un microcontrolador. Avui és la relació TOPS/watt a batre en l'edge.
4. Axelera Metis — visió industrial a 214 TOPS
L'europea Axelera AI ataca la visió industrial amb Metis, una AIPU en format M.2/PCIe que ofereix fins a 214 TOPS INT8 amb 3,5–9 W i latències per sota dels 100 ms sense robar RAM al sistema amfitrió: just el que demanen línies de producció, logística i control de qualitat.
5. Qualcomm AI200 i AI250 — la NPU arriba al rack
Les acceleradores AI200 (2026) i AI250 (2027) de Qualcomm, basades en NPU Hexagon a escala de rack, porten la inferència generativa al datacenter amb 768 GB de LPDDR per targeta, refrigeració líquida directa i fins a 160 kW per rack; l'AI250 afegeix computació near-memory amb més de 10× l'amplada de banda efectiva.
La sisena: la unitat NPU en rack de NAiOS
NAiOS Labs està preparant la seva pròpia unitat personalitzada basada en NPU en format rack, dissenyada per muntar-se en datacenters propis i donar servei a la modalitat Dedicat on-site de la plataforma: maquinari d'IA dins de la infraestructura del client (o de NAiOS), amb les dades sempre sota control.
Comparativa ràpida
| Unitat | Format | TOPS (INT8) | Memòria | Consum | Disponibilitat |
|---|---|---|---|---|---|
| Tiiny AI Pocket Lab | butxaca | ~190 | 80 GB LPDDR5X | ~65 W | 2026 |
| NVIDIA Jetson AGX Orin | mòdul embedded | 275 | 64 GB | 15–60 W | disponible |
| Hailo-10H | M.2 / USB | 40 | 8 GB dedicada | ~3 W | disponible |
| Axelera Metis | M.2 / PCIe | 214 | dedicada en targeta | 3,5–9 W | disponible |
| Qualcomm AI200 / AI250 | rack datacenter | escala rack | 768 GB/targeta | fins a 160 kW/rack | 2026 / 2027 |
L'AI250 promet més de 10× l'amplada de banda efectiva amb computació near-memory.
10 casos d'ús generalistes
1. Assistent ofimàtic privat
El cas més immediat: un assistent que redacta correus, resumeix informes, prepara propostes i respon dubtes interns executant-se completament dins de l'empresa. Amb una NPU de gamma mitjana n'hi ha prou per servir un model de 7–14B de paràmetres a desenes d'empleats amb latències inferiors al segon. La diferència respecte a un servei al núvol no rau només en la factura mensual, que desapareix, sinó en el fet que esborranys de contractes, xifres de negoci i comunicacions sensibles mai surten del perímetre corporatiu. Per a departaments que gestionen informació confidencial diàriament —direcció, financer, recursos humans— és la via més curta per adoptar IA generativa sense obrir un front nou de compliment ni dependre de la política de retenció de dades d'un tercer.
2. Cerca semàntica i RAG sobre documentació interna
Tota organització acumula manuals, actes, contractes, wikis i correus que ningú troba quan fan falta. Un sistema RAG (generació augmentada per recuperació) indexa aquest coneixement amb embeddings i respon preguntes en llenguatge natural citant les fonts. És un cas ideal per a NPUs perquè combina dues càrregues lleugeres i constants: vectoritzar documents a mesura que arriben i generar respostes curtes sota demanda. Un equip pot preguntar "¿quina garantia vam signar amb aquest proveïdor el 2024?" i obtenir la clàusula exacta en segons, sense que ni la pregunta ni el contracte passin per servidors aliens. La inversió en maquinari s'amortitza ràpid: el coneixement intern deixa d'estar enterrat i el cost per consulta és pràcticament zero una vegada desplegat.
3. Atenció al client amb xatbots privats
Un xatbot de suport que coneix el catàleg, les polítiques de devolució i l'historial d'incidències pot atendre el 60–80% de les consultes repetitives sense intervenció humana. Executar-lo sobre NPUs pròpies canvia l'economia del cas: el cost marginal per conversa és zero, així que pot oferir-se al web, a WhatsApp i al telèfon sense vigilar el comptador de tòquens. A més, les dades del client —comandes, adreces, reclamacions— es processen en infraestructura pròpia, la qual cosa simplifica el compliment de l'RGPD i evita transferències internacionals de dades. Amb models petits afinats sobre les converses històriques de l'empresa, la qualitat percebuda rivalitza amb solucions al núvol molt més cares, i l'escalat en pics de campanya és qüestió d'afegir una altra targeta.
4. Transcripció i actes de reunions
Els models de veu a text moderns funcionen de meravella en NPUs modestes: una Hailo-10H o la NPU d'un portàtil recent transcriuen en temps real amb precisió professional. El flux complet —transcriure la reunió, identificar parlants, extreure decisions i tasques, redactar l'acta i enviar-la— es pot automatitzar íntegrament en local. Això importa perquè les reunions són del més sensible que produeix una empresa: es parla d'acomiadaments, preus, estratègia i clients amb nom i cognoms. Pujar aquest àudio a un servei extern és un risc que molts comitès de direcció no volen assumir; processar-lo a la sala, literalment al dispositiu que grava, l'elimina d'arrel i converteix cada reunió en coneixement cercable.
5. Traducció corporativa multilingüe
Per a empreses que operen en diversos mercats, la traducció és un degoteig constant: fitxes de producte, contractes, suport, documentació tècnica. Els models de traducció actuals caben amb folgança en una NPU d'escriptori i produeixen qualitat professional en els parells d'idiomes habituals. Executar-los en local permet traduir documents confidencials —contractes en negociació, patents, ofertes— sense exposar-los a serveis externs, i fer-ho per lots massius sense cost per paraula. A NAiOS ho vivim de primera mà: el nostre propi motor tradueix automàticament blog i web a quatre idiomes. Combinat amb glossaris de terminologia corporativa, el resultat manté la veu de marca i la consistència tècnica que els traductors genèrics al núvol no garanteixen.
6. Business intelligence conversacional
Preguntar "¿com van les vendes de la zona est contra l'objectiu del trimestre?" i rebre la resposta amb la seva gràfica, en comptes d'esperar que algú munti el dashboard, és el salt que la IA generativa aporta al BI. Un model local amb accés a la base de dades analítica tradueix llenguatge natural a SQL, executa la consulta i explica el resultat. Que això passi sobre NPUs pròpies és gairebé obligatori: les dades financeres i comercials agregades són la joia de la corona, i cap responsable de dades vol enviar-les a una API externa consulta a consulta. Amb una unitat tipus Pocket Lab o un servidor edge, cada directiu té un analista disponible les 24 hores que a més mai filtra informació.
7. Copilot de programació en local
Els assistents de codi ja són l'eina de productivitat estàndard en desenvolupament, però enviar el repositori a un tercer és inassumible per a banca, defensa, sanitat o qualsevol empresa amb propietat intel·lectual valuosa en el seu programari. Els models de codi obert de 7–30B de paràmetres ofereixen autocompletat, generació de tests i explicació de codi amb una qualitat molt competitiva, i una NPU amb memòria suficient —el Pocket Lab amb els seus 80 GB, un Jetson ben dimensionat— els serveix a tot un equip de desenvolupament. El copilot coneix el codi propietari sense que aquest surti de l'edifici, pot afinar-se sobre les convencions internes de l'equip i funciona igual a l'oficina que en un entorn aïllat sense sortida a internet.
8. Automatització documental: OCR i extracció
Factures, albarans, DNI, nòmines, formularis: la burocràcia d'entrada de qualsevol empresa. La combinació d'OCR modern i models de llenguatge amb visió permet llegir el document, classificar-lo, extreure els camps rellevants i bolcar-los a l'ERP sense plantilles rígides, tolerant formats mai vistos. És una càrrega perfecta per a NPUs perquè el volum és alt però cada document és petit, i el processament per lots nocturn aprofita maquinari que de dia serveix per a altres casos. En processar-se en local, les dades personals de clients i empleats que viatgen en aquests documents no s'exposen, cosa directament exigible quan hi ha categories especials de dades pel mig. El retorn és dels més mesurables: hores d'introducció de dades que desapareixen.
9. Videoseguretat intel·ligent i control d'accessos
Les càmeres generen el volum més gran de dades d'una empresa i gairebé ningú no el mira. Una NPU de visió —una Metis, una Hailo— converteix aquest cabal en esdeveniments útils: intrusió fora d'horari, EPIs absents en zona d'obra, aforament excedit, vehicle desconegut al moll de càrrega. Processar el vídeo a la vora, al costat de la càmera, evita saturar la xarxa pujant streams al núvol i manté les imatges —dades biomètriques potencials, especialment delicades— dins de les instal·lacions. Les alertes arriben en temps real a l'equip de seguretat amb el clip rellevant, i l'analítica agregada (fluxos, ocupació, patrons) alimenta decisions d'operacions sense comprometre la privacitat d'empleats i visitants.
10. Agents de processos interns
El pas següent al chatbot és l'agent: una IA que no només respon sinó que executa —tramita una alta de proveïdor, concilia un pagament, prepara l'onboarding d'un empleat— encadenant crides als sistemes interns. Precisament perquè toca ERP, CRM i bases de dades amb permisos d'escriptura, és el cas on té més sentit l'execució local: les credencials i les dades operatives mai abandonen la xarxa corporativa, i cada acció queda auditada en infraestructura pròpia. Una NPU dedicada garanteix a més latències estables per a fluxos amb desenes de passos. És el terreny natural de plataformes com NAiOS: agents amb accés governat a les eines de l'empresa, corrent sobre ferro que l'empresa controla.
10 casos d'ús de nínxol
1. Inspecció visual en línia de producció
En fabricació, detectar un defecte mil·limètric a velocitat de línia exigeix inferència en mil·lisegons: no hi ha temps d'anar al núvol i tornar. Una NPU industrial tipus Axelera Metis analitza centenars de peces per minut al costat de la mateixa càmera, detectant esquerdes, rebaves, soldadures fredes o etiquetes mal impreses amb una precisió superior a la inspecció humana i sense fatiga. El model s'entrena amb les peces pròpies i millora amb cada defecte nou etiquetat. L'impacte és doble: menys producte defectuós arriba al client i la traçabilitat de qualitat queda documentada automàticament. Per a plantes amb línies antigues, el retrofit és assumible: càmera industrial, mòdul M.2 i un PC embebut basten per dotar de visió una línia dels anys noranta.
2. Manteniment predictiu en planta
Vibració, temperatura, consum elèctric, so: la maquinària avisa abans de trencar-se, però cal escoltar-la en continu. Models lleugers de sèries temporales corrent en NPUs de baix consum al costat del sensor detecten la deriva d'un coixinet o la cavitació d'una bomba setmanes abans de la fallada, quan la reparació encara és barata i programable. El processament a la vora és clau perquè el volum de dades crues de sensòrica és inassumible per pujar-ho tot al núvol, i perquè moltes plantes tenen connectivitat limitada o directament aïllada per seguretat OT. El resultat es mesura en aturades no planificades evitades: en indústries de procés continu, una sola aturada evitada paga tot el desplegament de maquinari diverses vegades.
3. Suport diagnòstic sanitari a la vora
En sanitat, les dades del pacient són la categoria més protegida que existeix, i la latència pot ser clínica: un ecògraf que ressalta estructures en temps real, una anàlisi de retina a la mateixa consulta, la priorització de radiografies urgents al PACS de l'hospital. Les NPUs permeten executar aquests models certificats dins del dispositiu mèdic o del CPD hospitalari, sense que cap imatge surti del centre, la qual cosa simplifica radicalment el compliment del RGPD i del reglament de productes sanitaris. Per a la sanitat rural i les ONG mèdiques, un dispositiu portàtil amb NPU porta capacitat diagnòstica de referència a consultoris sense connectivitat fiable. No substitueix el metge: li apropa la segona opinió experta al punt d'atenció.
4. Agricultura de precisió
Un dron que sobrevola la parcel·la o un tractor amb càmeres multiespectrals generen gigabytes per hora que no caben per la cobertura mòbil del camp. Amb una NPU a bord —un Jetson és l'estàndard de facto— l'anàlisi ocorre en vol: detecció d'estrès hídric, recompte de plantes, identificació de plagues i males herbes planta a planta. Això habilita l'aplicació selectiva de fitosanitaris, que redueix l'ús de químics fins a xifres de dos dígits percentuals, amb l'estalvi i el benefici ambiental que comporta. Per a cooperatives i explotacions mitjanes, el mateix maquinari serveix campanya rere campanya, i els mapes de vigor i rendiment acumulats es converteixen en un actiu agronòmic propi que cap proveïdor extern custodia.
5. Analítica de botiga física
El comerç en línia ho sap tot dels seus visitants; la botiga física, gairebé res. Càmeres amb NPU de visió igualen la balança de forma anònima: fluxos d'entrada, recorreguts, zones calentes, cues que superen el llindar, prestatgeries amb buits d'estoc. Tot es processa a la vora i només en surten mètriques agregades, sense identificar persones ni emmagatzemar imatges, la qual cosa manté el sistema dins del terreny segur del RGPD. El retail opera amb marges fins i desenes o centenars de locals: que cada botiga necessiti només un petit equip amb NPU, sense costos recurrents de núvol per càmera, fa viable econòmicament el que amb processament remot no sortia a compte. Les decisions de layout, personal i reposició passen d'intuïció a dada.
6. ADAS i gestió de flotes
Els sistemes avançats d'assistència a la conducció són el cas extrem de latència: frenar davant d'un vianant no admet anada i tornada al servidor. Les NPUs vehiculars —amb Jetson Thor com a referència de la gamma alta— processen càmeres, radar i lidar en el propi vehicle amb decisions en mil·lisegons. En flotes comercials, el mateix maquinari afegeix valor operatiu: detecció de fatiga i distracció del conductor, registre intel·ligent d'incidències que guarda només els segons rellevants, i coaching de conducció eficient. Per a una empresa de transport, això es tradueix en menys sinistralitat, primes d'assegurança renegociables amb dades i combustible estalviat. El vídeo de cabina, especialment sensible, no surt del vehicle tret d'esdeveniment justificat.
7. Robòtica col·laborativa
Un cobot que comparteix espai amb persones necessita percebre i reaccionar en temps real: veure la mà que envaeix la seva zona, ajustar la força, replanificar la trajectòria. Aquesta percepció corre sobre NPUs embarcades en el propi robot, perquè la seguretat funcional no pot dependre del wifi de la nau. La nova generació de models de manipulació —polítiques visuomotores entrenades per demostració— permet a més reprogramar el cobot ensenyant-li la tasca en comptes de programant-la, i executar aquestes polítiques exigeix justament el tipus d'inferència densa i eficient que una NPU ofereix. Per a pimes industrials, la combinació cobot més NPU abarateix l'automatització de tasques de picking, assemblatge i paletització que abans només compensaven en grans sèries.
8. Operacions en entorns aïllats
Vaixells en alta mar, plataformes i plantes d'oil & gas, mineria subterrània, instal·lacions de defensa: entorns on la connectivitat és cara, intermitent o està prohibida per política de seguretat. Allà la IA o corre en local o no existeix. NPUs robustides permeten desplegar visió de seguretat, manteniment predictiu, assistents tècnics amb la documentació de planta i anàlisi de sensòrica en el propi emplaçament, sincronitzant amb terra només resums quan hi ha finestra de comunicació. Un assistent que respon sobre els manuals de tots els equips de a bord, sense internet, canvia l'operativa d'un cap de màquines. És també el cas on el maquinari amb certificacions de temperatura, vibració i estanquitat justifica el seu sobrepreu.
9. Sectors amb secret professional
Despatxos d'advocats, auditories, banca privada, notaries: professions on la confidencialitat no és una preferència sinó una obligació deontològica i legal. Per a elles, enviar documentació de clients a una API externa és, en molts casos, directament inviable, per molt xifrat que viatgi. Una unitat NPU al despatx —de la mida d'un llibre— permet anàlisi de contractes, due diligence assistida, cerca jurisprudencial semàntica sobre l'arxiu propi i redacció d'esborranys, tot sense que ni un sol document creui la porta. L'argument comercial és potent: el despatx pot garantir per escrit als seus clients que la seva informació mai ha sortit de les seves instal·lacions. La IA deixa de ser un risc reputacional i passa a ser un diferenciador.
10. Ciutats intel·ligents i trànsit
La gestió urbana moderna es recolza en milers de càmeres i sensors la transmissió contínua dels quals a un CPD central és caríssima i planteja riscos evidents de privacitat. El patró guanyador és el processament a la vora: NPUs als mateixos armaris de trànsit analitzen fluxos, detecten incidents, ajusten semàfors de forma adaptativa, prioritzen emergències i compten modes de transport —cotxe, bici, vianant— enviant al centre de control únicament esdeveniments i estadístiques anònimes. Les imatges es descarten in situ, la qual cosa facilita l'encaix amb el RGPD i les normatives de videovigilància pública. Per a ajuntaments mitjans, el model distribuït redueix a més la factura de comunicacions i fa el sistema resilient: un tall de fibra no deixa cega la ciutat.
En resum
Dels 300 grams del Pocket Lab als 160 kW d'un rack AI200, les NPUs cobreixen ja tot l'espectre entre la butxaca i el datacenter, i els casos d'ús —de l'ofimàtica al quiròfan— tenen un denominador comú: la IA rendeix més, costa menys i compromet menys dades com més a prop de la dada s'executa. Tens l'anàlisi completa de les cinc unitats al nostre post del blog, i el detall de la mètrica clau a l'entrada TOPS.