NPU (Neural Processing Unit)

Una NPU (Neural Processing Unit, unidad de procesamiento neuronal) es un chip —o un bloque dentro de un procesador— diseñado específicamente para ejecutar los cálculos propios de la inteligencia artificial, sobre todo las multiplicaciones de matrices que sostienen a las redes neuronales. A diferencia de una CPU (propósito general) o de una GPU (nacida para gráficos y adaptada después a la IA), la NPU está optimizada desde el diseño para inferencia de modelos: realiza esas operaciones de forma masivamente paralela con un consumo energético muy inferior. Su rendimiento bruto suele expresarse en TOPS (billones de operaciones por segundo).

Su relevancia práctica es directa: hace viable ejecutar IA en local —en un portátil, un móvil, un dispositivo edge o un servidor en las instalaciones de la empresa— sin depender de la nube. Para una organización eso se traduce en menor latencia, coste por inferencia más bajo y, sobre todo, soberanía del dato: los modelos y la información no salen físicamente de casa.

Las 5 mejores unidades NPU de 2026 y 2027

En 2026–2027 el mercado se ha ordenado en una escalera clara, del bolsillo al datacenter. Estas cinco referencias la cubren entera.

1. Tiiny AI Pocket Lab — IA personal de bolsillo

Presentado en CES 2026, el Pocket Lab de Tiiny AI concentra en 300 gramos una CPU ARM v9.2 de 12 núcleos, una NPU discreta de ~160 TOPS (más ~30 TOPS en el SoC), 80 GB de LPDDR5X y 1 TB de SSD. Ejecuta LLMs de hasta 120B de parámetros totalmente offline, con despliegue en un clic de modelos abiertos (GPT-OSS, Llama, Qwen, Mistral), por unos 1.400 €.

2. NVIDIA Jetson AGX Orin / Thor — el estándar embedded

En robótica, visión por computador e industria, la familia Jetson de NVIDIA sigue siendo la referencia: hasta 275 TOPS en el AGX Orin y un salto generacional con Thor para máquinas autónomas. Su ventaja no es solo el silicio, sino el ecosistema de software más maduro del mercado (CUDA, TensorRT, Isaac).

3. Hailo-10H — IA generativa en el edge con 3 vatios

La Hailo-10H entrega 40 TOPS INT8 con 8 GB de RAM dedicada consumiendo ~3 W. Disponible en módulos M.2, USB y como cerebro de la Raspberry Pi AI HAT+ 2, lleva LLMs pequeños y modelos de visión a dispositivos donde antes solo cabía un microcontrolador. Hoy es la relación TOPS/vatio a batir en el edge.

4. Axelera Metis — visión industrial a 214 TOPS

La europea Axelera AI ataca la visión industrial con Metis, una AIPU en formato M.2/PCIe que entrega hasta 214 TOPS INT8 con 3,5–9 W y latencias por debajo de los 100 ms sin robar RAM al sistema anfitrión: justo lo que piden líneas de producción, logística y control de calidad.

5. Qualcomm AI200 y AI250 — la NPU llega al rack

Las aceleradoras AI200 (2026) y AI250 (2027) de Qualcomm, basadas en NPUs Hexagon a escala de rack, traen la inferencia generativa al datacenter con 768 GB de LPDDR por tarjeta, refrigeración líquida directa y hasta 160 kW por rack; la AI250 añade computación near-memory con más de 10× el ancho de banda efectivo.

La sexta: la unidad NPU en rack de NAiOS

NAiOS Labs está preparando su propia unidad personalizada basada en NPUs en formato rack, diseñada para montarse en datacenters propios y dar servicio a la modalidad Dedicado on-site de la plataforma: hardware de IA dentro de la infraestructura del cliente (o de NAiOS), con los datos siempre bajo control.

Comparativa rápida

10 casos de uso generalistas

1. Asistente ofimático privado

El caso más inmediato: un asistente que redacta correos, resume informes, prepara propuestas y responde dudas internas ejecutándose por completo dentro de la empresa. Con una NPU de gama media basta para servir un modelo de 7–14B de parámetros a decenas de empleados con latencias inferiores al segundo. La diferencia frente a un servicio en la nube no está solo en la factura mensual, que desaparece, sino en que borradores de contratos, cifras de negocio y comunicaciones sensibles nunca salen del perímetro corporativo. Para departamentos que manejan información confidencial a diario —dirección, financiero, recursos humanos— es la vía más corta para adoptar IA generativa sin abrir un frente nuevo de cumplimiento ni depender de la política de retención de datos de un tercero.

2. Búsqueda semántica y RAG sobre documentación interna

Toda organización acumula manuales, actas, contratos, wikis y correos que nadie encuentra cuando hacen falta. Un sistema RAG (generación aumentada por recuperación) indexa ese conocimiento con embeddings y responde preguntas en lenguaje natural citando las fuentes. Es un caso ideal para NPUs porque combina dos cargas ligeras y constantes: vectorizar documentos según llegan y generar respuestas cortas bajo demanda. Un equipo puede preguntar "¿qué garantía firmamos con este proveedor en 2024?" y obtener la cláusula exacta en segundos, sin que ni la pregunta ni el contrato pasen por servidores ajenos. La inversión en hardware se amortiza rápido: el conocimiento interno deja de estar enterrado y el coste por consulta es prácticamente cero una vez desplegado.

3. Atención al cliente con chatbots privados

Un chatbot de soporte que conoce el catálogo, las políticas de devolución y el historial de incidencias puede atender el 60–80 % de las consultas repetitivas sin intervención humana. Ejecutarlo sobre NPUs propias cambia la economía del caso: el coste marginal por conversación es cero, así que puede ofrecerse en la web, en WhatsApp y en el teléfono sin vigilar el contador de tokens. Además, los datos del cliente —pedidos, direcciones, reclamaciones— se procesan en infraestructura propia, lo que simplifica el cumplimiento del RGPD y evita transferencias internacionales de datos. Con modelos pequeños afinados sobre las conversaciones históricas de la empresa, la calidad percibida rivaliza con soluciones en la nube mucho más caras, y el escalado en picos de campaña es cuestión de añadir otra tarjeta.

4. Transcripción y actas de reuniones

Los modelos de voz a texto modernos funcionan de maravilla en NPUs modestas: una Hailo-10H o la NPU de un portátil reciente transcriben en tiempo real con precisión profesional. El flujo completo —transcribir la reunión, identificar hablantes, extraer decisiones y tareas, redactar el acta y enviarla— puede automatizarse íntegramente en local. Esto importa porque las reuniones son de lo más sensible que produce una empresa: se habla de despidos, precios, estrategia y clientes con nombre y apellido. Subir ese audio a un servicio externo es un riesgo que muchos comités de dirección no quieren asumir; procesarlo en la sala, literalmente en el dispositivo que graba, lo elimina de raíz y convierte cada reunión en conocimiento buscable.

5. Traducción corporativa multilingüe

Para empresas que operan en varios mercados, la traducción es un goteo constante: fichas de producto, contratos, soporte, documentación técnica. Los modelos de traducción actuales caben con holgura en una NPU de escritorio y producen calidad profesional en los pares de idiomas habituales. Ejecutarlos en local permite traducir documentos confidenciales —contratos en negociación, patentes, ofertas— sin exponerlos a servicios externos, y hacerlo por lotes masivos sin coste por palabra. En NAiOS lo vivimos de primera mano: nuestro propio motor traduce automáticamente blog y web a cuatro idiomas. Combinado con glosarios de terminología corporativa, el resultado mantiene la voz de marca y la consistencia técnica que los traductores genéricos en la nube no garantizan.

6. Business intelligence conversacional

Preguntar "¿cómo van las ventas de la zona este contra el objetivo del trimestre?" y recibir la respuesta con su gráfica, en vez de esperar a que alguien monte el dashboard, es el salto que la IA generativa aporta al BI. Un modelo local con acceso a la base de datos analítica traduce lenguaje natural a SQL, ejecuta la consulta y explica el resultado. Que esto ocurra sobre NPUs propias es casi obligatorio: los datos financieros y comerciales agregados son la joya de la corona, y ningún responsable de datos quiere enviarlos a una API externa consulta a consulta. Con una unidad tipo Pocket Lab o un servidor edge, cada directivo tiene un analista disponible las 24 horas que además nunca filtra información.

7. Copiloto de programación en local

Los asistentes de código son ya la herramienta de productividad estándar en desarrollo, pero enviar el repositorio a un tercero es inasumible para banca, defensa, sanidad o cualquier empresa con propiedad intelectual valiosa en su software. Los modelos de código abiertos de 7–30B de parámetros ofrecen autocompletado, generación de tests y explicación de código con calidad muy competitiva, y una NPU con memoria suficiente —el Pocket Lab con sus 80 GB, un Jetson bien dimensionado— los sirve a todo un equipo de desarrollo. El copiloto conoce el código propietario sin que este salga del edificio, puede afinarse sobre las convenciones internas del equipo y funciona igual en la oficina que en un entorno aislado sin salida a internet.

8. Automatización documental: OCR y extracción

Facturas, albaranes, DNI, nóminas, formularios: la burocracia de entrada de cualquier empresa. La combinación de OCR moderno y modelos de lenguaje con visión permite leer el documento, clasificarlo, extraer los campos relevantes y volcarlos al ERP sin plantillas rígidas, tolerando formatos nunca vistos. Es una carga perfecta para NPUs porque el volumen es alto pero cada documento es pequeño, y el procesamiento por lotes nocturno aprovecha hardware que de día sirve otros casos. Al procesarse en local, los datos personales de clientes y empleados que viajan en esos documentos no se exponen, algo directamente exigible cuando hay categorías especiales de datos por medio. El retorno es de los más medibles: horas de picado de datos que desaparecen.

9. Videoseguridad inteligente y control de accesos

Las cámaras generan el mayor volumen de datos de una empresa y casi nadie lo mira. Una NPU de visión —una Metis, una Hailo— convierte ese caudal en eventos útiles: intrusión fuera de horario, EPIs ausentes en zona de obra, aforo excedido, vehículo desconocido en el muelle de carga. Procesar el vídeo en el borde, junto a la cámara, evita saturar la red subiendo streams a la nube y mantiene las imágenes —datos biométricos potenciales, especialmente delicados— dentro de las instalaciones. Las alertas llegan en tiempo real al equipo de seguridad con el clip relevante, y la analítica agregada (flujos, ocupación, patrones) alimenta decisiones de operaciones sin comprometer la privacidad de empleados y visitantes.

10. Agentes de procesos internos

El paso siguiente al chatbot es el agente: una IA que no solo responde sino que ejecuta —tramita un alta de proveedor, concilia un pago, prepara el onboarding de un empleado— encadenando llamadas a los sistemas internos. Precisamente porque toca ERP, CRM y bases de datos con permisos de escritura, es el caso donde más sentido tiene la ejecución local: las credenciales y los datos operativos nunca abandonan la red corporativa, y cada acción queda auditada en infraestructura propia. Una NPU dedicada garantiza además latencias estables para flujos con decenas de pasos. Es el terreno natural de plataformas como NAiOS: agentes con acceso gobernado a las herramientas de la empresa, corriendo sobre hierro que la empresa controla.

10 casos de uso de nicho

1. Inspección visual en línea de producción

En fabricación, detectar un defecto milimétrico a velocidad de línea exige inferencia en milisegundos: no hay tiempo de ir a la nube y volver. Una NPU industrial tipo Axelera Metis analiza cientos de piezas por minuto junto a la propia cámara, detectando grietas, rebabas, soldaduras frías o etiquetas mal impresas con precisión superior a la inspección humana y sin fatiga. El modelo se entrena con las piezas propias y mejora con cada defecto nuevo etiquetado. El impacto es doble: menos producto defectuoso llega al cliente y la trazabilidad de calidad queda documentada automáticamente. Para plantas con líneas antiguas, el retrofit es asumible: cámara industrial, módulo M.2 y un PC embebido bastan para dotar de visión a una línea de los años noventa.

2. Mantenimiento predictivo en planta

Vibración, temperatura, consumo eléctrico, sonido: la maquinaria avisa antes de romperse, pero hay que escucharla en continuo. Modelos ligeros de series temporales corriendo en NPUs de bajo consumo junto al sensor detectan la deriva de un rodamiento o la cavitación de una bomba semanas antes del fallo, cuando la reparación aún es barata y programable. El procesamiento en el borde es clave porque el volumen de datos crudos de sensórica es inmanejable para subirlo todo a la nube, y porque muchas plantas tienen conectividad limitada o directamente aislada por seguridad OT. El resultado se mide en paradas no planificadas evitadas: en industrias de proceso continuo, una sola parada evitada paga todo el despliegue de hardware varias veces.

3. Apoyo diagnóstico sanitario en el borde

En sanidad, los datos del paciente son la categoría más protegida que existe, y la latencia puede ser clínica: un ecógrafo que resalta estructuras en tiempo real, un análisis de retina en la propia consulta, la priorización de radiografías urgentes en el PACS del hospital. Las NPUs permiten ejecutar estos modelos certificados dentro del dispositivo médico o del CPD hospitalario, sin que ninguna imagen salga del centro, lo que simplifica radicalmente el cumplimiento del RGPD y del reglamento de productos sanitarios. Para la sanidad rural y las ONG médicas, un dispositivo portátil con NPU lleva capacidad diagnóstica de referencia a consultorios sin conectividad fiable. No sustituye al médico: le acerca la segunda opinión experta al punto de atención.

4. Agricultura de precisión

Un dron que sobrevuela la parcela o un tractor con cámaras multiespectrales generan gigabytes por hora que no caben por la cobertura móvil del campo. Con una NPU a bordo —un Jetson es el estándar de facto— el análisis ocurre en vuelo: detección de estrés hídrico, conteo de plantas, identificación de plagas y malas hierbas planta a planta. Eso habilita la aplicación selectiva de fitosanitarios, que reduce el uso de químicos hasta cifras de dos dígitos porcentuales, con el ahorro y el beneficio ambiental que conlleva. Para cooperativas y explotaciones medianas, el mismo hardware sirve campaña tras campaña, y los mapas de vigor y rendimiento acumulados se convierten en un activo agronómico propio que ningún proveedor externo custodia.

5. Analítica de tienda física

El comercio online sabe todo de sus visitantes; la tienda física, casi nada. Cámaras con NPU de visión igualan la balanza de forma anónima: flujos de entrada, recorridos, zonas calientes, colas que superan el umbral, estanterías con huecos de stock. Todo se procesa en el borde y solo salen métricas agregadas, sin identificar personas ni almacenar imágenes, lo que mantiene el sistema dentro del terreno seguro del RGPD. El retail opera con márgenes finos y decenas o cientos de locales: que cada tienda necesite solo un pequeño equipo con NPU, sin costes recurrentes de nube por cámara, hace viable económicamente lo que con procesamiento remoto no salía a cuenta. Las decisiones de layout, personal y reposición pasan de intuición a dato.

6. ADAS y gestión de flotas

Los sistemas avanzados de asistencia a la conducción son el caso extremo de latencia: frenar ante un peatón no admite ida y vuelta al servidor. Las NPUs vehiculares —con Jetson Thor como referencia de la gama alta— procesan cámaras, radar y lidar en el propio vehículo con decisiones en milisegundos. En flotas comerciales, el mismo hardware añade valor operativo: detección de fatiga y distracción del conductor, registro inteligente de incidencias que guarda solo los segundos relevantes, y coaching de conducción eficiente. Para una empresa de transporte, eso se traduce en menos siniestralidad, primas de seguro renegociables con datos y combustible ahorrado. El vídeo de cabina, especialmente sensible, no sale del vehículo salvo evento justificado.

7. Robótica colaborativa

Un cobot que comparte espacio con personas necesita percibir y reaccionar en tiempo real: ver la mano que invade su zona, ajustar la fuerza, replanificar la trayectoria. Esa percepción corre sobre NPUs embarcadas en el propio robot, porque la seguridad funcional no puede depender del wifi de la nave. La nueva generación de modelos de manipulación —políticas visuomotoras entrenadas por demostración— permite además reprogramar el cobot enseñándole la tarea en vez de programándola, y ejecutar esas políticas exige justamente el tipo de inferencia densa y eficiente que una NPU ofrece. Para pymes industriales, la combinación cobot más NPU abarata la automatización de tareas de picking, ensamblado y paletizado que antes solo compensaban en grandes series.

8. Operaciones en entornos aislados

Barcos en alta mar, plataformas y plantas de oil & gas, minería subterránea, instalaciones de defensa: entornos donde la conectividad es cara, intermitente o está prohibida por política de seguridad. Ahí la IA o corre en local o no existe. NPUs robustecidas permiten desplegar visión de seguridad, mantenimiento predictivo, asistentes técnicos con la documentación de planta y análisis de sensórica en el propio emplazamiento, sincronizando con tierra solo resúmenes cuando hay ventana de comunicación. Un asistente que responde sobre los manuales de todos los equipos de a bordo, sin internet, cambia la operativa de un jefe de máquinas. Es también el caso donde el hardware con certificaciones de temperatura, vibración y estanqueidad justifica su sobreprecio.

9. Sectores con secreto profesional

Despachos de abogados, auditoras, banca privada, notarías: profesiones donde la confidencialidad no es una preferencia sino una obligación deontológica y legal. Para ellas, enviar documentación de clientes a una API externa es, en muchos casos, directamente inviable, por muy cifrado que viaje. Una unidad NPU en el despacho —del tamaño de un libro— permite análisis de contratos, due diligence asistida, búsqueda jurisprudencial semántica sobre el archivo propio y redacción de borradores, todo sin que un solo documento cruce la puerta. El argumento comercial es potente: el despacho puede garantizar por escrito a sus clientes que su información nunca ha salido de sus instalaciones. La IA deja de ser un riesgo reputacional y pasa a ser un diferenciador.

10. Ciudades inteligentes y tráfico

La gestión urbana moderna se apoya en miles de cámaras y sensores cuya transmisión continua a un CPD central es carísima y plantea riesgos evidentes de privacidad. El patrón ganador es el procesamiento en el borde: NPUs en los propios armarios de tráfico analizan flujos, detectan incidentes, ajustan semáforos de forma adaptativa, priorizan emergencias y cuentan modos de transporte —coche, bici, peatón— enviando al centro de control únicamente eventos y estadísticas anónimas. Las imágenes se descartan in situ, lo que facilita el encaje con el RGPD y las normativas de videovigilancia pública. Para ayuntamientos medianos, el modelo distribuido reduce además la factura de comunicaciones y hace el sistema resiliente: un corte de fibra no deja ciega la ciudad.

En resumen

De los 300 gramos del Pocket Lab a los 160 kW de un rack AI200, las NPUs cubren ya todo el espectro entre el bolsillo y el datacenter, y los casos de uso —de la ofimática al quirófano— tienen un denominador común: la IA rinde más, cuesta menos y compromete menos datos cuanto más cerca del dato se ejecuta. Tienes el análisis completo de las cinco unidades en nuestro post del blog, y el detalle de la métrica clave en la entrada TOPS.