NPU (Unidade de Processamento Neural)

Uma NPU (Neural Processing Unit, unidade de processamento neuronal) é um chip — ou um bloco dentro de um processador — concebido especificamente para executar os cálculos próprios da inteligência artificial, sobretudo as multiplicações de matrizes que sustentam as redes neuronais. Ao contrário de um CPU (de uso geral) ou de um GPU (nascido para gráficos e depois adaptado à IA), a NPU está otimizada desde a conceção para a inferência de modelos: realiza essas operações de forma massivamente paralela com um consumo energético muito inferior. O seu desempenho bruto costuma expressar-se em TOPS (biliões de operações por segundo).

A sua relevância prática é direta: torna viável executar IA localmente — num portátil, num telemóvel, num dispositivo edge ou num servidor nas instalações da empresa — sem depender da nuvem. Para uma organização, isso traduz-se em menor latência, custo por inferência mais baixo e, sobretudo, soberania dos dados: os modelos e a informação não saem fisicamente de casa.

As 5 melhores unidades NPU de 2026 e 2027

Em 2026–2027, o mercado organizou-se numa escada clara, do bolso ao datacenter. Estas cinco referências cobrem-na por completo.

1. Tiiny AI Pocket Lab — IA pessoal de bolso

Apresentado na CES 2026, o Pocket Lab da Tiiny AI concentra em 300 gramas um CPU ARM v9.2 de 12 núcleos, uma NPU discreta de ~160 TOPS (mais ~30 TOPS no SoC), 80 GB de LPDDR5X e 1 TB de SSD. Executa LLMs de até 120B de parâmetros totalmente offline, com implementação num clique de modelos abertos (GPT-OSS, Llama, Qwen, Mistral), por cerca de 1.400 €.

2. NVIDIA Jetson AGX Orin / Thor — o padrão embedded

Na robótica, visão computacional e indústria, a família Jetson da NVIDIA continua a ser a referência: até 275 TOPS no AGX Orin e um salto geracional com o Thor para máquinas autónomas. A sua vantagem não é apenas o silício, mas o ecossistema de software mais maduro do mercado (CUDA, TensorRT, Isaac).

3. Hailo-10H — IA generativa no edge com 3 watts

A Hailo-10H entrega 40 TOPS INT8 com 8 GB de RAM dedicada consumindo ~3 W. Disponível em módulos M.2, USB e como cérebro da Raspberry Pi AI HAT+ 2, leva LLMs pequenos e modelos de visão a dispositivos onde antes apenas cabia um microcontrolador. Hoje é a relação TOPS/watt a bater no edge.

4. Axelera Metis — visão industrial a 214 TOPS

A europeia Axelera AI ataca a visão industrial com Metis, uma AIPU em formato M.2/PCIe que entrega até 214 TOPS INT8 com 3,5–9 W e latências abaixo dos 100 ms sem roubar RAM ao sistema anfitrião: exatamente o que pedem linhas de produção, logística e controlo de qualidade.

5. Qualcomm AI200 e AI250 — a NPU chega ao rack

As aceleradoras AI200 (2026) e AI250 (2027) da Qualcomm, baseadas em NPUs Hexagon à escala de rack, trazem a inferência generativa ao datacenter com 768 GB de LPDDR por placa, refrigeração líquida direta e até 160 kW por rack; a AI250 adiciona computação near-memory com mais de 10× a largura de banda efetiva.

A sexta: a unidade NPU em rack da NAiOS

A NAiOS Labs está a preparar a sua própria unidade personalizada baseada em NPUs em formato rack, desenhada para ser montada em datacenters próprios e dar serviço à modalidade Dedicado on-site da plataforma: hardware de IA dentro da infraestrutura do cliente (ou da NAiOS), com os dados sempre sob controlo.

Comparação rápida

10 casos de uso generalistas

1. Assistente de escritório privado

O caso mais imediato: um assistente que redige e-mails, resume relatórios, prepara propostas e responde a dúvidas internas, executando-se totalmente dentro da empresa. Com uma NPU de gama média, basta para servir um modelo de 7–14B de parâmetros a dezenas de funcionários com latências inferiores a um segundo. A diferença face a um serviço na nuvem não reside apenas na fatura mensal, que desaparece, mas no facto de rascunhos de contratos, números de negócio e comunicações sensíveis nunca saírem do perímetro corporativo. Para departamentos que gerem informações confidenciais diariamente —direção, financeiro, recursos humanos— é a via mais curta para adotar IA generativa sem abrir uma nova frente de conformidade nem depender da política de retenção de dados de terceiros.

2. Pesquisa semântica e RAG sobre documentação interna

Toda a organização acumula manuais, atas, contratos, wikis e e-mails que ninguém encontra quando são necessários. Um sistema RAG (geração aumentada por recuperação) indexa esse conhecimento com embeddings e responde a perguntas em linguagem natural citando as fontes. É um caso ideal para NPUs porque combina duas cargas leves e constantes: vetorizar documentos à medida que chegam e gerar respostas curtas a pedido. Uma equipa pode perguntar "¿que garantia assinámos com este fornecedor em 2024?" e obter a cláusula exata em segundos, sem que nem a pergunta nem o contrato passem por servidores externos. O investimento em hardware amortiza-se rapidamente: o conhecimento interno deixa de estar enterrado e o custo por consulta é praticamente zero uma vez implementado.

3. Apoio ao cliente com chatbots privados

Um chatbot de suporte que conhece o catálogo, as políticas de devolução e o histórico de incidentes pode atender 60–80% das consultas repetitivas sem intervenção humana. Executá-lo em NPUs próprias altera a economia do caso: o custo marginal por conversa é zero, pelo que pode ser oferecido na web, no WhatsApp e no telefone sem monitorizar o contador de tokens. Além disso, os dados do cliente —encomendas, moradas, reclamações— são processados em infraestrutura própria, o que simplifica a conformidade com o RGPD e evita transferências internacionais de dados. Com modelos pequenos ajustados com base nas conversas históricas da empresa, a qualidade percebida rivaliza com soluções na nuvem muito mais caras, e o escalonamento em picos de campanha é apenas uma questão de adicionar outra placa.

4. Transcrição e atas de reuniões

Os modelos de voz para texto modernos funcionam às mil maravilhas em NPUs modestas: uma Hailo-10H ou a NPU de um portátil recente transcrevem em tempo real com precisão profissional. O fluxo completo —transcrever a reunião, identificar oradores, extrair decisões e tarefas, redigir a ata e enviá-la— pode ser automatizado integralmente em local. Isto importa porque as reuniões são do mais sensível que uma empresa produz: fala-se de despedimentos, preços, estratégia e clientes com nome e apelido. Carregar esse áudio para um serviço externo é um risco que muitos comités de direção não querem assumir; processá-lo na sala, literalmente no dispositivo que grava, elimina-o de raiz e converte cada reunião em conhecimento pesquisável.

5. Tradução corporativa multilingue

Para empresas que operam em vários mercados, a tradução é um fluxo constante: fichas de produto, contratos, suporte, documentação técnica. Os modelos de tradução atuais cabem com folga numa NPU de secretária e produzem qualidade profissional nos pares de idiomas habituais. Executá-los em local permite traduzir documentos confidenciais —contratos em negociação, patentes, propostas— sem os expor a serviços externos, e fazê-lo por lotes massivos sem custo por palavra. Na NAiOS vivemo-lo em primeira mão: o nosso próprio motor traduz automaticamente blog e web para quatro idiomas. Combinado com glossários de terminologia corporativa, el resultado mantém a voz da marca e a consistência técnica que os tradutores genéricos na nuvem não garantem.

6. Business intelligence conversacional

Perguntar "¿como estão as vendas da zona este face ao objetivo do trimestre?" e receber a resposta com o seu gráfico, em vez de esperar que alguém monte o dashboard, é o salto que a IA generativa traz ao BI. Um modelo local com acesso à base de dados analítica traduz linguagem natural para SQL, executa a consulta e explica o resultado. Que isto ocorra sobre NPUs próprias é quase obrigatório: os dados financeiros e comerciais agregados são a joia da coroa, e nenhum responsável de dados quer enviá-los para uma API externa consulta a consulta. Com uma unidade tipo Pocket Lab ou um servidor edge, cada administrador tem um analista disponível 24 horas por dia que, além disso, nunca filtra informação.

7. Copiloto de programação em local

Os assistentes de código são já a ferramenta de produtividade padrão no desenvolvimento, mas enviar o repositório a um terceiro é incomportável para a banca, defesa, saúde ou qualquer empresa com propriedade intelectual valiosa no seu software. Os modelos de código abertos de 7–30B de parâmetros oferecem autocompletar, geração de testes e explicação de código com qualidade muito competitiva, e uma NPU com memória suficiente —o Pocket Lab com os seus 80 GB, um Jetson bem dimensionado— serve-os a toda uma equipa de desenvolvimento. O copiloto conhece o código proprietário sem que este saia do edifício, pode ser afinado sobre as convenções internas da equipa e funciona da mesma forma no escritório ou num ambiente isolado sem saída para a internet.

8. Automatização documental: OCR e extração

Faturas, guias de remessa, documentos de identidade, recibos de vencimento, formulários: a burocracia de entrada de qualquer empresa. A combinação de OCR moderno e modelos de linguagem com visão permite ler o documento, classificá-lo, extrair os campos relevantes e vertê-los para o ERP sem modelos rígidos, tolerando formatos nunca vistos. É uma carga perfeita para NPUs porque o volume é alto mas cada documento é pequeno, e o processamento por lotes noturno aproveita hardware que de dia serve outros casos. Ao processar-se localmente, os dados pessoais de clientes e colaboradores que viajam nesses documentos não são expostos, algo diretamente exigível quando existem categorias

O passo seguinte ao chatbot é o agente: uma IA que não só responde, mas também executa —tramita o registo de um fornecedor, concilia um pagamento, prepara o onboarding de um colaborador— encadeando chamadas aos sistemas internos. Precisamente porque toca em ERP, CRM e bases de dados com permissões de escrita, é o caso onde faz mais sentido a execução local: as credenciais e os dados operacionais nunca abandonam a rede corporativa, e cada ação fica auditada em infraestrutura própria. Uma NPU dedicada garante ainda latências estáveis para fluxos com dezenas de passos. É o terreno natural de plataformas como NAiOS: agentes com acesso governado às ferramentas da empresa, correndo sobre hardware que a empresa controla.

10 casos de uso de nicho

1. Inspeção visual em linha de produção

No fabrico, detetar um defeito milimétrico à velocidade da linha exige inferência em milissegundos: não há tempo para ir à nuvem e voltar. Uma NPU industrial tipo Axelera Metis analisa centenas de peças por minuto junto à própria câmara, detetando fissuras, rebarbas, soldaduras frias ou etiquetas mal impressas com precisão superior à inspeção humana e sem fadiga. O modelo é treinado com as peças próprias e melhora com cada novo defeito etiquetado. O impacto é duplo: chega menos produto defeituoso ao cliente e a rastreabilidade da qualidade fica documentada automaticamente. Para fábricas com linhas antigas, o

Na saúde, os dados do paciente são a categoria mais protegida que existe, e a latência pode ser clínica: um ecógrafo que realça estruturas em tempo real, uma análise de retina na própria consulta, a priorização de radiografias urgentes no PACS do hospital. As NPUs permitem executar estes modelos certificados dentro do dispositivo médico ou do CPD hospitalar, sem que nenhuma imagem saia do centro, o que simplifica radicalmente o cumprimento do RGPD e do regulamento de dispositivos médicos. Para a saúde rural e as ONG médicas, um dispositivo portátil com NPU leva capacidade diagnóstica de referência a consultórios sem conectividade fiável. Não substitui o médico: aproxima a segunda opinião especialista do ponto de atendimento.

4. Agricultura de precisão

Um drone que sobrevoa a parcela ou um trator com câmaras multiespetrais geram gigabytes por hora que não cabem na cobertura móvel do campo. Com uma NPU a bordo — um Jetson é o padrão de facto — a análise ocorre em voo: deteção de stresse hídrico, contagem de plantas, identificação de pragas e ervas daninhas planta a planta. Isso permite a aplicação seletiva de fitossanitários, que reduz o uso de químicos até valores de dois dígitos percentuais, com a poupança e o benefício ambiental que daí advém. Para cooperativas e explorações médias, o mesmo hardware serve campanha após campanha, e os mapas de vigor e rendimento acumulados tornam-se um ativo agronómico próprio que nenhum fornecedor externo custodia.

5. Analítica de loja física

O comércio online sabe tudo sobre os seus visitantes; a loja física, quase nada. Câmaras com NPU de visão equilibram a balança de forma anónima: fluxos de entrada, percursos, zonas quentes, filas que superam o limite, prateleiras com ruturas de stock. Tudo é processado na periferia e apenas saem métricas agregadas, sem identificar pessoas nem armazenar imagens, lo que mantém o sistema dentro do terreno seguro do RGPD. O retalho opera com margens curtas e dezenas ou centenas de locais: o facto de cada loja necessitar apenas de um pequeno equipamento com NPU, sem custos recorrentes de nuvem por câmara, torna viável economicamente o que com processamento remoto não compensava. As decisões de layout, pessoal e reposição passam de intuição a dados.

6. ADAS e gestão de frotas

Os sistemas avançados de assistência à condução são o caso extremo de latência: travar perante um peão não admite ida e volta ao servidor. As NPUs veiculares —com Jetson Thor como referência da gama alta— processam câmaras, radar e lidar no próprio veículo com decisões em milissegundos. Em frotas comerciais, o mesmo hardware acrescenta valor operativo: deteção de fadiga e distração do condutor, registo inteligente de incidentes que guarda apenas os segundos relevantes, e coaching de condução eficiente. Para uma empresa de transporte, isso traduz-se em menos sinistralidade, prémios de seguro renegociáveis com dados e combustível poupado. O vídeo de cabine, especialmente sensível, não sai do veículo salvo evento justificado.

7. Robótica colaborativa

Um cobot que partilha espaço com pessoas necessita de perceber e reagir em tempo real: ver a mão que invade a sua zona, ajustar a força, replanear a trajetória. Essa perceção corre sobre NPUs embarcadas no próprio robô, porque a segurança funcional não pode depender do Wi-Fi do pavilhão. A nova geração de modelos de manipulação —políticas visuomotoras treinadas por demonstração— permite ainda reprogramar o cobot ensinando-lhe a tarefa em vez de a programar, e executar essas políticas exige justamente o tipo de inferência densa e eficiente que uma NPU oferece. Para PMEs industriais, a combinação cobot mais NPU barateia a automatização de tarefas de

Escritórios de advogados, auditoras, banca privada, notários: profissões onde a confidencialidade não é uma preferência, mas sim uma obrigação deontológica e legal. Para estas, enviar documentação de clientes para uma API externa é, em muitos casos, diretamente inviável, por muito cifrada que viaje. Uma unidade NPU no escritório —do tamanho de um livro— permite a análise de contratos, due diligence assistida, pesquisa jurisprudencial semântica sobre o arquivo próprio e redação de rascunhos, tudo sem que um único documento cruze a porta. O argumento comercial é potente: o escritório pode garantir por escrito aos seus clientes que a sua informação nunca saiu das suas instalações. A IA deixa de ser um risco reputacional e passa a ser um diferenciador.

10. Cidades inteligentes e tráfego

A gestão urbana moderna apoia-se em milhares de câmaras e sensores cuja transmissão contínua para um CPD central é caríssima e levanta riscos evidentes de privacidade. O padrão vencedor é o processamento na periferia: NPUs nos próprios armários de tráfego analisam fluxos, detetam incidentes, ajustam semáforos de forma adaptativa, priorizam emergências e contabilizam modos de transporte —carro, bicicleta, peão— enviando para o centro de controlo apenas eventos e estatísticas anónimas. As imagens são descartadas in situ, o que facilita o enquadramento com o RGPD e as normas de videovigilância pública.