TOPS (Tera Operations Per Second, biliões de operações por segundo) é a unidade com que se mede o desempenho bruto dos aceleradores de IA, especialmente as NPUs. Um chip de "40 TOPS" pode executar 40 biliões de operações aritméticas elementares —multiplicações e somas, a matéria-prima das redes neuronais— por segundo. É para o hardware de IA o que os cavalos são para um automóvel: o número de marketing que resume, de forma imperfeita, quanta potência há sob o capô.
Como se mede (e porque quase sempre em INT8)
Os TOPS dependem por completo da precisão numérica com que se calcula. A inferência moderna trabalha com modelos quantizados em inteiros de 8 bits (INT8), pelo que esse é o número que os fabricantes anunciam; o mesmo silício rende aproximadamente o dobro em INT4 e metade em FP16:
| Precisão | Uso típico | Desempenho relativo |
|---|---|---|
| INT4 | LLMs muito quantizados, velocidade máxima | ~2× o número INT8 |
| INT8 | inferência padrão quantizada (o número anunciado) | 1× |
| FP16 | modelos sem quantização, treino ligeiro | ~0,5× |
| FP32 | precisão completa, quase nunca em NPUs | ~0,25× |
Comparar TOPS de fabricantes diferentes sem atender à precisão é comparar peras com maçãs. E atenção ao parente: TFLOPS mede operações em vírgula flutuante (terreno das GPUs e do treino); TOPS, operações inteiras (terreno das NPUs e da inferência). Não são intercambiáveis.
Pico teórico vs. desempenho real
Os TOPS são um máximo de laboratório: pressupõem que as unidades de cálculo nunca esperam por dados. Na prática, o fator limitante costuma ser a largura de banda de memória — de nada servem 200 TOPS se os pesos do modelo não chegam a tempo. Com LLMs isto é decisivo: um chip com menos TOPS mas com muita memória rápida e bem ligada pode movimentar com fluidez um modelo que sufoca outro nominalmente superior. É por isso que o Tiiny AI Pocket Lab se gaba tanto dos seus 80 GB de LPDDR5X como dos seus ~190 TOPS, e é por isso que o Qualcomm AI250 aposta na computação near-memory com 10× de largura de banda efetiva.
TOPS por watt: a métrica que separa gerações
A eficiência energética é o que permitiu descer a IA do datacenter para o bolso. Uma Hailo-10H entrega ~13 TOPS por watt; uma Axelera Metis, ~24; uma GPU de secretária de há uns anos, menos de 1. Para uma empresa, TOPS/watt traduz-se diretamente em custo de operação: mais inferência por cada euro de fatura elétrica. É a métrica sobre a qual a NAiOS Labs está a projetar a sua unidade NPU em formato rack para datacenters próprios.
Referências 2026: quantos TOPS tem cada coisa
| Hardware | TOPS (INT8) | Consumo | Classe |
|---|---|---|---|
| Telemóvel de gama alta | 35–45 | <5 W | NPU integrada no SoC |
| Portátil "AI PC" (Copilot+ exige 40) | 40–50 | ~10 W | NPU integrada |
| Hailo-10H | 40 | ~3 W | módulo edge M.2/USB |
| Tiiny AI Pocket Lab | ~190 | ~30 W (TDP) | mini-PC de bolso |
| Axelera Metis | 214 | 3,5–9 W | aceleradora M.2/PCIe |
| NVIDIA Jetson AGX Orin | 275 | 15–60 W | módulo embedded |
| Qualcomm AI200/AI250 | escala rack | até 160 kW/rack | datacenter |
De quantos TOPS necessita o seu caso de uso?
- Transcrição de voz e visão básica (câmaras, OCR): 5–15 TOPS bastam; é terreno de NPUs integradas e módulos edge.
- Assistente com LLM pequeno (7B quantizado), RAG documental: 40+ TOPS e, sobretudo, 8–16 GB de memória para o modelo.
- Visão industrial à velocidade de linha: 100–20