Sama kohtaus toistuu jokaisessa NAiOS Labs -demossa: joku tiimistä, enemmän energiaa kuin elokuvan tiedemiehellä, joka on huutamaisillaan "tämähän on!", osoittaa kirkkaasti hohtavilla moduuleilla täytettyä telinettä ja heittää lukeman: ”neljäkymmentä TOPSia per kolme wattia”. Puolet salista nyökkää, ja toinen puoli miettii: mitä ihmettä TOPSTOPS (Tera Operations Per Second)Yksikkö, joka mittaa tekoälykiihdyttimen raakasuorituskykyä: biljoonaa operaatiota sekunnissa oikein on? Tänään vastaamme tälle puolelle, jolla on täysi oikeus kysyä.
Määritelmä yhdessä lauseessa
TOPS tulee sanoista Tera Operations Per Second: biljoonaa operaatiota sekunnissa. Sillä mitataan tekoälykiihdyttimien, erityisesti NPU-piirien, raakaa laskentatehoa. ”40 TOPSin” siru suorittaa sekunnissa neljäkymmentä biljoonaa perusta kertolaskua ja yhteenlaskua, eli juuri sellaista aritmetiikkaa, josta neuroverkot koostuvat. Tekoälylaitteistolle TOPS on se, mitä hevosvoima on autolle: luku, joka kertoo epätäydellisesti, paljonko tehoa konepellin alla on.
Pienellä painatuksella: INT8, huiput ja muisti
Kolme tarkennusta erottaa tietoisen ostajan siitä, joka päätyy väärän sirun kanssa. Ensinnäkin tarkkuus: TOPS-luvut ilmoitetaan lähes aina INT8-muodossa (8-bittisinä kokonaislukuina). Sama pii tuottaa INT4-muodossa kaksinkertaisen suorituskyvyn ja FP16-muodossa puolet vähemmän, joten lukujen vertailu tarkkuutta tarkistamatta on kuin omenoiden ja päärynöiden vertailua. Toiseksi kyse on teoreettisesta huippuarvosta: luku olettaa, ettei laskentayksiköiden tarvitse koskaan odottaa dataa, mikä käytännössä tapahtuu jatkuvasti. Ja kolmanneksi, LLMLLM (Large Language Model)Suurikokoinen kielimalli, nykyisten chatbottien perusta-malleissa eniten kipua aiheuttava seikka: muisti. Suuren mallin on mahduttava muistiin ja kuljettava sen läpi täydellä nopeudella. Siksi siru, jossa on vähemmän TOPSeja mutta hyvin syötetty 80 Gt:n muisti, voi ajaa mallia, joka tukehduttaa nimellisesti tehokkaamman kilpailijan. Suurilla malleilla kaistanleveys painaa yhtä paljon kuin laskenta.
Todellisia vertailukohtia vuodelta 2026
Silmä kalibroituu näin: ”AI PC” -kannettavan NPUNPU (Neural Processing Unit)Neuroverkon päättelyn kiihdyttämiseen erikoistunut siru, jolla on maksimaalinen energiatehokkuus yltää yleensä 40–50 TOPSiin (40 on CopilotAI CopilotTekoälyavustaja työkaluihin sisäänrakennettuna+:n vaatimus), Hailo-10H antaa 40 TOPSia kuluttaen 3 wattia, Axelera Metis yltää 214 TOPSiin, NVIDIA Jetson AGX Orin 275 TOPSiin ja Tiiny AI Pocket Lab yhdistää noin 190 TOPSia 80 Gt:n muistiin. Datakeskuksen mittakaavassa lukua per siru ei enää juuri kuvaa, vaan puhutaan telinekohtaisesta suorituskyvystä, kuten Qualcomm AI200- ja AI250-tuotteissa. Viisi yksikköä on analysoitu NPU-top 5 -listallamme 2026–2027.
Se on luku, joka todella erottaa sukupolvet
Jos voit katsoa vain yhtä mittaria, katso TOPS per watti. Tehokkuus on se, mikä on tehnyt tekoälystä mahdollista siirtyä datakeskuksesta taskuun, ja se on mittari, jonka varaan suunnittelemme NAiOS Labsissa rack-muotoista NPU-yksikköämme omiin datakeskuksiin: inferenssin maksimointi wattia kohden tarkoittaa enemmän suvereenia tekoälyä jokaista sähkölaskun euroa kohden. Laitteiston valinnan käytännön sääntö koostuu kolmesta yhdessä esitettävästä kysymyksestä: pystyykö se mallin kanssa (TOPS)? Mahtuuko malli (muisti)? Ja mihin hintaan (TOPS/watti)?
Jatka wikissä
Olemme julkaisseet NAiOS Wikiin artikkelin TOPS NAiOS Wikissä, jossa on viitteellinen selitys, sekä siihen liittyvän artikkelin NPU, jossa on täydellinen yksikkövertailu ja kaksikymmentä käyttötapausta. Ja jos haluat selvittää, mikä sopii juuri sinun tapaukseesi — yksityisestä toimistoavustajasta teolliseen konenäköön — ota yhteyttä: NAiOS Labsissa TOPS-lukuja ja innostusta riittää.
