Edge AI tarkoittaa tekoälymallien suorittamista paikallisesti itse laitteella —puhelimella, kameralla, teollisuusanturilla tai autolla— sen sijaan, että data lähetettäisiin etäpalvelimille käsiteltäväksi. Termi "edge" (reuna) viittaa verkon reunoihin, joissa data syntyy, toisin kuin keskitettyyn pilvimalliin.
Sen merkitys perustuu useisiin käytännön etuihin:
- Pieni viive: vastaus tulee lähes välittömästi, koska se ei ole riippuvainen yhteydestä.
- Yksityisyys: arkaluonteiset tiedot eivät poistu laitteelta.
- Toiminta ilman yhteyttä: laite toimii, vaikka internetiin ei olisi pääsyä.
- Pienemmät kustannukset ja kaistankäyttö, koska suurten tietomäärien siirtämistä vältetään.
Arkipäiväinen esimerkki on puhelimen kasvojentunnistuksella avaaminen tai äänenohjatut avustajat, jotka tunnistavat perustason komennot ilman yhteyttä. Tärkein rajoite on resurssien niukkuus: reunalaitteissa on vähemmän muistia ja laskentakapasiteettia, minkä vuoksi niissä käytetään yleensä optimoituja malleja, joissa hyödynnetään esimerkiksi kvantisointia tai karsintaa.