Edge AI besteht darin, Modelle der künstlichen Intelligenz lokal auf dem Gerät selbst auszuführen – einem Mobiltelefon, einer Kamera, einem Industriesensor oder einem Auto –, anstatt die Daten zur Verarbeitung an entfernte Server zu senden. Der Begriff „Edge“ (Rand) bezieht sich auf die Außenbereiche des Netzwerks, in denen die Daten erzeugt werden, im Gegensatz zum zentralisierten Cloud-Modell.
Seine Relevanz erklärt sich durch mehrere praktische Vorteile:
- Geringe Latenz: Die Antwort erfolgt fast unmittelbar, da sie nicht von der Verbindung abhängt.
- Datenschutz: Sensible Daten verlassen das Gerät nicht.
- Offline-Betrieb: Funktioniert auch ohne Internetzugang.
- Geringere Kosten und Bandbreitenverbrauch, da die Übertragung großer Informationsmengen vermieden wird.
Ein alltägliches Beispiel ist die Gesichtserkennung eines Telefons oder Sprachassistenzsysteme, die grundlegende Befehle ohne Internetverbindung erkennen. Die wichtigste Nuance ist die Ressourcenbeschränkung: Edge-Geräte verfügen über weniger Speicher und Rechenkapazität, weshalb meist Modelle eingesetzt werden, die durch Techniken wie Quantisierung oder Pruning optimiert wurden.