L'Edge AI consiste à exécuter des modèles d'intelligence artificielle localement sur l'appareil lui-même — un mobile, une caméra, un capteur industriel ou une voiture — au lieu d'envoyer les données vers des serveurs distants pour leur traitement. Le terme « edge » (bordure) fait référence aux extrémités du réseau, là où les données sont générées, par opposition au modèle centralisé du cloud.
Sa pertinence s'explique par plusieurs avantages pratiques :
- Faible latence : la réponse est presque immédiate car elle ne dépend pas de la connexion.
- Confidentialité : les données sensibles ne quittent pas l'appareil.
- Fonctionnement hors ligne : il fonctionne même en l'absence d'accès à Internet.
- Réduction des coûts et de la consommation de bande passante en évitant de transmettre de gros volumes d'informations.
Un exemple quotidien est le déverrouillage facial d'un téléphone ou les assistants vocaux qui reconnaissent des commandes de base sans connexion. La principale nuance réside dans la limitation des ressources : les appareils en périphérie disposent de moins de mémoire et de capacité de calcul, c'est pourquoi des modèles optimisés par des techniques telles que la quantification ou l'élagage sont généralement utilisés.