O Edge AI consiste en executar modelos de intelixencia artificial localmente no propio dispositivo —un móbil, unha cámara, un sensor industrial ou un coche— en lugar de enviar os datos a servidores remotos para o seu procesamento. O termo "edge" (bordo) fai referencia aos extremos da rede, onde se xeneran os datos, fronte ao modelo centralizado da nube.
A súa relevancia explícase por varias vantaxes prácticas:
- Baixa latencia: a resposta é case inmediata ao non depender da conexión.
- Privacidade: os datos sensibles non saen do dispositivo.
- Funcionamento sen conexión: opera aínda que non haxa acceso a internet.
- Menor custo e consumo de ancho de banda ao evitar transmitir grandes volumes de información.
Un exemplo cotián é o desbloqueo facial dun teléfono ou os asistentes de voz que recoñecen comandos básicos sen conexión. O principal matiz é a limitación de recursos: os dispositivos do bordo teñen menos memoria e capacidade de cómputo, polo que adoitan empregarse modelos optimizados mediante técnicas como a cuantización ou a poda.