O Edge AI consiste em executar modelos de inteligência artificial localmente no próprio dispositivo — um telemóvel, uma câmara, um sensor industrial ou um carro — em vez de enviar os dados para servidores remotos para processamento. O termo "edge" (borda) faz referência às extremidades da rede, onde os dados são gerados, face ao modelo centralizado da nuvem.
A sua relevância explica-se por várias vantagens práticas:
- Baixa latência: a resposta é quase imediata ao não depender da ligação.
- Privacidade: os dados sensíveis não saem do dispositivo.
- Funcionamento sem ligação: opera mesmo que não haja acesso à internet.
- Menor custo e consumo de largura de banda ao evitar transmitir grandes volumes de informação.
Um exemplo quotidiano é o desbloqueio facial de um telemóvel ou os assistentes de voz que reconhecem comandos básicos sem ligação. A principal nuance é a limitação de recursos: os dispositivos da borda têm menos memória e capacidade de computação, pelo que se costumam utilizar modelos otimizados através de técnicas como a quantização ou a poda.