El Edge AI consiste en ejecutar modelos de inteligencia artificial localmente en el propio dispositivo —un móvil, una cámara, un sensor industrial o un coche— en lugar de enviar los datos a servidores remotos para su procesamiento. El término "edge" (borde) hace referencia a los extremos de la red, donde se generan los datos, frente al modelo centralizado de la nube.
Su relevancia se explica por varias ventajas prácticas:
- Baja latencia: la respuesta es casi inmediata al no depender de la conexión.
- Privacidad: los datos sensibles no salen del dispositivo.
- Funcionamiento sin conexión: opera aunque no haya acceso a internet.
- Menor coste y consumo de ancho de banda al evitar transmitir grandes volúmenes de información.
Un ejemplo cotidiano es el desbloqueo facial de un teléfono o los asistentes de voz que reconocen comandos básicos sin conexión. El principal matiz es la limitación de recursos: los dispositivos del borde tienen menos memoria y capacidad de cómputo, por lo que suelen emplearse modelos optimizados mediante técnicas como la cuantización o la poda.