La supervisió humana és el principi del Reglament europeu d'IA (AI Act) segons el qual els sistemes d'IA han d'estar dissenyats perquè persones capacitades puguin entendre què fan, vigilar-ne el funcionament i intervenir-hi quan calgui. L'article 14 ho exigeix expressament als sistemes d'alt risc, i l'esperit s'estén a qualsevol empresa que posi agents a actuar sobre clients, diners o dades.
Què ha de poder fer qui supervisa
- Entendre les capacitats i els límits del sistema, i detectar anomalies o resultats inesperats.
- No confiar per inèrcia en el que proposa la màquina (el reglament parla d'evitar l'«automation bias»).
- Interpretar correctament la sortida i decidir si s'utilitza, es corregeix o es descarta.
- Intervenir: aturar el sistema, desfer una acció o impedir que s'executi.
Capacitació
Supervisar exigeix saber. Per això el mateix reglament, en l'article 4, obliga les empreses a garantir l'alfabetització en IA de les persones que operen aquests sistemes: no es pot supervisar el que no s'entén.
Relació amb HITL
Human in the loop és la manera pràctica de complir-lo: posar l'aprovació d'una persona dins del flux de les accions que importen, amb permisos mínims i límits explícits per a cada agent. La pregunta que resumeix totes dues coses és la mateixa: qui dirigeix el sistema, amb quins permisos i amb quins límits.