El biaix algorítmic es produeix quan un sistema d'intel·ligència artificial aprèn, reprodueix o fins i tot amplifica els prejudicis continguts en les dades amb les quals va ser entrenat. Com que els models aprenen a partir d'exemples històrics, si aquestes dades reflecteixen desigualtats o estereotips socials, el sistema tendirà a perpetuar-los en les seves prediccions i decisions, sovint de forma invisible per a qui l'utilitza.
Importa perquè aquests sistemes s'utilitzen en àmbits sensibles on una decisió injusta té conseqüències reals. Alguns exemples habituals:
- Selecció de personal que penalitza certs perfils per gènere o edat.
- Concessió de crèdits que discrimina per codi postal o ètnia.
- Reconeixement facial amb taxes d'error més elevades en pells fosques.
Un matís important és que el biaix no sempre neix de les dades: també es pot introduir en el disseny del model, en l'elecció de variables o en com s'interpreten els resultats. Per això, mitigar-lo exigeix auditories, dades representatives i supervisió humana contínua, no només ajustos tècnics puntuals.