El sesgo algorítmico se produce cuando un sistema de inteligencia artificial aprende, reproduce o incluso amplifica los prejuicios contenidos en los datos con los que fue entrenado. Como los modelos aprenden a partir de ejemplos históricos, si esos datos reflejan desigualdades o estereotipos sociales, el sistema tenderá a perpetuarlos en sus predicciones y decisiones, a menudo de forma invisible para quien lo utiliza.
Importa porque estos sistemas se emplean en ámbitos sensibles donde una decisión injusta tiene consecuencias reales. Algunos ejemplos habituales:
- Selección de personal que penaliza ciertos perfiles por género o edad.
- Concesión de créditos que discrimina por código postal o etnia.
- Reconocimiento facial con mayores tasas de error en pieles oscuras.
Un matiz importante es que el sesgo no siempre nace de los datos: también puede introducirse en el diseño del modelo, en la elección de variables o en cómo se interpretan los resultados. Por ello, mitigarlo exige auditorías, datos representativos y supervisión humana continua, no solo ajustes técnicos puntuales.