O sesgo algorítmico prodúcese cando un sistema de intelixencia artificial aprende, reproduce ou mesmo amplifica os prexuízos contidos nos datos cos que foi adestrado. Como os modelos aprenden a partir de exemplos históricos, se eses datos reflicten desigualdades ou estereotipos sociais, o sistema tenderá a perpetualos nas súas predicións e decisións, a miúdo de forma invisible para quen o utiliza.
Importa porque estes sistemas empréganse en ámbitos sensibles onde unha decisión inxusta ten consecuencias reais. Algúns exemplos habituais:
- Selección de persoal que penaliza certos perfís por xénero ou idade.
- Concesión de créditos que discrimina por código postal ou etnia.
- Recoñecemento facial con maiores taxas de erro en peles escuras.
Un matiz importante é que o sesgo non sempre nace dos datos: tamén pode introducirse no deseño do modelo, na elección de variables ou en como se interpretan os resultados. Por iso, mitigalo exige auditorías, datos representativos e supervisión humana continua, non só axustes técnicos puntuais.