O viés algorítmico ocorre quando um sistema de inteligência artificial aprende, reproduz ou até amplifica os preconceitos contidos nos dados com os quais foi treinado. Como os modelos aprendem a partir de exemplos históricos, se esses dados refletirem desigualdades ou estereótipos sociais, o sistema tenderá a perpetuá-los nas suas previsões e decisões, muitas vezes de forma invisível para quem o utiliza.
É importante porque estes sistemas são utilizados em áreas sensíveis onde uma decisão injusta tem consequências reais. Alguns exemplos comuns:
- Seleção de pessoal que penaliza certos perfis por género ou idade.
- Concessão de créditos que discrimina por código postal ou etnia.
- Reconhecimento facial com maiores taxas de erro em peles escuras.
Uma nuance importante é que o viés nem sempre nasce dos dados: também pode ser introduzido no design do modelo, na escolha de variáveis ou na forma como os resultados são interpretados. Por isso, mitigá-lo exige auditorias, dados representativos e supervisão humana contínua, não apenas ajustes técnicos pontuais.