Os algoritmos de inteligência artificial podem reproduzir e reforçar os preconceitos sociais existentes, pois aprendem a partir de dados históricos que podem conter preconceitos, e reproduzem esses preconceitos ao tomar decisões ou fazer recomendações.
Os algoritmos de inteligência artificial aprendem a partir de conjuntos de dados que já contêm preconceitos e estereótipos humanos. Se os dados históricos refletem desigualdades sociais, econômicas ou culturais, a inteligência artificial vai registrar esses padrões enviesados e aprender a reproduzi-los como se fossem absolutamente normais. Por exemplo, um algoritmo treinado em dados históricos de recrutamento onde certas categorias sociais foram sistematicamente excluídas corre um grande risco de reproduzir essas mesmas discriminações, porque é tudo o que ele viu em seu aprendizado. Esses são preconceitos intrínsecos relacionados diretamente à própria origem dos dados: se alimentarmos a IA com dados problemáticos, ela acabará necessariamente por ter resultados problemáticos.
Os humanos que treinam algoritmos de inteligência artificial muitas vezes transmitem, sem querer, seus próprios preconceitos. Quando eles rotulam imagens, revisam conteúdos ou classificam dados destinados ao aprendizado, algumas de suas crenças ou vieses se infiltram no processo. Resultado: a IA aprende esses mesmos vieses, pensando que são perfeitamente normais. Por exemplo, se aqueles que treinam o algoritmo associam inconscientemente certos empregos mais a homens do que a mulheres, a máquina vai reter esse estereótipo como uma verdade geral. Assim, esses vieses humanos acabam integrados nas previsões ou decisões da IA, influenciando diretamente as escolhas feitas pela ferramenta.
Os sistemas de aprendizado de máquina tendem a amplificar os estereótipos existentes porque identificam padrões nos dados já tendenciosos que analisam. Tipicamente, se os dados mostram frequentemente mulheres em papéis domésticos ou homens em posições de responsabilidade, o algoritmo irá integrar isso como uma regra geral e reforçá-la em seus resultados. Quanto mais uma ideia preconcebida é frequente no conjunto de dados, maior é a probabilidade de ela se destacar nas previsões ou recomendações. Assim, em vez de atenuar os preconceitos, a inteligência artificial acaba por acentuá-los e até propagá-los em maior escala.
Quando os dados de treinamento carecem de diversidade, os modelos começam a generalizar perfis muito limitados. Por exemplo, se um algoritmo de reconhecimento facial foi principalmente treinado em rostos brancos, ele tende a identificar mal rostos com pele mais escura. Essa falta de representatividade muitas vezes leva as inteligências artificiais a ignorar ou gerenciar mal certos grupos sociais. Em termos simples, quanto menos variedade houver nos dados, melhor a IA funciona para alguns, mas exclui ou penaliza os outros. Resultado: os algoritmos correm o risco de criar ou reforçar uma forma de injustiça digital ao excluir involuntariamente aqueles que já estavam sub-representados desde o início.
Muitos algoritmos de inteligência artificial funcionam como caixas pretas. Em essência, o modelo toma uma decisão, mas não sabemos realmente como chegou a ela, quais critérios específicos utilizou ou por que favorece um resultado em detrimento de outro. Essa falta de transparência é preocupante porque, se o algoritmo for discriminatório ou reproduzir certos preconceitos sociais, isso pode não ser percebido. E sem a possibilidade de identificar claramente como um erro ou um preconceito aparece, torna-se muito difícil determinar a causa e corrigir o problema. A falta de responsabilidade algorítmica significa precisamente que, quando algo dá errado, as responsabilidades se diluem: ninguém se sente diretamente envolvido, nem desenvolvedor, nem usuário, nem empresa. Acabamos, então, com consequências problemáticas no mundo real, sem saber exatamente como melhorar as coisas nem quem deve agir.
Em 2018, a Amazon suspendeu uma ferramenta de inteligência artificial destinada ao recrutamento após constatar que ela favorecia sistematicamente as candidaturas masculinas, revelando assim como os preconceitos humanos presentes nos dados de treinamento podem ser reproduzidos pelos algoritmos.
De acordo com um estudo do MIT de 2018, alguns sistemas de reconhecimento facial comercializados apresentavam uma taxa de erro muito mais alta ao reconhecer rostos femininos ou pessoas de cor, demonstrando a falta de diversidade dos dados utilizados em sua concepção.
O termo "câmara de eco" é utilizado para descrever um fenômeno onde os algoritmos de recomendação, como os usados pelas redes sociais, tendem a mostrar principalmente conteúdo que confirma as opiniões existentes dos usuários, reforçando assim preconceitos ou vieses sociais em vez de promover uma abertura para outras perspectivas.
O viés algorítmico nem sempre é consciente ou intencional; frequentemente, os algoritmos simplesmente refletem os vieses socioculturais profundos incorporados nos conjuntos de dados sobre os quais são treinados, perpetuando involuntariamente desigualdades existentes.
Os preconceitos algorítmicos podem resultar em discriminações injustas ou em preconceitos reforçados contra certas comunidades ou indivíduos, afetando áreas como o emprego, o acesso ao crédito, os seguros, a educação e até mesmo a segurança ou a justiça.
Pour reduzir os preconceitos, podemos adotar práticas como: garantir a diversidade dos dados de treinamento, realizar auditorias regulares dos algoritmos, envolver equipes multidisciplinares em seu design e reforçar a transparência e a responsabilidade nos processos de IA.
A transparência permite que os usuários e os órgãos de regulação compreendam como os algoritmos funcionam, facilitando assim a identificação de possíveis vieses, reforçando a confiança do público e permitindo que os desenvolvedores sejam responsabilizados pelas decisões tomadas pelo algoritmo.
A detecção de vies geralmente envolve a análise aprofundada dos resultados dos modelos, a comparação do desempenho do modelo em diversos grupos demográficos, bem como auditorias regulares dos dados de treinamento e dos mecanismos de decisão do algoritmo.
Um viés em inteligência artificial refere-se a um erro sistemático ou uma distorção produzida pelos modelos algorítmicos, frequentemente refletindo preconceitos ou estereótipos humanos transmitidos através dos conjuntos de dados utilizados durante seu treinamento.
100% dos internautas acertaram tudo neste quiz!
Question 1/5
