Orgulho Negro O dia nos convida a refletir sobre importância da comunidade negra no Brasil, mas também sobre a complexa relação entre tecnologia e questões raciais. Como uma inovação que está cada vez mais impactando nossas vidas, a inteligência artificial (IA) vem refletindo vieses enraizados nos algoritmos que a impulsionam.
Em 2019, um estudo realizado pela Instituto Nacional de Normas e Tecnologia (NIST) nos Estados Unidos mostrou que reconhecimento facial sistemas apresentaram taxas de erro até 100 vezes maiores para indivíduos negros e asiáticos em comparação com indivíduos brancos.
Documentário Bias codificado
Um exemplo marcante é apresentado pelo projeto da estudante de pós-graduação do MIT Media Lab Joy Buolamwini, chamada Espelho de Aspire. Ao tentar criar um espelho inspirador, o pesquisador encontra problemas quando a IA não reconhece os rostos de mulheres e pessoas com tons de pele mais escuros.
No documentário Bias codificadas, mostrado na Netflix, Buolamwini explica que ela estava trabalhando no conceito de "visão de computador" através da fusão de imagens de um rosto em frente a um espelho e gerando uma reflexão baseada na inspiração—como um prompt criativo. No entanto, a câmera não reconheceria seu rosto.
Após vários testes, o cientista ganês-americano decide usar uma máscara branca, e só então o sistema responde. A partir desse momento em diante, ela se compromete a investigar por que hardware e software consistentemente não conseguem identificar pessoas com pele escura e mostrar uma forte tendência para reconhecer homens brancos.
Em sua pesquisa, Buolamwini testou mais de 1.200 imagens de reconhecimento facial de grandes empresas de tecnologia como Google, Microsoft e Amazon. Os resultados confirmam que esse tipo de software repetidamente não reconhece indivíduos negros, pois os conjuntos de dados utilizados para treinar os IA são sub-representativos da diversidade, resultando em viés automatizado e reforçar estereótipos e discriminações.
Algoritmos Biados
Os dados usados pela IA geralmente vêm de informações históricas e são aplicados para fazer previsões. Desta forma, a inteligência artificial acaba por reproduzir o mundo social e reprodução de desigualdades.
Isso não ocorre porque a tecnologia carece de critérios éticos, mas sim porque é uma processo matemático de manipulação da informação que se baseia na detecção automática de padrões presentes em conjuntos de dados. Isso reflete o racismo como base histórica de dados, construída a partir de informações falhas, incompletas ou generalizadas—como mostrado no documentário.
Assim, estes resultados revelam que influência prejudicial de dados tendenciosos no treinamento desses algoritmos, e enquanto a IA traz inovação, ela não é imune à replicação e perpetuação das desigualdades raciais.
Conforme apresentado no documentário, a solução reside no fortalecimento da legislação e na criação de organizações de fiscalização capazes de impor proteções que defendam os direitos civis.
A inteligência artificial está rapidamente se integrando nos negócios, e a consciência da importância de seu uso ético também está crescendo. É por isso que o Dia da Consciência Negra nos lembra que luta contra o racismo também envolve nossa responsabilidade humana para garantir que a tecnologia é verdadeiramente inclusiva e respeita a igualdade entre todas as pessoas.
