O Dia Consciência Negra é um convite para refletir a importância da comunidade negra para o Brasil, mas também sobre a complexa relação entre a tecnologia e as questões raciais. Como uma inovação que tem impactado cada vez mais as nossas vidas, a inteligência artificial (IA) tem refletido preconceitos enraizados nos algoritmos que a impulsionam.
Em 2019, um estudo realizado pelo Instituto Nacional de Padrões e Tecnologia (NIST) dos Estados Unidos demonstrou que sistemas de reconhecimento facial tinham taxas de erro até 100 vezes maiores para pessoas pretas e asiáticas, em comparação com pessoas brancas.
Documentário Coded Bias
Um exemplo contundente é apresentado pelo projeto da pós-graduanda em ciência da computação Joy Buolamwini, do MIT Media Lab, o Aspire Mirror. Ao tentar criar um espelho inspirador, a pesquisadora esbarra em problemas quando a IA falha em reconhecer rostos de mulheres e pessoas de peles escuras.
No documentário Coded Bias, exibido pela Netflix, Buolamwini conta que trabalhava a noção de “visão artificial” ao mesclar as imagens de um rosto diante do espelho e ver um reflexo com base em uma inspiração, como um impulso criativo. Porém, a câmera não reconhecia o rosto dela.
Após vários testes, a cientista ganense-americana decide colocar uma máscara branca, e é quando a verdade vem à tona. A partir daí ela se dedica a investigar por que tanto hardware quanto software falham constantemente na identificação de pessoas com pele escura e possuem uma forte tendência para reconhecer homens brancos.
Em sua pesquisa, Buolamwini testou mais de 1.200 imagens de reconhecimento facial de grandes empresas de tecnologia como Google, Microsoft e Amazon. Os resultados confirmam que este tipo de software falha repetidamente na identificação de pessoas de pele preta porque as bases de dados utilizadas para treinar a IA estão sub-representadas em relação à diversidade, resultando em preconceitos automatizados, e reforçando estereótipos e discriminação.
Algoritmos enviesados
Os dados utilizados pela IA provêm geralmente de informações históricas e são utilizados para fazer previsões. Desta forma, a inteligência artificial acaba replicando o mundo social e reproduzindo desigualdades.
Isso, porém, não acontece porque a tecnologia não aplique um critério ético, mas porque ela é uma questão matemática de processamento de informação que utiliza a detecção automática de padrões que aparecem nos conjuntos de dados. Isso justifica o racismo, como base de dados histórica, que é construído a partir de informações defeituosas, incompletas ou generalizadas, como mostra o documentário.
Sendo assim, essas descobertas revelam a influência prejudicial de dados enviesados no treinamento desses algoritmos, e a IA, embora traga inovações, não é imune a replicar e perpetuar desigualdades raciais.
A solução, como traz o documentário, está no fortalecimento da legislação e na criação de organizações de controle capazes de impor condições que defendam os direitos da cidadania.
A inteligência artificial está rapidamente se integrando aos negócios, e a conscientização sobre a importância de sua utilização ética também está crescendo. Por isso, o Dia da Consciência Negra nos lembra que a luta contra o racismo integra também a responsabilidade humana com a tecnologia para que ela seja verdadeiramente inclusiva, e respeite a igualdade entre todas as pessoas.
