A construção de modelos de aprendizagem de máquina justos (sem preconceitos) está se tornando essencial na ciência de dados. O uso de algoritmos de aprendizado de máquina para resolver problemas em diferentes tipos de empresas irá reproduzir viés e discriminação que a sociedade procura combater, mas que estão presentes nos dados.
Relacionado a esse contexto está o conceito conhecido como Impacto Disparável, ou seja, o impacto da discriminação. Refere-se a práticas que afetam negativamente um grupo minoritário de indivíduos em relação a um grupo majoritário, mesmo quando tal discriminação ocorre de forma não intencional.
Uma Classe Protegida refere-se a indivíduos que estão protegidos contra a discriminação nos termos da lei. Em geral, as características protegidas referem-se a atributos como raça, religião, nacionalidade, sexo, idade, orientação sexual, deficiência, etc., protegidos por leis federais.
Para ilustrar esses conceitos, considere um processo de seleção para uma posição de cientista de dados em que os candidatos são obrigados a fazer um teste físico. Neste caso, temos um cenário de Impacto Disparável, já que o papel do Data Scientist não requer tal habilidade. Ou seja, o empregador pode estar tentando discriminar uma classe protegida de indivíduos. Se uma mulher não tiver sucesso no exame físico, isso não implicaria que ela seja incapaz de realizar o trabalho. Portanto, não há legitimidade nesse processo de seleção para avaliação do desempenho no trabalho.
Com o crescimento de aplicações baseadas em modelos e processos decisórios que podem afetar indivíduos pertencentes a classes protegidas, há crescente interesse em desenvolver modelos e algoritmos de aprendizado de máquina capazes de medir e garantir que suas previsões e classificações não sejam influenciadas pela presença de viés.
Um exemplo real da aplicação de modelos discriminatórios pode ser visto em Bias de máquina — ProPublica, onde um modelo projetado para prever crimes futuros atribuiu maiores escores de risco aos indivíduos negros.
Mas o que significa construir modelos justos? Como a noção de justiça pode ser traduzida em algo mensurável?
Em geral, problemas com modelos discriminatórios ocorrem devido à presença de viés não intencional contido em conjuntos de dados. Existem diferentes métodos para identificar a presença de viés e abordá-lo para construir modelos justos.
A regra 4/5 (ou regra de 80%) é comumente utilizada para avaliar a presença de viés em variáveis sociodemográficas. Avalia-se o rácio de impacto (IR) entre as classes minoritária e majoritária. Se o valor de RI está abaixo de 80%, sugere a presença de viés, ou seja, a presença de impacto díspare.
Outros testes estatísticos podem ser utilizados para identificar a presença de viés nos dados, como o teste Qui-quadrado de independência, o teste exato de Fisher (associação entre variáveis), entre outros, que, em conjunto, ajudam a fortalecer as evidências de viés.
Na literatura, há sugestões de medidas e técnicas em diferentes estágios de construção de modelos de aprendizado de máquina para desenvolver modelos justos, desde o pré-processamento de dados até a avaliação de modelos finais.
É necessária uma atenção especial a esse tema, especialmente no campo da Ciência de Dados, pois o desenvolvimento de modelos baseados em dados discriminatórios enviesados implica na reprodução desse viés por tais algoritmos. Mais exploração do tema pode ser encontrada nas referências abaixo.
Referências
- Uma ferramenta flexível para detecção de viés, visualização e mitigação. https://fairmodels.drwhy.ai
- Técnicas de pré-processamento de dados para classificação sem discriminação, Sistemas de Conhecimento e Informação (2012) 33:1-33, DOI 10.1007/s10115-011-0463-8
- Como podemos garantir que os modelos de aprendizado de máquina sejam justos? https://onfido.com/resources/blog/how-we-assure-machin-learning-models-are-fair
- Qual é a diferença entre o impacto díspare e a discriminação do tratamento? https://rayneslaw.com/what-is-the-diference-between-disparate-impact-and-disparate-tratamento-discriminação
- Restrições de equidade: Mecanismos para Classificação Justa. https://people.mpi-sws.org/~mzafar/papers/disparate_impact.pdf
- Como verificar facilmente se o seu modelo de aprendizagem de máquina é justo? https://www.kdnuggets.com/2020/12/machine-learning-model-fair.html
- Feldman, M., Friedler, S. A., Moeller, J., et al. Certificando e removendo impacto díspare (2015). Procedimentos da 21a Conferência Internacional sobre Descoberta de Conhecimento e Mineração de Dados da ACM SIGKDD.
- Compreender a justiça. https://machinesgonewrong.com/fairness/
