A construção de modelos de aprendizagem de máquina justiças (sem viés) está se rasgando essencial para a ciência de dados. O uso de algoritmos de aprendizado de máquina na solução de problemas em diferentes tipos de problemas ir reproduzir o viés e a discriminação que a sociedade tenta combater, mas que está presente nos dados.
Relacionado a este contexto temos a expressão sabeda por Impacto Disparável (impacto díspar), ou seja, o impacto da discriminação. Refere-se a práticas que afetam de forma negativa um grupo minoritário de indivíduos em relação a um grupo majoritário, mesmo que tal discriminação ocorra de forma não intencional.
Classe protegida (ou classe protegida) representam os indivíduos protegidos de discriminação conforme a legislação. Geralmente, a característica protegida, refere-se a atributos tais como, raça, religião, nacionalidade, sexo, idade, orientação sexual, deficiência etc., que são protegidas conformadas as leis federais.
De modo a ilustrar tais conceitos, considere um processo de seleção para Científico de Dados onde os candidatos precisam realizar um teste físico. Neste caso, temos um cenário de Impacto Disparável, pois a função Cientista de Dados não requer tal habilidade, ou seja, o empresário pode tentar discriminar uma classe de indivíduos protegidos. Caso uma mulher não seja bem-sucedida no teste físico, não implica que ela não tem capacidade de desempentar a função. Portanto, não há legitimidade no processo de seleção para o desenvolvimento da função.
Com o crescimento em aplicações de modelos a tomada de decisões que podem afetar indivíduos das classes protegidas, existe um interesse crescente em desenvolver modelos e algoritmos de aprendizagem de máquina capacizes de mensurar e garantir que suas preferências e classificações não serão influenciadas pela presença de viés.
Um exemplar real na aplicação de modelos discriminatórios pode ser visto em Bias de máquina — ProPublica, onde um modelo para prever crimes futuros pontuava pessoas negras com maior risco.
Mas o que seria construir modelos justos? Como fazer a troca de justiça em algo mensurável?
Em geral, o problema com modelos discriminatórios ao contar a presença de víes não inicial contado nas bases de dados. Existem diferentes métodos para identificar a presença de viés e tratamento de forma a construir modelos justos.
A regra dos 4/5 (ou 80%) é bastante conhecida para avaliar a presença de viés em variáveis sociodemográficas. Avalia-se a razão de impacto (IR-Taxa de Impacto) entre as classes minoritária e majoritária. Caso o valor do IR seja inferior a 80%, sugere a presença de víes, ou seja, presença de impacto díspare.
Outros testes estatísticos podem ser utilizados para identificar a presença de viés nos dados, a sabre: Teste Qui-quadrado de independência, Teste de Fisher (associação entre variáveis) e outros que, conjugado, contribuem para fortaleza a evidência de víés.
Na literatura há sugestões de medidas e técnicas nas diferentes estratégias de construção dos modelos de aprendizagem máquina para desenvolver modelos justos, desde o pré-processamento dos dados até avaliação dos modelos feitos.
Faz-se necessária uma atenção especial ao tema, especialmente na área de Ciência de Dados pois, o desenvolvimento de modelos baseados em dados com víés discriminatório implica na reprodução deste viés por tais algoritmos. Um maior aprofundamento no tema pode ser obtido nas referências abaixo.
Nos inveja uma mensagem
[id formidável=2]
Referências:
- Uma ferramenta flexível para detecção de viés, visualização e mitigação. https://fairmodels.drwhy.ai.
- Técnicas de pré-processamento de dados para classificação sem discriminação, Knowl Inf Syst (2012) 33:1-33, DOI 10. 1007/ s10115-011-0463-8.
- Como podemos garantir que os modelos de aprendizado de máquina sejam justos? https://onfido.com/resources/blog/how-we-assure-machin-learning-models-are-fair.
- Qual é a diferença entre impacto díspare e discriminação de tratamento díspare? https://rayneslaw.com/what-is-the-diference- between-diparate-impact-and-diparate-tratamento-discriminação/.
- Restrições de equidade: Mecanismos para Classificação Justa.
- https://people.mpi-sws.org/~mzafar/papers/disparate_impact.pdf
- Como verificar facilmente se o seu modelo de aprendizagem de máquina é justo? https://www.kdnuggets.com/2020/12/machine-learning-model-fair.html.
- Feldman, M., Friedler, S.A. Moeller, J., et al. Certificação e Remoção do Impacto Disparável (2015). Procedimentos da XXI Conferência Internacional sobre Descoberta de Conhecimento e Mineração de Dados da ACM SIGKDD.
- Compreender a justiça. https://machinesgonewrong.com/fairness/.
