Aula 7: Fairness Algorítmica — Definições, Métricas e Mitigação
Computação e Sociedade
1 Revisão e Introdução: Do Dado Enviesado à Decisão que Discrimina
1.1 Revisão: o que a Aula 6 deixou pronto
A Aula 6 respondeu “de onde vem o viés”. Vale relembrar cada peça com o seu porquê, porque hoje construímos em cima delas.
Os quatro espaços do dado (Varshney, 2022, cap. 4): o dado percorre um caminho — do construto (o que se queria medir, no mundo ideal, sem viés) para o observado (o que de fato se mede) por medição; do observado para o bruto (a amostra concreta coletada) por amostragem; do bruto para o preparado (o dado final de treino/teste) por preparação. Cada passagem tem o seu viés: medição carrega viés social, amostragem carrega viés de representação e temporal, preparação carrega viés de preparação e envenenamento de dados. Nenhum desses vieses é “uma coisa ruim qualquer” — cada um ameaça uma validade específica (de construto, externa, interna), o que diz onde procurar e como corrigir.
Proxies e quase-identificadores: vimos que remover uma coluna sensível (ex.: raça) do dado não remove a informação — ela sobrevive em variáveis correlacionadas (CEP, histórico de utilização de saúde). A seguradora da Aula 5/6 usava custo de tratamento como proxy de gravidade de doença, e esse proxy media coisas diferentes para pacientes negros e brancos.
A LGPD: garante ao titular do dado acesso, correção, informação sobre os critérios usados numa decisão e revisão de decisões unicamente automatizadas (art. 20) — mas não define “discriminatório”, nem cobre segurança pública, e deixa como contrapeso a auditoria da ANPD sobre a lógica da decisão, sem exigir a abertura do algoritmo em si.
1.2 Ideia central: de “o dado está torto” para “a decisão discrimina — e isso se mede”
Até aqui, viés era um problema de entrada: o dado que alimenta o modelo já vem distorcido antes de qualquer treino começar. Essa é uma resposta necessária, mas incompleta — ela explica por que um modelo pode discriminar, não diz o quanto ele discrimina, nem o que fazer a respeito. Hoje viés vira um problema de decisão: dado um modelo treinado com dado imperfeito (como todo dado é), como definimos matematicamente se a decisão que ele produz é injusta? E, uma vez definida, como projetamos o modelo para perseguir justiça como objetivo — não como acidente de sorte?
- O que significa, em termos matemáticos e não só morais, dizer que uma decisão automatizada é “injusta”?
- Por que simplesmente “esconder” o atributo sensível (raça, gênero) do modelo não resolve o problema?
- Existe uma única definição correta de fairness — e, se não existe, como escolher entre elas?
- Fairness é um ajuste que se faz depois que o modelo já está pronto, ou algo que se projeta desde o início do treino?
1.3 Problema motivador: três decisões automatizadas, três danos documentados
Três casos, cada um relatado por uma fonte jornalística ou científica independente, mostram que esse não é um problema hipotético.
Justiça criminal — COMPAS. Um algoritmo usado nos Estados Unidos para prever reincidência criminal foi encontrado, por uma investigação da ProPublica, com o dobro de chance de sinalizar erroneamente réus negros como “de alto risco”, em comparação com réus brancos de perfil semelhante (Angwin, Larson, Mattu & Kirchner, 2016, ProPublica, “Machine Bias”).
Emprego — recrutador da Amazon. Já vimos esse caso na Aula 6, do ângulo de “de onde vem o viés” (o modelo aprendeu, do histórico de contratação de dez anos numa indústria dominada por homens, a penalizar currículos com a palavra “women’s”). Hoje a pergunta muda: dado que sabemos a origem do viés, como teríamos medido, antes de lançar a ferramenta, que ela discriminava? (Dastin, 2018, Reuters.)
Saúde. Um algoritmo amplamente usado para alocar acompanhamento clínico extra subestimou sistematicamente a necessidade de saúde dos pacientes negros mais graves, levando milhões de pacientes a receberem menos cuidado do que pacientes brancos igualmente doentes (Obermeyer, Powers, Vogeli & Mullainathan, 2019, Science, “Dissecting racial bias in an algorithm used to manage the health of populations”).
Nos três casos, ninguém escreveu no código “discrimine por raça” ou “discrimine por gênero”. Os modelos aprenderam, com correção estatística, os padrões do dado que receberam — exatamente o mecanismo que a Aula 6 já descreveu. A pergunta de hoje: como alguém, antes de soltar esses sistemas em produção, poderia ter medido essa injustiça e decidido agir sobre ela?
Nos três casos de abertura (COMPAS, Amazon, saúde), o modelo aprendeu o padrão discriminatório do próprio dado histórico, sem que ninguém tivesse escrito uma regra explícita de discriminação. Antes de qualquer definição formal de fairness, pense: se dois times de engenharia, um em cada empresa, tivessem querido checar isso antes do lançamento, o que precisariam ter comparado — e entre quem?
Dica: pense em o que precisa ser mantido igual, e para quais grupos, para que uma comparação faça sentido.
- □ Bastaria comparar a acurácia geral do modelo entre o grupo privilegiado e o não privilegiado; se as duas acurácias forem parecidas, o modelo não discrimina.
- □ É preciso comparar, entre os grupos, alguma medida do resultado da decisão (quem é aprovado, quem é sinalizado como risco, quem recebe o recurso) — acurácia geral sozinha pode escapar de repartir o erro de forma desigual.
- □ Se o time descobrir uma diferença de tratamento entre os grupos, essa diferença já basta, sozinha, para provar que o modelo é injusto, sem mais nenhuma outra consideração.
- □ Essa checagem só é necessária uma vez, antes do lançamento — depois de aprovado, o modelo pode ser considerado justo permanentemente, mesmo enquanto novos dados chegam.
2 Intuição: Como uma Máquina “Aprende” uma Decisão
Antes de formalizar injustiça, precisamos de um vocabulário mínimo para como um modelo decide — sem isso, “a máquina discrimina” fica uma acusação vaga demais para atacar matematicamente.
No fundo, aprendizado de máquina é o processo de achar o modelo que melhor explica um conjunto de dados observado. Formalmente, buscamos o modelo \(f\) que maximiza a probabilidade de termos observado os dados \(X\) que de fato observamos:
\[\max_{f} \; P_f(X)\]
Esse é o princípio da máxima verossimilhança: entre todos os modelos possíveis, escolhemos aquele que torna os dados observados os mais prováveis. Na maioria das aplicações — incluindo os três casos da Abertura — não queremos só descrever o dado \(X\): queremos prever um resultado específico \(Y\) a partir de uma evidência \(X\). O objetivo então se torna calcular a probabilidade condicional:
\[\max_{f} \; P_f(Y \mid X)\]
Isso não é uma afirmação de certeza — \(f(X)\) é o melhor palpite informado sobre o valor de \(Y\), calibrado pela frequência com que padrões parecidos a \(X\), no dado de treino, estiveram associados a cada valor de \(Y\).
Exemplo-fio: o pedido de empréstimo. Considere um banco decidindo se aprova um crédito.
- Evidência (\(X\)): os dados financeiros da pessoa — salário (R$ 2.300), dívida (R$ 5.000), se possui imóvel.
- Resultado (\(Y\)): se a pessoa será um bom pagador (\(Y=0\)) ou um mau pagador (\(Y=1\)).
- O objetivo da IA: aprender, a partir de milhares de casos passados, a calcular com precisão \(P(Y=0 \mid X)\) — a probabilidade de bom pagamento dado o perfil financeiro.
Este é o mesmo motor por trás dos três casos da Abertura: o COMPAS calcula \(P(\text{reincidência} \mid \text{histórico criminal, idade, ...})\); o recrutador da Amazon calculava \(P(\text{bom contratado} \mid \text{currículo})\); o algoritmo de saúde calculava \(P(\text{necessidade alta} \mid \text{custo histórico de tratamento})\). Em nenhum desses três, até aqui, apareceu nenhum atributo sensível — é exatamente aí que o próximo bloco entra.
3 O Dado Sensível \(Z\) e a Falha da “Cegueira Deliberada”
E se a evidência \(X\) incluir mais do que dado financeiro? Na prática, os conjuntos de dados que alimentam esses modelos frequentemente têm, entre suas colunas (ou entre variáveis fortemente correlacionadas a elas), informação sobre atributos sensíveis — raça, gênero, idade, entre outros. Chamamos esse atributo de \(Z\): informação que, por princípio ético e/ou legal, não deveria determinar o resultado de uma decisão.
O problema: para o modelo, \(Z\) não é diferente de qualquer outra coluna do dado. O algoritmo de máxima verossimilhança não tem noção prévia de que \(Z\) é “proibido” — ele usa qualquer padrão estatístico que melhore sua previsão, inclusive um padrão baseado em \(Z\), se esse padrão existir no dado de treino.
A reação intuitiva é simples: tirar \(Z\) do conjunto de treino. Se o modelo nunca vê a coluna “raça”, como ele poderia discriminar por raça? Essa estratégia — chamada de fairness through unawareness (“justiça pela ignorância”) — falha sistematicamente. Mesmo removendo \(Z\) explicitamente, o modelo frequentemente consegue reconstruir essa informação a partir de outras variáveis correlacionadas a ela — os proxies, já vistos na Aula 6 (CEP como proxy de raça e classe social; sobrenome como proxy de origem étnica; histórico de utilização de saúde como proxy de raça, no caso da seguradora).
“Mesmo que removamos explicitamente \(Z\) do dado, o modelo frequentemente consegue reconstruí-lo a partir de outras variáveis correlacionadas (proxies, como o CEP, por exemplo). Isso é conhecido como a falha da ‘justiça pela ignorância’ (fairness through unawareness).”
Isso deixa claro que não dá para resolver fairness escondendo a informação — a informação sensível já está espalhada, de forma redundante, por todo o resto do dado. Se cegueira não funciona, a alternativa é o oposto: definir explicitamente, em termos matemáticos, o que significa uma decisão ser justa em relação a \(Z\) — e é isso que o próximo bloco faz.
Uma fintech decide remover a coluna “gênero” do seu modelo de concessão de crédito, para evitar discriminação. Meses depois, uma auditoria interna encontra uma disparidade de aprovação entre clientes que se identificam como homens e mulheres, mesmo sem a coluna “gênero” ter sido usada em nenhum momento do treino. Avalie as afirmações sobre esse cenário.
Dica: pense em quais outras colunas do dado de uma fintech (profissão, histórico de consumo, tipo de plano de celular, por exemplo) podem estar correlacionadas com gênero, mesmo sem ser gênero.
- □ A auditoria só poderia ter encontrado essa disparidade por erro de cálculo, já que é matematicamente impossível discriminar por um atributo que nunca esteve no dado de treino.
- □ É plausível que outras colunas do dado (profissão, categoria de gasto, tipo de estabelecimento frequentado) funcionem como proxies de gênero, permitindo que o modelo reconstrua esse padrão indiretamente.
- □ Se a fintech também removesse todas as colunas fortemente correlacionadas com gênero, uma de cada vez, até não sobrar nenhuma correlação individual forte, isso garantiria matematicamente que a disparidade desapareceria.
- □ Essa mesma falha se aplicaria a um modelo de triagem de currículos que removesse a coluna “nome”, mas mantivesse a coluna “instituição de ensino”, numa sociedade em que o acesso a diferentes instituições é desigual entre grupos.
4 Definindo (In)Justiça com Probabilidade: as Muitas Faces do Fairness
Com o vocabulário de \(X\), \(Y\), \(Z\) e \(P_f(Y\mid X)\) em mãos, já podemos escrever definições matemáticas precisas de injustiça — não mais uma intuição solta, mas uma desigualdade que pode ser calculada e testada sobre qualquer modelo.
4.1 Injustiça individual
A forma mais direta de escrever discriminação é comparar a decisão do modelo para o mesmo perfil financeiro \(X\), variando só o atributo sensível \(Z\):
\[P(Y=0 \mid X, Z=\text{branca}) > P(Y=0 \mid X, Z=\text{negra})\]
Em português: a probabilidade de ser considerado “bom pagador” é maior para um grupo do que para outro, mesmo com exatamente o mesmo perfil financeiro \(X\). Essa desigualdade é a assinatura matemática da discriminação — se ela vale para um indivíduo específico, dizemos que há injustiça individual contra ele.
4.2 Injustiça de grupo (disparidade de utilidade)
Olhar indivíduo a indivíduo não escala para auditar um sistema inteiro — por isso a literatura de fairness também define uma versão agregada, por grupo. Definimos a utilidade \(U\) como o benefício (ou dano) que uma decisão \(A_t\) produz para uma pessoa no tempo \(t\), dado seu resultado real \(Y_t\). A disparidade de utilidade entre grupos é:
\[\Delta = \left| \mathbb{E}[U(Y_t, A_t) \mid Z=0] - \mathbb{E}[U(Y_t, A_t) \mid Z=1] \right|\]
Em português: \(\Delta\) mede a diferença entre o benefício médio que cada grupo recebe das decisões do modelo, ao longo do tempo. Quanto maior \(\Delta\), maior a disparidade — mas, diferente da injustiça individual, essa métrica não compara pessoa a pessoa, compara médias populacionais.
4.3 Duas métricas de grupo concorrentes: Paridade Demográfica e Igualdade de Oportunidade
A disparidade de utilidade é genérica — na prática, a literatura de fairness propõe métricas mais específicas, cada uma capturando uma noção diferente de “grupo tratado igualmente”. Duas das mais usadas:
Paridade Demográfica: as taxas de aprovação devem ser iguais entre os grupos, sem olhar para se a pessoa realmente estava qualificada:
\[P(\hat{Y}=0 \mid Z=\text{branca}) = P(\hat{Y}=0 \mid Z=\text{negra})\]
Crítica: essa métrica ignora se os indivíduos aprovados de fato mereciam ser aprovados — ela poderia ser satisfeita aprovando pessoas não qualificadas de um grupo só para igualar a taxa, o que também é uma forma de tratamento desigual.
Igualdade de Oportunidade: entre as pessoas de fato qualificadas (\(Y=1\)), a chance de aprovação deve ser igual entre os grupos:
\[P(\hat{Y}=0 \mid Y=1, Z=\text{branca}) = P(\hat{Y}=0 \mid Y=1, Z=\text{negra})\]
Crítica: essa métrica não diz nada sobre como as pessoas não qualificadas de cada grupo são tratadas — um modelo pode satisfazer Igualdade de Oportunidade e ainda assim recusar pessoas não qualificadas de um grupo com taxas de falso positivo bem diferentes das do outro grupo.
4.4 O Teorema da Impossibilidade
A Figura a seguir resume o conflito: as duas métricas partem de perguntas diferentes (“todo mundo tem a mesma taxa de aprovação?” vs. “entre quem merece, a taxa é igual?”) e, em geral, não podem ser satisfeitas ao mesmo tempo pelo mesmo modelo, a menos que a taxa de qualificação real já seja igual entre os grupos de partida (um caso raro na prática, quando o próprio \(Y\) tem distribuição desigual entre grupos por razões históricas — como visto na Aula 6).
Esse resultado é conhecido, na literatura de fairness algorítmica, como o Teorema da Impossibilidade: fora de casos muito restritos, é matematicamente impossível satisfazer todas as métricas de fairness relevantes simultaneamente. A consequência prática é desconfortável, mas central para esta disciplina: escolher qual métrica perseguir é uma escolha de valores, não um detalhe técnico neutro — a mesma tese, de que decisões “técnicas” carregam consequência ética, que atravessa toda a disciplina desde a Aula 1.
Um sistema de admissão universitária seleciona candidatos por nota de corte. Historicamente, o grupo A teve menos acesso a preparação de qualidade do que o grupo B, então uma fração menor do grupo A chega “qualificada” (\(Y=1\)) segundo os critérios da prova. A universidade tem duas opções de desenho do sistema: (i) ajustar a nota de corte para que a taxa de aprovação final seja igual entre os grupos A e B; (ii) manter a nota de corte única, mas garantir que, entre os candidatos realmente qualificados de cada grupo, a chance de aprovação seja igual.
Dica: relacione cada opção com uma das duas métricas definidas acima, e pense no que cada uma faz com candidatos não qualificados.
- □ A opção (i) implementa Paridade Demográfica, e a opção (ii) implementa Igualdade de Oportunidade.
- □ As duas opções, (i) e (ii), são matematicamente equivalentes sempre que a nota de corte é a mesma para os dois grupos.
- □ Se o grupo A tem uma fração menor de candidatos qualificados do que o grupo B, a opção (i) exigirá, para igualar as taxas de aprovação, aprovar uma fração maior de candidatos não qualificados do grupo A do que do grupo B.
- □ A opção (ii), por si só, garante automaticamente que os candidatos não qualificados de ambos os grupos sejam reprovados nas mesmas taxas.
5 Fairness Rawlsiana: Melhorando a Vida de Quem Está Pior
As métricas do bloco anterior comparam grupos entre si — igualar taxas, igualar oportunidades. Existe uma abordagem diferente, que não parte de “igualar”, mas de melhorar o resultado do grupo em pior situação, mesmo que isso não produza igualdade perfeita entre todos.
A inspiração vem do filósofo político John Rawls e do seu “Princípio da Diferença”, um dos pilares de sua teoria de justiça:
“Desigualdades sociais e econômicas devem ser organizadas de modo que sejam… para o maior benefício dos membros menos favorecidos da sociedade.”
Traduzindo esse princípio para a linguagem de aprendizado de máquina: em vez de igualar o resultado entre grupos, maximizamos a utilidade esperada do grupo que está em pior situação:
\[\max_{f} \; \left( \min_{z} \; \mathbb{E}[U \mid Z=z] \right)\]
Lendo a fórmula de dentro para fora: para cada grupo \(z\) (ex.: \(Z=\text{branca}\), \(Z=\text{negra}\)), calculamos a utilidade esperada \(\mathbb{E}[U\mid Z=z]\) que o modelo entrega a esse grupo. O termo \(\min_z\) identifica o pior grupo — aquele que recebe menos benefício do modelo atual. O termo \(\max_f\) então escolhe, entre todos os modelos possíveis \(f\), aquele que maximiza essa utilidade mínima. Ou seja: constrói-se o modelo que é o melhor possível para quem está pior, não o modelo que iguala médias.
A diferença fica clara comparando lado a lado o objetivo utilitarista clássico (maximizar o bem-estar total, mesmo que isso signifique deixar um grupo bem atrás dos outros) com o objetivo Rawlsiano (elevar especificamente o grupo pior servido, mesmo sem maximizar a soma):
Essa não é só uma proposta filosófica — é um objetivo de otimização que pode ser resolvido computacionalmente. O framework M²FGB (Pereira, Valdrighi & Raimundo, 2025, publicado na ACM Conference on Fairness, Accountability, and Transparency), desenvolvido no próprio Instituto de Computação da UNICAMP, implementa exatamente esse objetivo maximin dentro de gradient boosting — o mesmo tipo de modelo usado em muitas aplicações reais de crédito e risco:
“Consideramos aplicar conceitos de justiça de subgrupo a máquinas de gradient boosting […] Nossa abordagem expandiu as metodologias de gradient boosting para explorar uma gama mais ampla de funções objetivo, que combinam perdas convencionais […] e um termo de fairness min-max.”
Nota de autoria explícita: este é trabalho do próprio grupo de pesquisa do professor desta disciplina, não uma citação de terceiros — a mesma convenção de autenticidade já usada na Aula 6 com o artigo de Nascimento & Raimundo.
6 Fairness de Longo Prazo: o Problema dos Rótulos Seletivos
Todas as métricas vistas até aqui — individual, de grupo, Rawlsiana — são estáticas: medem a (in)justiça de uma decisão num único instante. Essa é uma simplificação perigosa, porque decisões automatizadas mudam o mundo que gera o próximo dado de treino — um feedback loop, o mesmo tipo de mecanismo que a Aula 6 já identificou no policiamento preditivo (mais patrulha → mais prisões registradas → mais “risco” previsto no mesmo bairro).
No caso do crédito: a decisão de hoje (\(t\)) afeta o dado de amanhã (\(t+1\)). Se o banco concede um empréstimo e a pessoa paga, seu histórico de crédito melhora — \(X_{t+1}\) muda — e sua qualificação futura \(Y_{t+1}\) também melhora, abrindo caminho para condições melhores no próximo ciclo. Uma negativa impede esse ciclo positivo de começar.
Esse ciclo positivo (ou negativo) só é visível para quem recebeu uma decisão favorável — e é aí que mora o problema dos rótulos seletivos: só observamos o resultado real (pagou ou não pagou) de quem recebeu crédito. De quem foi recusado, nunca sabemos se teria pago — o rótulo \(Y\) dessa pessoa permanece, para sempre, desconhecido. Avaliar a fairness de um modelo usando só os casos com rótulo observado enviesa a avaliação a favor de quem já foi aprovado no passado — exatamente o grupo que o modelo mais precisa auditar é o que menos dados de verdade oferece.
“Só vemos o resultado (ex.: pagamento do empréstimo) para aqueles que receberam uma decisão positiva.”
O grupo de pesquisa do professor desta disciplina desenvolveu uma resposta formal a esse problema: Long-term Fairness with Selective Labels (Valdrighi, Valera & Raimundo, aceito na Forty-third International Conference on Machine Learning — ICML 2026):
“Os rótulos […] são rótulos seletivos, pois só são revelados a partir de decisões positivas […] Apresentamos um novo arcabouço que aproveita tanto o dado observado quanto um modelo preditor de rótulo para estimar o valor real da medida de fairness.”
A ideia central: em vez de fingir que o rótulo desconhecido não existe, o método estima — com garantias formais de confiança — o quanto a fairness medida apenas sobre os dados observados se afasta da fairness real, que inclui também quem foi recusado. Note a progressão desta aula: a Aula 6 já tinha sinalizado o laço de retroalimentação do policiamento preditivo como uma extensão nossa, sem resolvê-lo formalmente; hoje, com o vocabulário de \(P(Y\mid X)\), \(Z\) e utilidade \(U\) em mãos, conseguimos nomear precisamente por que esse laço é difícil de auditar — e mostrar que já existe pesquisa ativa, no próprio Instituto, tentando resolvê-lo.
Um banco audita seu modelo de crédito comparando, entre clientes que receberam empréstimo, a taxa de inadimplência entre o grupo A e o grupo B, e encontra taxas parecidas — conclui que o modelo é justo. Um pesquisador de fora aponta que essa auditoria pode estar incompleta.
Dica: pense em quem nunca aparece nesse cálculo.
- □ A crítica do pesquisador não faz sentido: se as taxas de inadimplência entre quem recebeu crédito são parecidas, isso já demonstra que o modelo trata os dois grupos de forma equivalente, em qualquer critério de fairness.
- □ A auditoria descrita mede fairness só sobre o subconjunto de clientes com rótulo observado (quem recebeu crédito) — deixando de fora quem foi recusado, cujo comportamento de pagamento nunca é observado.
- □ Se o grupo A tem uma taxa de recusa muito mais alta que o grupo B, é possível que exista discriminação concentrada justamente na decisão de recusar, e essa discriminação fique invisível numa auditoria que só olha para quem foi aprovado.
- □ Esse problema de rótulo seletivo desaparece automaticamente se o banco simplesmente aumentar o tamanho da amostra de clientes aprovados analisados.
7 Fechamento: Fairness Não É Plugin
Fecha-se a aula com uma advertência prática, também tirada da palestra-base: existe hoje um mercado crescente de toolkits de fairness prontos — bibliotecas que prometem “detectar e corrigir viés” com poucas linhas de código. Usá-las sem entender profundamente o que cada métrica mede e por que ela foi escolhida cria uma dívida técnica perigosa: a equipe passa a acreditar que “tratou” o problema de fairness, quando na verdade só aplicou uma métrica genérica que pode nem ser a mais adequada ao contexto — o Bloco 4 mostrou que a escolha da métrica é, ela mesma, uma decisão de valores.
“Fairness não é um plugin. Simplesmente aplicar ‘toolkits de fairness’ prontos, sem entendimento profundo, cria uma dívida técnica perigosa.” […] “O desafio crítico é encontrar especialistas que possuam esse conhecimento técnico profundo e que consigam colaborar efetivamente com especialistas de domínio, cientistas sociais e eticistas.”
Definir fairness num contexto específico exige ir além do debate filosófico e entrar em modelagem matemática e estatística rigorosa — não há como escapar da matemática: qual métrica otimizar, como modelar impactos de longo prazo, como lidar com incerteza sobre rótulos não observados são, todas, perguntas matemáticas, como os Blocos 4 a 6 mostraram. Mas o inverso também é verdadeiro: matemática sozinha não escolhe os valores por trás da métrica — isso é, precisamente, o encontro entre técnica e ética que atravessa esta disciplina inteira desde a Aula 1.
Retomando o roteiro de hoje, uma frase cada:
- O que significa “injusto” em termos matemáticos? Uma desigualdade explícita entre a decisão de um modelo para grupos diferentes de um atributo sensível \(Z\) — individual, de grupo, ou relativa ao pior grupo (Rawlsiana).
- Por que esconder o atributo sensível não resolve? Porque proxies correlacionados reconstroem a informação removida — “justiça pela ignorância” falha sistematicamente.
- Existe uma única definição de fairness? Não — o Teorema da Impossibilidade mostra que as métricas entram em conflito estrutural; escolher uma é uma decisão ética.
- Fairness é ajuste ou projeto desde o início? As pesquisas mostradas hoje (M²FGB, fairness de longo prazo) tratam fairness como objetivo de treino, não como correção posterior.
Ponte para a Aula 8. Hoje o foco foi o modelo e a decisão — a matemática de tornar um algoritmo mais justo. Mas todo esse cálculo, todo esse treino, toda essa auditoria rodam em algum lugar físico, com servidores que consomem energia, água e minerais reais. A Aula 8 muda de escala outra vez: do algoritmo mais justo para o custo material e territorial de manter a infraestrutura que sustenta cada decisão automatizada que vimos até aqui.