Aula Exercícios
Questões de Verdadeiro/Falso
- □ Como o objetivo de treino é \(\max_f P_f(Y\mid X)\), um modelo que atinge esse máximo garante que a previsão \(\hat{Y}\) estará sempre correta para qualquer cliente individual, não apenas mais provável.
- □ O mesmo princípio de máxima verossimilhança do exemplo do empréstimo também descreve o objetivo de treino de um classificador de reincidência criminal como o COMPAS: maximizar \(P_f(\text{reincidência}
\mid \text{histórico})\).
- □ Se o banco tivesse, para cada perfil financeiro \(X\), um número praticamente ilimitado de casos passados observados, o modelo aprenderia a reproduzir com precisão a frequência histórica de pagamento daquele perfil — o que, por si só, não eliminaria nenhum viés já presente nessa frequência histórica.
- □ Se o banco trocasse salário e dívida por apenas a data de nascimento do cliente como evidência \(X\), o objetivo \(\max_f
P_f(Y\mid X)\) deixaria de fazer sentido matemático, porque o modelo não teria mais nenhuma variável para associar a \(Y\).
- ✗ Falso — \(P_f(Y\mid X)\) é uma probabilidade, não uma certeza; o modelo entrega o palpite mais provável, que pode estar errado para um cliente específico.
- ✔ Verdadeiro — é exatamente o mesmo objetivo de máxima verossimilhança, só trocando a evidência \(X\) (histórico financeiro → histórico criminal) e o resultado \(Y\) (bom pagador → reincidência).
- ✔ Verdadeiro — mais dado reduz o erro de estimação da frequência histórica, mas não corrige o viés que já está presente nessa própria frequência (o mesmo ponto da Aula 6: mais dado do mesmo viés reforça o viés).
- ✗ Falso — o objetivo continua matematicamente bem definido com qualquer conjunto de variáveis em \(X\), mesmo uma única e pouco informativa; o que muda é a utilidade prática do modelo resultante, não a validade matemática do objetivo.
- □ Remover a coluna \(Z\) do dado de treino garante que o modelo \(f\) não consiga mais associar nenhum padrão estatístico ao atributo sensível, mesmo que outras colunas do dado estejam fortemente correlacionadas com \(Z\).
- □ Um modelo de concessão de crédito que usa “tempo de permanência no endereço atual” e “bairro de residência” como variáveis pode reconstruir informação equivalente a \(Z\) mesmo sem \(Z\) estar explicitamente no dado, pelo mesmo mecanismo de proxy discutido na aula para o CEP.
- □ Se duas variáveis do dado, cada uma isoladamente com correlação fraca com \(Z\), forem combinadas pelo modelo, essa combinação pode ainda assim funcionar como um proxy informativo de \(Z\), mesmo que nenhuma das duas sozinha pareça arriscada numa auditoria variável-por-variável.
- □ A falha de “justiça pela ignorância” implica que a única forma de garantir que um modelo nunca discrimine por \(Z\) é impedir que ele receba qualquer variável correlacionada, mesmo que fracamente, com qualquer atributo sensível conhecido.
- ✗ Falso — é exatamente a falha descrita na aula: o modelo reconstrói \(Z\) a partir de proxies correlacionados, mesmo sem \(Z\) estar explicitamente presente.
- ✔ Verdadeiro — bairro e tempo de residência carregam informação socioeconômica e demográfica correlacionada, o mesmo mecanismo do CEP.
- ✔ Verdadeiro — correlação individual fraca não implica ausência de padrão conjunto; a combinação de variáveis pode ser tão informativa quanto uma variável fortemente correlacionada sozinha.
- ✗ Falso — a aula não conclui isso (nem seria viável na prática, como uma lista finita de exclusões); a conclusão é que fairness deve ser definida explicitamente em termos matemáticos, e não buscada por remoção de variáveis.
- □ A definição de injustiça individual exige comparar dois indivíduos com o mesmo atributo sensível \(Z\), mas perfis financeiros \(X\) diferentes.
- □ Se, para um mesmo perfil financeiro \(X\), a probabilidade de ser considerado bom pagador for idêntica entre \(Z{=}\text{branca}\) e \(Z{=}\text{negra}\), essa desigualdade específica de injustiça individual não se verifica para esse perfil.
- □ A injustiça individual, tal como definida na aula, pode ser calculada sem nunca observar o resultado real \(Y\) de nenhum cliente — basta comparar as probabilidades previstas pelo modelo para perfis idênticos em \(X\).
- □ Encontrar um único par de clientes com o mesmo \(X\) e resultados previstos diferentes por \(Z\) já basta, sozinho, para caracterizar a definição de injustiça individual apresentada na aula, mesmo sem calcular nenhuma probabilidade condicional.
- ✗ Falso — a definição compara o mesmo \(X\) e \(Z\) diferente, não o contrário; a ideia é isolar o efeito do atributo sensível mantendo tudo o mais igual.
- ✔ Verdadeiro — probabilidades iguais para o mesmo \(X\) significam, por definição, que a desigualdade estrita não se verifica.
- ✔ Verdadeiro — a definição compara as probabilidades que o modelo atribui a cada grupo, um cálculo interno ao modelo, sem depender de observar resultados reais.
- ✗ Falso — a definição formal é uma desigualdade entre probabilidades condicionais, não uma comparação de uma única decisão prevista; uma diferença pontual entre duas previsões pode ser ruído do modelo, não a disparidade sistemática que a fórmula captura.
- □ \(\Delta{=}0\) implica necessariamente que todo indivíduo do grupo \(Z{=}0\) recebe exatamente a mesma utilidade que todo indivíduo do grupo \(Z{=}1\).
- □ \(\Delta\) é uma medida populacional: ela pode ser igual a zero mesmo que existam casos individuais de injustiça, definidos como no Teste 3, dentro de cada grupo.
- □ Se a utilidade \(U\) para o grupo \(Z{=}0\) tiver alta variância interna (alguns indivíduos muito bem servidos, outros muito mal servidos), enquanto a média permanecer igual à do grupo \(Z{=}1\), \(\Delta\) continuaria igual a zero.
- □ \(\Delta\), definido como diferença absoluta de utilidade esperada, é, por construção matemática, sempre um número entre 0 e 1.
- ✗ Falso — \(\Delta\) compara médias (valores esperados); médias iguais não implicam valores individuais iguais dentro de cada grupo.
- ✔ Verdadeiro — \(\Delta{=}0\) é compatível com injustiça individual interna a cada grupo; são noções de fairness em escalas diferentes (populacional vs. individual).
- ✔ Verdadeiro — \(\Delta\) depende só da média de cada grupo; variância interna não entra na fórmula.
- ✗ Falso — nada na definição de \(\Delta\) como diferença absoluta de utilidades esperadas garante esse intervalo; o limite depende da escala em que a própria utilidade \(U\) é definida.
- □ Um modelo que satisfaz Paridade Demográfica aprova, necessariamente, a mesma proporção de candidatos qualificados (\(Y{=}1\)) em cada grupo.
- □ É possível que um modelo satisfaça Igualdade de Oportunidade e, ainda assim, tenha taxas de falso positivo (aprovar quem não é qualificado) bem diferentes entre os grupos.
- □ Num cenário hipotético em que a fração de candidatos qualificados já é idêntica entre os dois grupos, Paridade Demográfica e Igualdade de Oportunidade produzem exatamente a mesma restrição sobre o modelo.
- □ Um sistema pode satisfazer simultaneamente Paridade Demográfica e Igualdade de Oportunidade em qualquer conjunto de dados, bastando ajustar cuidadosamente o limiar de decisão de cada grupo.
- ✗ Falso — é exatamente a crítica da aula à Paridade Demográfica: ela iguala taxas totais, ignorando se os aprovados de fato são qualificados.
- ✔ Verdadeiro — é a crítica simétrica: Igualdade de Oportunidade nada diz sobre como os não qualificados de cada grupo são tratados.
- ✔ Verdadeiro — é justamente o caso restrito mencionado no Teorema da Impossibilidade, em que a taxa real de qualificação já é igual entre grupos.
- ✗ Falso — o Teorema da Impossibilidade (Teste 6) afirma o oposto: fora de casos restritos, não existe ajuste de limiar que satisfaça as duas simultaneamente.
- □ O Teorema da Impossibilidade afirma que nenhum modelo de decisão automatizada pode, em qualquer circunstância, satisfazer mais de uma métrica de fairness ao mesmo tempo.
- □ Segundo o teorema discutido na aula, escolher qual métrica de fairness perseguir num projeto real é, em geral, uma decisão que envolve julgamento de valores, e não apenas uma escolha técnica neutra.
- □ Se, num domínio específico, a taxa real de qualificação (\(Y{=}1\)) já for idêntica entre todos os grupos definidos por \(Z\), esse seria exatamente o tipo de caso restrito em que múltiplas métricas de fairness poderiam coincidir.
- □ A existência do Teorema da Impossibilidade implica que toda tentativa de tornar um modelo mais justo é inútil, já que nenhuma configuração de métricas pode ser plenamente satisfeita.
- ✗ Falso — o teorema tem uma ressalva explícita (“exceto em casos muito restritos”), não é uma impossibilidade absoluta e incondicional.
- ✔ Verdadeiro — essa é a conclusão central do bloco: a escolha da métrica é uma decisão ética, não puramente técnica.
- ✔ Verdadeiro — é exatamente a condição de exceção mencionada na aula.
- ✗ Falso — falsa dicotomia: impossibilidade de satisfazer todas as métricas simultaneamente não significa que nenhuma melhoria seja possível — M²FGB e outras técnicas de mitigação (Blocos 5–6) melhoram fairness mesmo sem satisfação plena e simultânea de todas as métricas.
- □ O objetivo Rawlsiano \(\max_f \min_z \mathbb{E}[U\mid Z{=}z]\) busca, entre todos os modelos possíveis, aquele que iguala a utilidade esperada entre todos os grupos \(z\).
- □ É matematicamente possível que o modelo escolhido pelo objetivo Rawlsiano tenha uma utilidade média geral (somando todos os grupos) menor do que a de um modelo treinado só para maximizar acurácia, se isso significar melhorar a utilidade do grupo pior servido.
- □ O framework M²FGB aplica um termo de fairness durante o treino de modelos de gradient boosting, em vez de aplicá-lo como um ajuste feito depois do modelo já treinado.
- □ Se, num problema específico, um único grupo \(z^*\) já for sempre o pior servido, não importa qual modelo \(f\) seja escolhido, então o objetivo Rawlsiano se reduziria, nesse caso, a simplesmente maximizar a utilidade esperada desse grupo \(z^*\) sozinho.
- ✗ Falso — o objetivo maximiza o mínimo, não iguala; ele não impõe que os grupos terminem com utilidades idênticas, só que o pior grupo esteja o melhor possível.
- ✔ Verdadeiro — é o custo explícito do objetivo Rawlsiano: priorizar o pior grupo pode reduzir a utilidade média geral em relação a um modelo que só maximiza acurácia/utilidade agregada.
- ✔ Verdadeiro — conforme o resumo do M²FGB: a função objetivo combina a perda de treino convencional com um termo min-max de fairness, no próprio processo de boosting.
- ✔ Verdadeiro — se o grupo pior servido não depende da escolha de \(f\) (é sempre o mesmo \(z^*\)), então \(\min_z \mathbb{E}[U\mid Z{=}z] =
\mathbb{E}[U\mid Z{=}z^*]\) para qualquer \(f\), e o objetivo se reduz a maximizar diretamente a utilidade desse grupo.
- □ O problema dos rótulos seletivos ocorre porque o valor real de \(Y\) (por exemplo, se o cliente pagaria o empréstimo) só é observado para os indivíduos que receberam uma decisão positiva.
- □ Medir a fairness de um modelo de crédito usando apenas os clientes que já receberam empréstimo produz, necessariamente, uma estimativa não enviesada da fairness real do sistema, incluindo quem foi recusado.
- □ O mecanismo de retroalimentação descrito para o crédito (decisão de hoje molda o dado de amanhã) é estruturalmente análogo ao laço de policiamento preditivo já discutido na Aula 6, em que mais patrulha gera mais prisões registradas no mesmo bairro.
- □ Um sistema de triagem de currículos que usa o histórico de contratações passadas para treinar o próximo ciclo de contratações está sujeito ao mesmo tipo de retroalimentação de longo prazo discutido para o crédito, mesmo sendo um domínio de decisão diferente.
- ✔ Verdadeiro — é a definição do problema apresentada na aula: o rótulo só se revela para quem recebeu decisão positiva.
- ✗ Falso — é o oposto: essa estimativa é enviesada, porque ignora sistematicamente quem foi recusado, onde a disparidade real pode estar concentrada.
- ✔ Verdadeiro — ambos são laços em que a decisão de hoje produz o dado que alimenta a decisão de amanhã, reforçando o padrão inicial.
- ✔ Verdadeiro — mesma estrutura de retroalimentação (transferência de domínio dentro de aprendizado de máquina): decisão → dado novo → nova decisão, agora aplicada a contratações em vez de crédito.