Exercícios — Aula 2: O Que é Ética, e o Ciclo Ético

Computação e Sociedade

Autor

Marcos M. Raimundo — Instituto de Computação, UNICAMP

Questões discursivas

Questões originais desta disciplina, não extraídas literalmente das fontes bibliográficas (embora inspiradas nos casos e teorias que elas discutem).

Ao longo do bloco de teorias éticas, cada uma das quatro teorias foi aplicada, pelo menos uma vez, ao caso Ford Pinto — e em mais de uma ocasião, a mesma teoria produziu conclusões opostas dependendo da profundidade da análise (o cálculo de ato raso da Ford vs. a correção pelo princípio de liberdade de Mill vs. o utilitarismo de regra, por exemplo). Escolha duas dessas aplicações ao Ford Pinto (podem ser da mesma teoria, ou de teorias diferentes) e explique, no seu próprio raciocínio, o que exatamente mudou entre a versão “rasa” e a versão “profunda” de cada uma — não é a teoria que muda, é o quê?
O Ciclo Ético prevê “setas de retorno” entre suas fases, mas o próprio material sinaliza que só uma delas (Fase 4 → Fase 1, no caso Highway Safety) é uma afirmação literal do livro-base; as outras duas são reconstruções pedagógicas. Escolha uma situação de decisão técnica real ou hipotética, fora do material desta aula, e descreva como uma das três setas (Fase 3→1, Fase 4→1, ou Fase 4→2) poderia acontecer nela — ou seja, o que, especificamente, apareceria numa fase posterior que forçaria a revisão de uma fase anterior?
O fechamento da aula usa a metáfora da “bússola moral” de Steen: uma teoria ética mostra uma direção, mas não decide o caminho por você. No caso Highway Safety, o livro conclui que o argumento utilitarista é “bastante robusto” (não muda mesmo trocando o esquema de precificação de vidas) e o argumento kantiano/de justiça é “sensível a pressupostos”. Robustez de um argumento (quão pouco ele depende de escolhas arbitrárias dentro do próprio framework) e correção do framework (qual valor — utilidade agregada ou justiça distributiva — deveria pesar mais) são a mesma coisa, ou perguntas diferentes? Defenda sua posição.

Questões de Verdadeiro/Falso

Cada questão tem quatro afirmações sobre o mesmo tema; só é considerada correta se todos os quatro itens forem acertados (deixar a questão em branco tem punição de 20% da nota da questão).

Teste 1 — Utilitarismo — o princípio da utilidade e as correções de Mill

□ Se uma prefeitura decidisse investimentos em transporte público exclusivamente somando o total de horas economizadas por todos os usuários, sem considerar como esse tempo economizado se distribui entre bairros ricos e pobres, essa prefeitura estaria aplicando uma lógica estruturalmente igual à do balanço hedonista original de Bentham.
□ Se todos os seres humanos tivessem exatamente a mesma capacidade de sentir prazer e dor, em quantidade e intensidade idênticas, a distinção de Mill entre prazeres “superiores” e “inferiores” deixaria de fazer sentido, porque essa distinção depende de haver diferença qualitativa entre tipos de prazer, não de diferença de capacidade entre pessoas.
□ Se Bentham tivesse aceitado a existência de prazeres qualitativamente superiores a outros (a primeira correção de Mill), isso, por si só, já teria resolvido o problema de que o cálculo utilitarista puro poderia sacrificar uma minoria em nome da maioria.
□ Como Mill corrige o utilitarismo de Bentham em dois pontos distintos, isso significa que, depois de Mill, não sobrou nenhuma crítica válida ao utilitarismo — as quatro críticas clássicas discutidas na aula foram formuladas antes das correções de Mill e não valem mais depois delas.

Teste 2 — Utilitarismo — as quatro críticas clássicas

□ No limite em que fosse possível prever toda consequência de uma ação com certeza absoluta, a crítica da imprevisibilidade deixaria de se aplicar ao cálculo utilitarista, mas as demais três críticas (justiça distributiva, relações pessoais, fins e meios) continuariam valendo mesmo assim.
□ A crítica de que o utilitarismo “ignora relações pessoais” (o exemplo do naufrágio, escolher entre salvar um amigo ou um cirurgião famoso) se aplicaria, pela mesma lógica, a um algoritmo de triagem hospitalar que prioriza pacientes exclusivamente por uma pontuação agregada de expectativa de vida, sem qualquer peso para o vínculo entre o paciente e quem decide.
□ Se a Ford, no caso do Ford Pinto, tivesse usado o utilitarismo de regra desde o início, ela teria automaticamente escapado da crítica de que “os fins justificam os meios”, porque o utilitarismo de regra nunca permite quebrar princípios fundamentais em nome de um resultado agregado melhor.
□ Como a crítica de Rawls aponta que o utilitarismo “não reconhece a separação fundamental entre as pessoas”, isso significa que qualquer teoria que use algum tipo de soma ou agregação de bem-estar (mesmo que pondere por equidade) é necessariamente incompatível com a justiça distributiva.

Teste 3 — Ford Pinto — três cálculos utilitaristas

□ Como a Ford apresentou um argumento ato-utilitarista para não recolher o carro, e esse argumento foi criticado, isso significa que a crítica correta ao caso é que o utilitarismo, enquanto teoria, está errado — e por isso o livro rejeita usar o utilitarismo para avaliar o caso Ford Pinto.
□ A mesma lógica que torna o utilitarismo de regra mais exigente do que o utilitarismo de ato no caso Ford Pinto se aplicaria a uma empresa de alimentos decidindo se deve, só uma vez, usar um ingrediente mais barato e ligeiramente menos seguro, para atender uma demanda pontual de baixo custo.
□ Se absolutamente nenhum consumidor jamais soubesse que o Ford Pinto tinha um defeito de segurança, o argumento utilitarista de ato usado pela própria Ford (comparar custo de reforma vs. custo de acidentes esperados) continuaria sendo estruturalmente o mesmo cálculo, porque ele não depende de quem sabe o quê — só dos custos agregados esperados.
□ Se a crítica de que o cálculo original da Ford era baseado em estimativas pouco confiáveis do número de fatalidades esperadas fosse completamente resolvida (estimativas perfeitamente precisas), isso eliminaria também a objeção mais fundamental ao caso — a de que o argumento abandona princípios como “não se pode colocar um valor sobre a vida humana”.

Teste 4 — Teoria kantiana — o imperativo categórico

□ Se a promessa, no exemplo do imperativo categórico usado na aula, não dependesse de nenhuma prática social de confiança preexistente, o argumento de Kant de que quebrar promessas por conveniência não pode ser universalizado perderia sua base lógica.
□ No limite em que uma pessoa está completamente sozinha, sem nenhuma outra pessoa racional em sua vida, o segundo imperativo categórico (tratar a humanidade, na própria pessoa ou em qualquer outra, sempre como fim) ainda teria um objeto de aplicação, porque o imperativo se aplica também à própria pessoa do agente, não só a terceiros.
□ O mecanismo de “enganar a racionalidade de alguém, negando-lhe informação necessária para decidir por si mesma” (usado no exemplo do empréstimo desonesto e no caso Ford Pinto) se aplicaria da mesma forma a uma plataforma de crédito que aprova empréstimos usando um modelo de risco que a empresa sabe ser impreciso, sem informar isso aos clientes.
□ Como a primeira formulação do imperativo categórico (universalidade) e a segunda (reciprocidade) são ditas equivalentes por Kant, isso significa que elas sempre produzem exatamente o mesmo teste passo a passo em qualquer caso, e por isso o livro só precisaria ter aplicado uma delas ao Ford Pinto.

Teste 5 — Teoria kantiana — rigidez, o assassino à porta, e a saída de Ross

□ Se Ross tivesse concluído que o dever de cumprir promessas é sempre, em qualquer contexto, mais fundamental do que o dever de ajudar um amigo em apuros, sua distinção entre normas prima facie e normas auto-evidentes não faria mais sentido como solução para casos como o do assassino à porta.
□ No limite em que existisse só um único dever moral possível em qualquer situação (nenhum conflito jamais poderia surgir entre dois deveres), a distinção de Ross entre nível prima facie e nível auto-evidente se tornaria desnecessária.
□ A mesma lógica usada para explicar por que mentir para o assassino à porta é, para a maioria das pessoas, obviamente aceitável (um dever prima facie sendo superado por outro mais fundamental no contexto) se aplicaria a um engenheiro que, sob ordem direta e documentada de um superior, ignora por uma única vez um protocolo de segurança para impedir um acidente iminente e evitável de outra forma.
□ Como Kant não permite nenhuma exceção às suas normas, e Ross permite que uma norma prima facie seja superada por outra, isso significa que a posição de Ross é, na prática, equivalente a dizer que não existem deveres morais genuínos — só preferências situacionais.

Teste 6 — Ética das virtudes — eudaimonia, meio-termo e a crítica de Frankena/Kant

□ No limite em que uma pessoa tivesse excesso total de uma virtude (por exemplo, coragem levada ao extremo absoluto, sem nenhum limite), essa qualidade deixaria de ser, pela própria definição aristotélica de virtude como meio-termo, uma virtude — e passaria a ser um vício.
□ Se LeMessurier tivesse decidido não informar ninguém sobre o risco estrutural do Citicorp Center, mas tivesse, sozinho e sem avisar terceiros, reforçado a estrutura por conta própria durante a noite, essa ação ainda demonstraria a mesma virtude de “abertura à crítica” identificada pelo livro como louvável em seu comportamento real.
□ A crítica de Kant ao “psicopata frio” (cujas virtudes de autocontrole e deliberação fria o tornam mais perigoso, não menos) se aplicaria da mesma forma a um engenheiro de segurança extremamente meticuloso e obstinado, mas que usa essa mesma meticulosidade para encobrir falhas de forma mais eficaz e convincente.
□ Como a ética das virtudes foca no caráter de quem age, e não nas consequências da ação, isso significa que, para essa teoria, o resultado prático de uma ação (por exemplo, se um prédio realmente cai ou não) é completamente irrelevante para avaliar o comportamento de um engenheiro.

Teste 7 — Ética do cuidado — relações assimétricas e a crítica de vagueza

□ Se a ética do cuidado, como apresentada na aula, definisse relação moralmente relevante apenas como aquela que envolve proximidade emocional direta (amigos, família), o argumento do livro que responsabiliza a Ford pelos consumidores anônimos do Ford Pinto não seria sustentável dentro dessa mesma teoria.
□ No limite em que duas partes de uma relação têm exatamente a mesma vulnerabilidade e dependência mútua, a ética do cuidado, pelo mecanismo central discutido na aula, não teria uma base para atribuir um dever de cuidado mais forte de uma parte sobre a outra do que o inverso.
□ A crítica de que a ética do cuidado é “filosoficamente vaga” e não dá indicações concretas de como agir se aplicaria, pela mesma lógica levantada na aula sobre a ética das virtudes, a um comitê de ética que tenta usar somente a ética do cuidado para decidir, sem outro critério, se uma empresa deveria ou não lançar um produto de inteligência artificial.
□ Como a ética do cuidado enfatiza relações concretas em vez de princípios morais gerais, isso significa que essa teoria nega que existam valores ou princípios morais válidos aplicáveis a mais de uma situação — cada relação teria sua própria moralidade completamente isolada e incomparável com qualquer outra.

Teste 8 — O Ciclo Ético — Fase 1 e Fase 2

□ Se a “Tentativa 2” de formular o problema Gilbane Gold (“como a cidade pode garantir tanto a Z-Corp quanto a Gilbane Gold como fontes de bem-estar?”) tivesse sido aceita como formulação final, a Fase 2 (análise) ainda conseguiria identificar corretamente os valores morais em conflito (como honestidade e lealdade à empresa), porque a Fase 2 não depende de como a Fase 1 foi formulada.
□ No limite em que só existisse um único interessado afetado por uma decisão (nenhum outro ator, nenhuma sociedade em volta), a Fase 2 do Ciclo Ético se reduziria trivialmente a analisar os próprios valores e interesses de quem decide.
□ A lógica usada para rejeitar a “Tentativa 1” de Gilbane Gold (uma pergunta puramente factual: “o chumbo vai causar efeitos à saúde?”) se aplicaria da mesma forma para rejeitar, como formulação de um problema moral, a pergunta “este modelo de machine learning tem uma taxa de erro estatisticamente maior para um subgrupo demográfico?”, porque essa também é uma pergunta de fato, não de valor, mesmo sendo tecnicamente relevante.
□ Como o livro recomenda formular fatos incertos de forma hipotética (“se x, opção A; se y, opção B”) na Fase 2, isso significa que nenhuma decisão pode ser tomada enquanto todos os fatos relevantes não estiverem completamente resolvidos.

Teste 9 — O Ciclo Ético — Fase 3 e o kit de ferramentas da Fase 4

□ Se, no caso Gilbane Gold, a estratégia preto-no-branco original (“informar publicamente” ou “não informar”) tivesse sido a única opção genuinamente disponível, a crítica do livro a essa estratégia como “simplista demais” deixaria de se aplicar ao caso.
□ No limite em que o critério de Pareto e o critério de utilidade agregada (maior felicidade para o maior número) recomendassem sempre a mesma opção em qualquer decisão possível, ainda haveria uma diferença prática relevante entre os dois critérios, porque o critério de Pareto continuaria sendo, por definição, mais difícil de satisfazer.
□ A mesma lógica usada no caso Jasmine para mostrar que Kant e o utilitarismo de ato podem discordar sobre a mesma decisão se aplicaria a uma equipe de engenharia de software decidindo se aceita reduzir a cobertura de testes automatizados de um módulo legado para liberar orçamento para contratar mais desenvolvedores em outra área.
□ Como o “framework intuicionista” descrito na Fase 4 pede que se indique qual opção é “intuitivamente mais aceitável” e se formulem argumentos para isso, esse framework é, na prática, idêntico a simplesmente escolher por gosto pessoal sem nenhum critério.

Teste 10 — O Ciclo Ético — Fase 5 e as setas de retorno

□ Se as duas perguntas de reflexão da Fase 5 (“o framework sustenta minha intuição?” e “ele captura os aspectos moralmente relevantes?”) sempre tivessem a mesma resposta para qualquer framework aplicado a qualquer caso, o método do equilíbrio reflexivo amplo deixaria de conseguir distinguir frameworks mais adequados de menos adequados para um caso específico.
□ No limite em que uma pessoa nunca tivesse nenhum julgamento moral ponderado prévio sobre nenhum caso, o método do equilíbrio reflexivo amplo perderia um dos três tipos de crença moral que ele busca tornar coerentes entre si.
□ A Seta 2 (Fase 4 → Fase 1), que no caso Highway Safety aparece quando a lente kantiana revela uma dimensão de justiça que a formulação original não via, se aplicaria da mesma forma a uma equipe que, ao tentar aplicar um teste de equidade a um algoritmo de concessão de crédito já em produção, percebe que o problema originalmente formulado como “maximizar a precisão do modelo” escondia uma dimensão de justiça distributiva entre grupos.
□ Como o livro afirma explicitamente a Seta 2, mas não afirma explicitamente as Setas 1 e 3 (que são reconstruções pedagógicas), isso significa que as Setas 1 e 3 não têm nenhuma base no texto do livro e foram inventadas sem qualquer relação com o que os autores escreveram.

Teste 11 — Caso Highway Safety — aplicando o ciclo

□ Se David Weber tivesse ignorado completamente a crítica de Whitbeck e nunca considerado nenhuma alternativa além de A ou B, isso significaria que ele necessariamente teria formulado mal a Fase 1 do problema, independente de qualquer outro fator.
□ Se o Cruzamento A tivesse exatamente o mesmo tráfego diário do Cruzamento B (20.000 veículos/dia em ambos), mas mantendo os mesmos números absolutos de fatalidades (2 em A, 1 em B), o argumento utilitarista continuaria recomendando o Cruzamento A, e o argumento kantiano de justiça baseado em “risco por veículo” passaria a recomendar exatamente a mesma coisa, porque os dois cruzamentos teriam risco por veículo idêntico.
□ A mesma tensão do caso Highway Safety entre “reduzir o total de incidentes” e “reduzir a desigualdade de risco entre grupos” apareceria de forma estruturalmente análoga numa prefeitura decidindo entre pavimentar uma avenida movimentada do centro ou uma estrada rural usada por poucas famílias que enfrentam buracos perigosos com frequência.
□ Como o livro conclui que não é possível criar um esquema de precificação de vidas em que o Cruzamento B pontue melhor (a menos que se atribua peso negativo à vida humana), isso significa que a teoria kantiana/de justiça está simplesmente errada neste caso, e só a conclusão utilitarista deveria ser considerada válida.

Teste 12 — Fechamento — as quatro perspectivas de Steen e a metáfora da bússola

□ Se Steen tivesse chamado sua quarta perspectiva de “ética do cuidado” em vez de “ética relacional”, a nota de precisão da aula sobre não termos confirmado se as duas formulações são idênticas palavra por palavra deixaria de ser necessária, porque bastaria o nome ser igual para garantir que o conteúdo é o mesmo.
□ Se as quatro perspectivas de Steen sempre concordassem exatamente na mesma recomendação para qualquer decisão de projeto, a metáfora da bússola moral perderia parte de sua utilidade pedagógica, porque um dos pontos centrais da metáfora é que bússolas diferentes apontam para direções (valores) diferentes, não necessariamente para o mesmo caminho.
□ A prática de workshops de “Deliberação Ética Rápida” (aplicar as quatro perspectivas de Steen a um mesmo projeto) se aplicaria, com a mesma lógica, a uma equipe decidindo se deve lançar uma funcionalidade de reconhecimento facial em um aplicativo de segurança residencial, mesmo sem qualquer material formal de ética disponível durante a reunião.
□ Como a bússola moral “não diz para onde ir”, isso significa que teorias éticas são inúteis para a tomada de decisão prática, e é melhor confiar apenas na intuição não examinada de quem decide.