Aula 2: O Que é Ética, e o Ciclo Ético
Computação e Sociedade
1 Highway Safety — um caso sem resposta óbvia
A Aula 1 terminou numa lacuna: se nenhum ator decide isoladamente e as consequências de uma escolha técnica são difíceis de prever, como raciocinar sistematicamente sobre o que é certo fazer? Esta aula começa com um caso concreto, sem resolver nada ainda.
David Weber, 23 anos, é engenheiro civil responsável por melhorias de segurança viária num distrito de oito condados. Perto do fim do ano fiscal, sobram $50.000 não comprometidos (o orçamento previsto para uma nova máquina de remoção de neve não foi usado). David precisa recomendar um único projeto de segurança, e reduziu a escolha a duas opções:
- Cruzamento A (urbano): 20.000 veículos/dia na via principal; 2 fatalidades e 6 feridos por ano (médias de 3 anos).
- Cruzamento B (rural): 5.000 veículos/dia na via principal; 1 fatalidade e 2 feridos por ano.
Ambas as melhorias (novos semáforos) custam exatamente os mesmos $50.000. Não é possível fazer as duas.
“Qual das duas melhorias de local você acha que David deveria recomendar? Qual é a justificativa para essa recomendação?” (Van de Poel & Royakkers, 2011, p. 149, tradução nossa)
Repare que a pergunta tem duas partes: qual cruzamento, e por quê. A segunda parte é o que interessa a esta aula — não existe uma resposta puramente técnica aqui (os dados de tráfego e acidentes não “decidem” por si só), mas também não é uma questão de gosto pessoal. É preciso um raciocínio moral argumentável. Vamos construir, nos próximos três blocos, as ferramentas para responder essa pergunta com rigor — e depois voltar a este caso exatamente onde paramos.
Os dados de tráfego e acidentes de David não “decidem” por si só qual cruzamento escolher — mas isso não faz da escolha uma questão de gosto pessoal. O que, exatamente, transforma “qual cruzamento reformar” numa pergunta que precisa de raciocínio moral argumentável, e não só de uma tabela de números?
Dica: pense no que mudaria se os dois cruzamentos tivessem exatamente os mesmos números — a decisão deixaria de envolver valores em conflito, ou só deixaria de ser numericamente ambígua?
- □ Se os dois cruzamentos tivessem exatamente o mesmo número de acidentes por veículo e o mesmo número absoluto de mortes, a escolha entre A e B deixaria de ser uma questão moral e se tornaria puramente administrativa (por exemplo, qual obra é mais barata de manter).
- □ Se o Cruzamento B tivesse exatamente risco zero por veículo (ninguém nunca se machucasse lá, independentemente do tráfego), a tensão entre “reduzir mais vidas em números absolutos” (Cruzamento A) e “reduzir o risco relativo mais alto por veículo” (Cruzamento B) desapareceria, e a recomendação utilitarista e a recomendação baseada em justiça convergiriam para a mesma escolha.
- □ O mesmo tipo de tensão do caso Highway Safety (total de vidas salvas vs. risco por unidade exposta) apareceria de forma estruturalmente análoga se um hospital tivesse que escolher entre expandir a UTI que atende mais pacientes no total ou a que atende proporcionalmente mais pacientes de alto risco.
- □ Como o cálculo dos dados de tráfego não decide sozinho qual cruzamento escolher, a decisão de David é, no fundo, uma questão de preferência pessoal, sem nenhum critério objetivamente melhor que outro.
2 Teorias Éticas Normativas
Van de Poel & Royakkers (2011, §3.6, p. 78) organizam as principais teorias éticas por onde elas colocam o ponto de partida do julgamento moral: no ator (seu caráter), na ação (as normas que ela segue), ou nas consequências (os valores que ela produz).
| Ator | Ação | Consequências | |
|---|---|---|---|
| Teoria | Ética das virtudes | Deontologia | Utilitarismo |
| Ponto de partida | Virtudes | Normas | Valores |
O livro trata essas três, mais uma quarta (ética do cuidado, §3.10), com o mesmo peso — vamos ver as quatro. E, em cada uma, o fio condutor não é só “qual é a resposta desta teoria”, mas como a profundidade da análise pode inverter a resposta dentro da própria teoria — o desacordo entre utilitarismo e kantismo (que veremos no caso Highway Safety, Bloco 4) é só metade da história; a outra metade é que cada teoria, sozinha, já é capaz de apontar em direções opostas dependendo de quão a fundo se aplica.
2.1 Utilitarismo: a maior felicidade para o maior número
Jeremy Bentham fundou o utilitarismo sobre a ideia de que prazer e dor são os verdadeiros “senhores soberanos” da vida humana — o critério último para julgar qualquer ação:
“Bentham chama o prazer e a dor de senhores soberanos do ser humano. Aquilo que proporciona prazer ou evita a dor é bom, e aquilo que proporciona dor ou reduz o prazer é mau. […] É um fato elementar da experiência que as pessoas buscam, por natureza, o prazer e evitam a dor. […] Com base nessa experiência, as pessoas podem formar um julgamento moral sem a intervenção de uma autoridade, como um legislador ou Deus.” (Van de Poel & Royakkers, 2011, p. 81, tradução nossa)
Esse compromisso com o prazer como único bem em si mesmo tem nome: hedonismo. A partir dele, Bentham formula o critério moral central do utilitarismo, o princípio da utilidade:
“O único critério moral para o bem e o mal está no que Bentham chama de princípio da utilidade: a maior felicidade para o maior número (de membros da comunidade). […] Aplicar essa teoria a um problema moral significa elaborar um balanço moral. Aqui, os custos e benefícios de cada ação possível devem ser pesados uns contra os outros. A ação com o melhor resultado (proporcionando a maior utilidade) é a que deve ser preferida.” (p. 81, tradução nossa)
Bentham levou essa ideia a sério ao ponto de propor um método quantitativo — um “balanço moral” — que soma os prazeres e dores esperados de cada ação, ponderados por critérios como intensidade, duração e certeza, e escolhe a ação com o maior saldo positivo. É essa mesma lógica de “somar custos e benefícios” que reaparece, séculos depois, em toda análise de custo-benefício.
John Stuart Mill herdou o utilitarismo de Bentham e o corrigiu em dois pontos distintos — vale entender os dois separadamente, porque cada um resolve um problema diferente do utilitarismo de Bentham.
Primeiro ponto: nem todo prazer vale o mesmo. Bentham tratava o prazer como uma quantidade só, medível numa única escala. Mill discorda: para ele, há prazeres qualitativamente superiores a outros — independente da quantidade.
“É melhor ser um ser humano insatisfeito do que um porco satisfeito; melhor ser Sócrates insatisfeito do que um tolo satisfeito. […] Desejos ‘superiores’, como os intelectuais, devem ser preferidos a desejos ‘inferiores’, como os físicos ou animais.” (Mill, 1863, apud Van de Poel & Royakkers, 2011, p. 84, tradução nossa)
Segundo ponto: o utilitarismo puro de Bentham permitiria sacrificar uma minoria, se isso maximizasse o total de felicidade da maioria — nada, no cálculo de Bentham, protege o indivíduo isolado contra o interesse do grupo. A correção de Mill para esse problema é o princípio de liberdade:
“Segundo Mill, devemos escolher a ação que proporciona mais prazer, mas que não entra em conflito com a natureza e a dignidade humanas. […] ele introduz o princípio de liberdade: cada pessoa é livre para buscar seu próprio prazer, contanto que isso não negue nem impeça o prazer de outras pessoas.” (p. 84, tradução nossa)
Repare que as duas correções de Mill respondem a objeções diferentes: a primeira (prazeres superiores/inferiores) refina o que conta como prazer; a segunda (princípio de liberdade) limita até onde buscar prazer é aceitável, protegendo minorias e indivíduos.
Mesmo com essas correções, o utilitarismo — em qualquer uma de suas formas — recebeu críticas importantes, que vale conhecer com cuidado porque reaparecem, disfarçadas, em debates atuais sobre tecnologia.
“A primeira crítica é que as consequências não podem ser previstas objetivamente e frequentemente são imprevisíveis, desconhecidas ou incertas. Uma solução óbvia é trabalhar com as consequências esperadas e o prazer associado a elas. No século XX, essa noção ganhou até uma fundamentação matemática, usando estatística.” (p. 86, tradução nossa)
Calcular consequências exige prever o futuro — algo que já vimos falhar dramaticamente no dilema de Collingridge (Aula 1, caso do Teflon). A resposta usual — trabalhar com consequências esperadas (probabilidade vezes impacto) — não elimina o problema, só o formaliza: a incerteza continua lá, agora escondida dentro de uma probabilidade estimada.
“Além disso, há o problema da justiça distributiva. Justiça distributiva se refere ao valor de ter uma distribuição justa de bens importantes, como renda, felicidade e carreira. O utilitarismo pode levar a uma divisão injusta de custos e benefícios. Segundo o filósofo político John Rawls, o utilitarismo sofre desse problema porque não reconhece a separação fundamental entre as pessoas (Rawls, 1971). Em vez disso, o utilitarismo trata a sociedade como um todo, no qual o prazer deve ser aumentado segundo o critério ‘a maior felicidade para o maior número’. A questão de como essa felicidade se distribui é negligenciada.” (p. 86, tradução nossa)
Este é o ponto mais citado da crítica de Rawls: somar o bem-estar total pode estar matematicamente correto e ainda assim ser moralmente injusto, porque a soma não vê quem especificamente carrega o custo — dez pessoas ganhando um pouco pode “valer mais”, na soma, do que uma pessoa perdendo tudo, mesmo que intuitivamente isso pareça errado. Dois utilitaristas tentaram remendar esse ponto sem abandonar a teoria: Sidgwick propôs que, entre situações de felicidade total igual, prefira-se a mais equitativamente distribuída; Richard Hare notou que a utilidade marginal decrescente (um real a mais vale mais para quem é pobre do que para quem já é rico) já empurra o cálculo utilitarista, por conta própria, na direção de menos desigualdade — sem precisar de um princípio de justiça separado, importado de fora da teoria.
“O utilitarismo ignora as relações pessoais entre as pessoas. No balanço hedonista de Bentham, cada indivíduo conta como uma unidade anônima. […] Na vida cotidiana, a felicidade de algumas pessoas tem um impacto maior sobre nós do que a felicidade de outras. Se você estivesse num naufrágio e tivesse que escolher entre salvar um amigo ou um cirurgião famoso, a teoria utilitarista determina que salvar o cirurgião é a coisa certa a fazer, porque ele é mais útil para a sociedade. Essa escolha ignora o fato de que são indivíduos específicos que querem ser felizes, e que isso realmente depende de quem é feito mais feliz.” (p. 87, tradução nossa)
Mill chamava os seguidores mais estritos de Bentham de “máquinas de raciocinar” por essa razão exata: o cálculo tradicional não tem espaço para o fato de que você tem obrigações morais especiais com quem tem uma relação particular com você — um argumento que a ética do cuidado (mais adiante neste bloco) leva ainda mais a fundo, ao colocar justamente a relação concreta no centro da teoria.
“Certas ações são moralmente aceitáveis mesmo que não gerem prazer, e algumas ações que maximizam o prazer são moralmente inaceitáveis. […] Kant sempre considera mentir moralmente errado, mesmo que isso resulte em mais prazer, ou no prazer máximo, em certas situações. […] Segundo o utilitarismo, mesmo as regras mais fundamentais — como os direitos humanos formulados na Declaração Universal dos Direitos Humanos (1948) — podem ser quebradas se as consequências positivas forem maiores que as negativas. […] Suponha, por exemplo, que um engenheiro seja solicitado a falsificar as medições que reportou, porque os resultados corretos teriam consequências negativas importantes.” (p. 87, tradução nossa)
Uma resposta parcial a esta crítica e à Crítica 3: o utilitarismo de regras não julga a ação isolada, mas a regra geral por trás dela — “dados de medição devem ser relatados corretamente” maximiza a felicidade como regra geral, mesmo que falsificar um relatório específico pudesse, isoladamente, produzir mais prazer numa situação pontual:
“O utilitarismo de regras olha para as consequências das regras (em contraste com as ações) para aumentar a felicidade. Embora falsificar medições possa aumentar a utilidade social numa situação específica, um utilitarista de regras não permitiria isso, porque a regra ‘dados de medição devem ser apresentados corretamente’ geralmente promove a felicidade dentro da sociedade.” (p. 88, tradução nossa)
O caso Ford Pinto é o exemplo do próprio livro para mostrar que “utilitarismo” não é uma resposta única — é uma família de cálculos que podem discordar entre si. Comecemos pelo cálculo mais raso, o da própria Ford:
“No caso Ford Pinto, a empresa Ford apresentou um argumento ato-utilitarista, fazendo uma análise de custo-benefício para justificar que o modelo defeituoso do veículo não seria recolhido e corrigido pela Ford. […] o custo social total de reformar todos os carros era maior do que o custo social dos acidentes esperados.” (p. 88, tradução nossa)
Esse cálculo tem problemas — alguns só práticos, outros mais profundos:
“Primeiro, os valores monetários que a Ford atribuiu a diferentes tipos de dano (morte, ferimentos) parecem bastante arbitrários. […] Segundo, pode-se questionar quão confiáveis são as estimativas, por exemplo, do número de fatalidades. […] Além dessas objeções mais práticas, o caso também ilustra algumas das objeções mais fundamentais ao utilitarismo. […] a Ford adotou uma política que permitia que um certo número de pessoas morresse ou se ferisse, mesmo podendo ter evitado isso. […] o caso mostra como um argumento utilitarista pode levar ao abandono de princípios inerentes, como ‘não se pode colocar um valor sobre a vida humana’, ou o princípio de liberdade de Mill. Segundo esse último princípio, a Ford deveria ter recolhido e reparado o carro.” (p. 88, tradução nossa)
Note o que já aconteceu aqui dentro do próprio utilitarismo: o cálculo raso de Bentham (custo total vs. benefício total) diz “não recolher”; a correção de Mill (não ferir a dignidade humana em nome do prazer agregado) já aponta para o oposto — “a Ford deveria ter recolhido o carro”. E o livro vai um passo além, aplicando utilitarismo de regra, não de ato, ao mesmo caso:
“Algumas dessas objeções poderiam ser superadas aplicando o utilitarismo de regras ao caso. Aí, a pergunta seria se seguir regras como ‘empresas devem recolher um carro se ele for inseguro’ ou ‘empresas devem produzir carros seguros’ maximiza a felicidade geral. Como isso parece ser o caso, a Ford estava eticamente obrigada a recolher o carro, porque isso é exigido por regras das quais toda a sociedade se beneficiaria mais no longo prazo. Assim, no caso do utilitarismo de regras, o fato de uma ação maximizar a utilidade numa ocasião particular não mostra que ela seja certa do ponto de vista ético.” (pp. 88–89, tradução nossa)
Três formulações da mesma família de teoria, aplicadas ao mesmo caso, com os mesmos fatos — e três conclusões: cálculo de ato raso (não recolher), correção pelo princípio de liberdade (recolher), utilitarismo de regra (recolher, e “eticamente obrigado”). O problema com o argumento de Ford nunca foi “utilitarismo diz para não recolher” — foi que a Ford escolheu a formulação mais rasa e mais conveniente do cálculo utilitarista disponível, entre várias.
“Quanto devemos levar em conta as possíveis consequências ao fazer uma escolha ética? Quanto esforço devemos empregar para garantir que a avaliação dos resultados esteja correta?” (Van de Poel & Royakkers, 2011, Discussion Question 4, p. 108, tradução nossa)
No caso Ford Pinto, três formulações utilitaristas diferentes (o cálculo de ato raso da própria Ford, a correção pelo princípio de liberdade de Mill, o utilitarismo de regra) chegaram a três conclusões: não recolher, recolher, e recolher-e-obrigada. Nenhuma delas trocou de teoria. O que, exatamente, mudou entre uma formulação e a outra?
Dica: pense em qual pergunta cada formulação está, de fato, respondendo — “qual ato isolado maximiza o prazer agora?” não é a mesma pergunta que “qual regra geral maximiza o prazer no longo prazo?”.
- □ Se a Ford tivesse aplicado, desde o início, um utilitarismo de regra em vez do cálculo de ato raso, a análise de custo-benefício que ela apresentou publicamente teria produzido a mesma recomendação de não recolher o carro.
- □ Se a utilidade marginal decrescente do dinheiro fosse exatamente zero (um real vale exatamente o mesmo para qualquer pessoa, rica ou pobre), a resposta de Hare à crítica de Rawls sobre justiça distributiva perderia sua base, e o cálculo utilitarista puro não teria nenhuma tendência interna a favorecer distribuições mais igualitárias.
- □ O mesmo padrão do caso Ford Pinto — um cálculo de ato raso e um cálculo de utilitarismo de regra, aplicados ao mesmo fato, gerando conclusões opostas — se aplicaria, em princípio, a uma empresa de software decidindo se corrige uma vulnerabilidade de segurança barata de explorar, mas presente em milhões de dispositivos.
- □ Como Mill acrescenta o princípio de liberdade para proteger minorias, isso significa que, a partir de Mill, o utilitarismo deixou de ser uma teoria consequencialista e passou a ser equivalente à teoria kantiana quanto à proteção do indivíduo.
2.2 Teoria kantiana: o dever, não a consequência
Immanuel Kant recusa fundar a ética na felicidade — para ele, a base é o dever. Isso exige entender três ideias em sequência, porque nenhuma delas é óbvia à primeira vista: autonomia, a diferença entre normas hipotéticas e categóricas, e só então o imperativo categórico propriamente dito.
Autonomia. Para Kant, ser moral não é obedecer regras impostas de fora (por uma religião, uma lei, ou um costume social) — é a própria pessoa, usando a razão, determinando o que é certo e se obrigando a segui-lo:
“Uma noção central na ética kantiana é a autonomia. Na visão de Kant, o próprio ser humano deve ser capaz de determinar o que é moralmente correto através do raciocínio […]. Devemos obedecer essa norma por um senso de dever — por respeito à norma moral. É só então que estamos agindo com boa vontade.” (p. 89, tradução nossa)
Note a diferença para o utilitarismo: lá, uma ação é boa se produz boas consequências; para Kant, uma ação só tem valor moral genuíno se for feita por dever, isto é, por respeito à norma — não porque o resultado é conveniente, nem porque alguém está de olho.
Normas hipotéticas vs. categóricas. Kant distingue dois tipos de norma pela forma como se aplicam:
“Uma norma hipotética costuma ter a seguinte forma: ‘se você quer X, faça Y.’ […] Em contraste com uma norma categórica, uma norma hipotética (condicional) só se aplica sob certas circunstâncias.” (p. 90, tradução nossa)
Uma norma hipotética depende de um objetivo que você escolhe ter (“se você quer ser promovido, chegue cedo ao trabalho”) — deixe de querer o objetivo, e a norma deixa de valer para você. Uma norma categórica não depende de nenhum objetivo — ela vale incondicionalmente, para qualquer pessoa, em qualquer situação, exatamente porque é derivada da razão pura, não de um desejo específico. É esse segundo tipo que sustenta a moralidade, na visão de Kant.
Desse raciocínio, Kant deriva um único princípio racional supremo, o imperativo categórico, formulado de duas maneiras que ele considera equivalentes.
Primeira formulação — universalidade. A ideia: antes de agir, pergunte-se se a regra por trás da sua ação (a “máxima”) poderia valer para todo mundo, sempre, sem contradição.
“A primeira formulação do imperativo categórico, o princípio de universalidade, é a seguinte: ‘Aja apenas segundo a máxima pela qual você possa, ao mesmo tempo, querer que ela se torne uma lei universal.’” (p. 90, tradução nossa)
O próprio livro ilustra isso com um exemplo simples, antes de qualquer caso de engenharia — vale entender esse exemplo primeiro, porque o teste é mais sutil do que parece:
“Suponha que alguém esteja numa situação em que seria mais conveniente quebrar uma promessa. Digamos que a pessoa se pergunte se é moralmente aceitável quebrar sua promessa quando isso for conveniente para ela. A máxima da ação a ser realizada é: ‘posso quebrar minhas promessas quando isso for conveniente para mim.’ O imperativo categórico afirma que é moralmente aceitável se eu puder desejar que todo mundo quebre suas promessas sem contradição. Quebrar uma promessa só é possível se as pessoas confiarem no costume de fazer (e cumprir) promessas. Se quebrar a promessa por conveniência se tornasse uma lei geral, ninguém mais confiaria em ninguém para cumprir uma promessa.” (p. 90, tradução nossa)
Note a estrutura do argumento: não é que quebrar promessas seja “feio” ou produza más consequências — é que a própria prática de prometer só existe porque as pessoas geralmente confiam nela. Se todo mundo quebrasse promessas por conveniência, o ato de prometer perderia seu sentido — a máxima se autodestrói quando universalizada. É essa autocontradição lógica, não um cálculo de consequências, que torna a ação errada para Kant.
Segunda formulação — reciprocidade. A ideia: nunca trate uma pessoa apenas como um instrumento para seus próprios fins — toda pessoa, por ser racional, merece ser tratada também como um fim em si mesma.
“A segunda formulação do imperativo categórico, o princípio de reciprocidade, é a seguinte: ‘Aja de modo a tratar a humanidade, seja na sua própria pessoa, seja na de qualquer outro, sempre também como um fim, nunca meramente como um meio.’” (p. 91, tradução nossa)
De novo, um exemplo simples antes de qualquer caso técnico:
“Usar pessoas é desrespeitar sua humanidade. Digamos que eu peça dinheiro emprestado a alguém e prometa pagar de volta, embora eu saiba que não vou fazer isso. Nesse caso, estou usando a pessoa a quem fiz a promessa como um meio, e não como um fim. Estou enganando essa pessoa, ou enganando sua racionalidade. Não forneci informação suficiente sobre o fato de que não vou cumprir minha promessa, de modo que essa pessoa não pode fazer uma escolha racional. Provavelmente ela não teria me emprestado o dinheiro se soubesse que eu não pretendia pagá-lo de volta. Estou usando a racionalidade dela como um meio para atingir meu próprio objetivo.” (p. 91, tradução nossa)
O ponto central: tratar alguém “meramente como meio” não é sobre pedir favores ou usar serviços de outra pessoa (isso é normal e aceitável) — é sobre negar a essa pessoa a informação que ela precisaria para decidir racionalmente por si mesma. É exatamente esse mecanismo — enganar a racionalidade alheia, não a mentira em si — que reaparece, mais adiante, no caso Ford Pinto.
Diferente do utilitarismo, aqui as consequências não importam para julgar se uma ação é certa — o que importa é (a) se a norma por trás dela pode valer universalmente, sem contradição lógica, e (b) se ela trata pessoas como fins racionais capazes de decidir por si, não como meros instrumentos.
O teste de universalidade parece mecânico, mas ele esconde uma escolha: como formular a máxima. Isso não é uma discussão do livro-base desta disciplina — é uma objeção conhecida à ética kantiana, às vezes chamada de “problema da formulação da máxima” (quão específica ou genérica deve ser a descrição da ação para testá-la?), sinalizada aqui como síntese própria, não citação de Van de Poel & Royakkers.
Aplicada ao Ford Pinto: um kantiano raso poderia formular a máxima de Ford de forma genérica e favorável — “empresas podem decidir não corrigir um defeito quando o custo da correção supera um determinado limiar calculado atuarialmente.” Formulada assim, de forma abstrata, a máxima nem parece obviamente não-universalizável — empresas fazem esse tipo de cálculo de forma rotineira e aceita. A contradição só aparece quando a máxima é formulada de forma honesta e específica, como o próprio livro faz ao aplicar o teste ao caso real (ver abaixo). A teoria kantiana não decide, por si só, o quão específica a máxima deve ser — isso depende da honestidade e profundidade de quem aplica o teste, exatamente como no utilitarismo o problema não era a teoria, era a superficialidade do cálculo de Ford.
Vejamos agora a aplicação honesta e específica, como o próprio livro faz — usando exatamente os dois testes que acabamos de construir com os exemplos da promessa e do empréstimo:
“Para aplicar o primeiro imperativo categórico de Kant, o princípio de universalidade, ao caso Ford Pinto […]. Se isso se tornasse uma lei universal, comercializar carros se tornaria impossível, porque nenhuma pessoa racional compraria mais um carro, já que não poderia confiar que o carro seria seguro.” (p. 95, tradução nossa)
“O segundo imperativo categórico, o princípio de reciprocidade, diz que as pessoas não devem ser tratadas como meros meios. […] Se os consumidores soubessem o que a Ford sabia sobre a segurança do Ford Pinto, provavelmente teriam pensado duas vezes antes de comprar o carro. […] a capacidade racional do consumidor foi assim minada, e eles foram usados meramente como um meio […] para atingir o objetivo da Ford: aumentar seu faturamento.” (p. 95, tradução nossa)
Note a diferença de foco em relação à análise utilitarista do mesmo caso: o kantiano nem precisa calcular custos e benefícios — a violação está em não informar os consumidores (exatamente o mesmo mecanismo do exemplo do empréstimo), o que por si só já os trata como meio, independentemente do resultado financeiro agregado.
A teoria kantiana também tem seu próprio problema de profundidade — não na formulação da máxima, mas na rigidez de aplicar a norma resultante sem excepcionar nunca. O próprio Kant levou isso ao extremo num ensaio famoso — Sobre um Suposto Direito de Mentir por Filantropia (1797) — argumentando que seria moralmente errado mentir mesmo para um assassino que pergunta onde está escondido um amigo seu, que ele pretende matar.
A maioria das pessoas sente que mentir para o assassino é obviamente certo — o que revela o problema:
“Na teoria de Kant não existe algo como flexibilizar uma regra. Kant não permite nenhuma exceção em sua teoria.” (p. 93, tradução nossa)
William David Ross propôs uma saída pluralista sem abandonar as normas — e vale entender com cuidado o que ele está propondo, porque o termo técnico central, prima facie (expressão em latim que significa literalmente “à primeira vista” ou “à primeira aparência”), não é autoexplicativo.
A ideia de Ross é que o bem se situa em dois níveis distintos: o que parece bom quando se olha uma norma isoladamente (nível 1: prima facie — “à primeira vista”), e o que é de fato bom depois de considerar toda a situação concreta (nível 2: o dever real, “auto-evidente”):
“Ross afirma que o bem frequentemente se situa em dois níveis: o que parece ser bom à primeira vista, e aquilo que é bom depois de levarmos tudo em consideração. As normas do primeiro nível são chamadas de normas prima facie, e as do segundo nível são chamadas de normas auto-evidentes (‘deveres sem qualificação’).” (p. 93, tradução nossa)
Em outras palavras: uma norma prima facie é um dever genuíno — não é “fake” nem opcional —, mas é um dever que pode ser superado por outro dever mais forte, revelado só quando se olha a situação completa, não isoladamente. Isso é diferente de dizer “a norma não vale nada” — ela continua pesando na balança, só que pode perder para outra norma mais relevante naquele contexto específico. E o próprio livro dá um exemplo bem mais cotidiano — sem o desconforto factual de casos extremos — para ilustrar como isso funciona na prática:
“Digamos que você prometa a seus alunos que vai corrigir os trabalhos deles até o final da próxima semana. Depois, um bom amigo seu se mete em problemas e precisa de ajuda. O fato de você ter prometido corrigir os trabalhos não desaparece. Ambas as normas são normas prima facie, mas, ao examinar mais de perto, só a norma ‘você deve ajudar seu amigo’ é uma norma auto-evidente, enquanto a outra (‘você deve cumprir sua promessa’) não é.” (pp. 93–94, tradução nossa)
Repare que Ross não está dizendo “prometer não importa” — ele está dizendo que, nesta situação concreta, o dever de ajudar um amigo em apuros é mais fundamental do que o dever de cumprir uma promessa relativamente trivial (corrigir trabalhos a tempo). Mude os detalhes da situação — por exemplo, se a promessa fosse algo com consequências graves para terceiros — e o resultado da comparação entre as duas normas prima facie poderia se inverter. Ross não abandona as normas — ele só admite que uma norma prima facie pode ser superada por outra mais fundamental na situação concreta, sem que isso vire “vale tudo, cada um decide por conta própria”. Isso não resolve o assassino à porta por mágica — mas dá um vocabulário preciso para explicar por que quase todo mundo sente que, ali, mentir é o dever de nível mais profundo (o auto-evidente), e não apenas uma exceção arbitrária à regra de não mentir.
“Existem regras absolutas que nunca deveriam ser quebradas, sejam quais forem as circunstâncias? Defenda seu ponto de vista.” (Van de Poel & Royakkers, 2011, Discussion Question 1, p. 108, tradução nossa)
Kant não admite exceção nenhuma às suas normas — nem para o assassino à porta. Ross responde sem abandonar as normas, só admitindo que uma norma prima facie pode ser superada por outra mais fundamental, na situação concreta. Isso resolve o problema, ou só o adia?
Dica: pense no que exatamente Ross muda — ele elimina o dever de dizer a verdade, ou só admite que outro dever pode pesar mais nesta situação específica?
- □ Se Kant tivesse aceitado a distinção de Ross entre normas prima facie e normas auto-evidentes, o dilema do assassino à porta deixaria de ser um problema para a ética kantiana, porque mentir para salvar o amigo poderia ser justificado como o dever mais fundamental na situação, superando o dever prima facie de dizer a verdade.
- □ No limite em que uma máxima é formulada de forma extremamente genérica e abstrata (por exemplo, “agir de acordo com uma política de custo-benefício”), o teste de universalidade do imperativo categórico deixa de conseguir, por si só, distinguir uma ação moralmente aceitável de uma inaceitável.
- □ A mesma lógica usada para mostrar que a Ford tratou os consumidores como meros meios (ao não informar sobre o defeito, minando a capacidade racional deles de decidir) se aplicaria a uma empresa de tecnologia que engana usuários sobre como seus dados são usados através de um termo de uso deliberadamente obscuro, mesmo que nenhum dano físico ocorra.
- □ Como tanto Kant quanto Ross concordam que existem deveres morais, a diferença entre suas posições é apenas terminológica — Ross só deu um nome novo (prima facie) para as mesmas exceções que Kant já permitiria caso a caso.
2.3 Ética das virtudes: o caráter de quem age
As duas teorias acima julgam a ação. A ética das virtudes desloca o alvo para quem age:
“Em vez de tomar a ação como ponto de partida do julgamento moral, a ética das virtudes foca na natureza da pessoa que age. Essa teoria indica quais características boas ou desejáveis as pessoas deveriam ter ou desenvolver, e como as pessoas podem alcançá-las.” (p. 95, tradução nossa)
A tradição remonta a Aristóteles, para quem o objetivo final da ação humana é a eudaimonia — a “vida boa”:
“Segundo Aristóteles, o objetivo final da ação humana é buscar o bem maior: a eudaimonia. Isso pode ser traduzido como ‘a vida boa’ […]. Isso não se refere a uma circunstância feliz que traz prazer (o objetivo dos utilitaristas clássicos), mas a um estado de ser uma boa pessoa. […] A vida boa é, portanto, uma vida ativa, em conformidade com as virtudes necessárias para realizar o potencial exclusivamente humano de cada um.” (p. 96, tradução nossa)
Cada virtude moral é, para Aristóteles, um meio-termo entre dois vícios opostos — nem excesso, nem falta:
“Cada virtude moral […] é o meio-termo entre dois extremos do mal; a coragem está equilibrada entre a covardia e a imprudência, por exemplo, a generosidade entre a mesquinhez e o esbanjamento, e o orgulho entre a subserviência e a arrogância.” (p. 97, tradução nossa)
E, diferente de Kant, Aristóteles não acredita que exista uma fórmula universal para encontrar esse meio-termo em cada situação — é preciso sabedoria prática:
“Diferente de Platão (e, depois, de Kant), Aristóteles argumenta que o bem às vezes é ambíguo. No entanto, as pessoas não são impotentes para encontrar o meio-termo. […] a sabedoria prática […] consiste na capacidade de escolher o meio-termo certo entre dois vícios.” (p. 98, tradução nossa)
Nas outras teorias, profundidade significava “calcular melhor” ou “formular a máxima com mais honestidade”. Na ética das virtudes, o problema é outro: rotular uma ação de “corajosa” ou “honesta” é fácil — saber se o traço de caráter por trás dela é genuinamente uma virtude é mais difícil, porque a mesma qualidade psicológica pode servir a fins opostos.
“William Frankena argumenta que a ética das virtudes não é essencialmente diferente da ética do dever […]. a ética das virtudes não dá pistas concretas sobre como agir ao resolver um caso, em contraste com o utilitarismo e a ética kantiana.” (p. 98, tradução nossa)
“Podemos nos juntar a Kant ao questionar se podemos simplesmente declarar uma virtude moral como boa em si mesma, sem nenhuma reserva. O exemplo de Kant para isso é um psicopata frio, cujas virtudes de moderação da consciência e da paixão, autocontrole e deliberação fria o tornam muito mais terrível do que ele seria sem essas virtudes.” (p. 99, tradução nossa)
Firmeza e autocontrole só são virtudes quando estão a serviço de um bom caráter — na mão errada, essas mesmas qualidades tornam alguém mais perigoso, não menos. Uma análise rasa de virtudes para (rotula o traço); uma análise mais profunda pergunta o que esse traço está a serviço de.
Para a engenharia especificamente, Michael Pritchard propõe uma lista de virtudes profissionais mais concretas do que “seja uma boa pessoa”:
“Virtudes para engenheiros moralmente responsáveis: perícia técnica e profissionalismo; comunicação clara e informativa; cooperação; disposição para fazer concessões; objetividade; abertura à crítica; resistência; criatividade; busca pela qualidade; e o hábito de relatar seu trabalho com cuidado.” (Pritchard, 2001, apud Van de Poel & Royakkers, 2011, p. 99, tradução nossa)
O engenheiro William LeMessurier projetou o Citicorp Center em Manhattan (1977), com pilares elevados em uma estrutura inovadora. Durante a construção, os contratantes trocaram, sem avisá-lo, as conexões de solda por parafusos (mais baratos) — uma escolha tecnicamente aceitável isoladamente.
Um ano depois, um estudante ligou para LeMessurier repassando uma dúvida de seu professor sobre a posição dos pilares. Em vez de descartar a observação:
“Como LeMessurier levou a sério as observações do estudante e do professor, ele decidiu fazer outros testes de resistência ao vento, além dos testes padrão. […] LeMessurier chegou à conclusão de que o edifício não era tão seguro quanto ele pensava. Uma tempestade que ocorre a cada 16 anos poderia soltar uma das conexões, e o edifício inteiro poderia desabar.” (p. 101, tradução nossa)
Ele então informou voluntariamente advogados, seguradoras, o arquiteto-chefe e a prefeitura — mesmo sem ser tecnicamente obrigado a isso, e mesmo correndo risco à própria reputação:
“Michael Pritchard […] indica que a maneira como LeMessurier agiu foi exemplar — e, portanto, louvável […]. Primeiro, foi preciso muita coragem para relatar o erro […]. Segundo, LeMessurier não só relatou o problema, como também propôs uma solução para ele […]. Ao levar a sério as objeções do estudante e de seu professor, LeMessurier também demonstrou outra virtude: abertura à crítica.” (p. 101, tradução nossa)
Este caso ilustra bem por que a ética das virtudes complementa as outras duas: nem o cálculo utilitarista, nem a norma kantiana, capturam sozinhos por que ouvir a crítica de um estudante — sem obrigação formal de fazê-lo — é louvável. É uma questão de caráter.
James, engenheiro na empresa AERO, está testando a confiabilidade de um novo motor. Seu chefe pede que ele abandone testes que considera cruciais para entregar o relatório mais rápido, para agradar um cliente importante. James decide seguir a ordem e entregar o relatório sem terminar os testes.
Quais virtudes são relevantes para um engenheiro fazendo testes como James — mencione ao menos quatro. Qual ação elas sustentam?
(adaptado de Van de Poel & Royakkers, 2011, Study Question 10, p. 108)
LeMessurier foi louvado por coragem e abertura à crítica. Kant, por sua vez, usa o “psicopata frio” para mostrar que autocontrole e firmeza também podem tornar alguém mais perigoso, não menos. O que distingue uma virtude genuína de um traço de caráter que só imita uma virtude na superfície?
Dica: pense no que LeMessurier fez com a informação que recebeu — não só que traço de personalidade ele demonstrou, mas a serviço de quê esse traço estava.
- □ Se LeMessurier tivesse decidido não investigar a dúvida do estudante, por avaliar que já havia seguido todos os testes padrão exigidos por norma técnica, isso teria sido uma violação de uma regra profissional explícita — o mesmo tipo de violação que a reciprocidade kantiana identificou no caso Ford Pinto.
- □ No limite em que uma pessoa tem coragem e autocontrole extremos, mas nenhuma preocupação genuína com o bem-estar de outros (o “psicopata frio” citado no livro), essas qualidades deixam de funcionar como virtudes morais e passam a funcionar como instrumentos que tornam a pessoa mais eficaz em causar dano.
- □ A lista de virtudes profissionais de Pritchard (perícia técnica, abertura à crítica, disposição para fazer concessões, etc.) se aplicaria, com adaptações mínimas de vocabulário, a um cientista de dados avaliando se um modelo preditivo está pronto para produção, mesmo fora do contexto de engenharia civil em que o livro a apresenta.
- □ Como a ética das virtudes, segundo a crítica de Frankena, “não dá pistas concretas sobre como agir”, isso significa que ela é inútil para avaliar decisões de engenharia, e só o utilitarismo e o kantismo (que geram uma resposta) deveriam ser usados na prática profissional.
2.4 Ética do cuidado: da norma abstrata à relação concreta
As três teorias acima têm algo em comum, mesmo discordando entre si: todas apelam a princípios abstratos e gerais — a utilidade, o dever, a virtude — que valem, em tese, para qualquer pessoa, em qualquer situação. A ética do cuidado, inspirada no trabalho de Carol Gilligan, rejeita esse ponto de partida:
“A ética do cuidado […] enfatiza que o desenvolvimento da moral não acontece por meio do aprendizado de princípios morais gerais. Sua base é que as pessoas aprendem normas e valores dentro de contextos específicos, e ao encontrar pessoas concretas com emoções. […] A ética do cuidado foca a atenção na realidade vivida e experimentada das pessoas, na qual relações mútuas podem ser vistas a partir de diferentes perspectivas.” (p. 102, tradução nossa)
O que importa não é a norma que se aplicaria a qualquer pessoa em qualquer situação, mas a relação concreta entre as pessoas envolvidas:
“Os filósofos da ética do cuidado argumentam que há significado moral nos detalhes específicos de nossas vidas — detalhes que tendem a ser ignorados quando formulamos ‘o bem’ em termos de princípios gerais. […] Temos relações especiais com nossos filhos, parentes, amigos e colegas. Essas relações vêm acompanhadas de responsabilidades e obrigações morais especiais. […] Além de pessoas, empresas também podem ter relações especiais, como com seus empregados, fornecedores, e pessoas que vivem perto de uma fábrica.” (p. 102, tradução nossa)
Um conceito central desta teoria é a assimetria — muitas relações moralmente relevantes não são entre iguais:
“Nas relações, o reconhecimento da vulnerabilidade e da dependência desempenha um papel importante, especialmente se as relações forem assimétricas, como a relação entre pai e filho, entre empregador e empregado, ou entre médico e paciente. […] é importante saber como as pessoas respondem às vulnerabilidades umas das outras. O grau em que respondemos apropriadamente, e a forma como moldamos nossa responsabilidade, não pode ser indicado de antemão por meio de regras — precisa ser respondido no contexto específico em que a necessidade de cuidado surge.” (p. 103, tradução nossa)
“Uma crítica frequente à ética do cuidado é que ela é filosoficamente vaga. […] não fica claro o que ‘cuidado’ exatamente significa. […] a ética do cuidado, assim como a ética das virtudes, não dá indicações concretas de como agir numa situação específica, em contraste com o utilitarismo ou a ética kantiana.” (p. 103, tradução nossa)
A objeção mais intuitiva a aplicar ética do cuidado ao Ford Pinto seria: Ford não tem nenhuma relação pessoal ou emocional com milhões de compradores anônimos — então, se a ética do cuidado depende de relações concretas, ela simplesmente não se aplica aqui. O livro, revisitando o mesmo caso já visto pelas lentes utilitarista e kantiana, argumenta o contrário — uma relação não precisa de proximidade emocional para gerar dever de cuidado, basta a dependência assimétrica:
“No caso Ford Pinto, a Ford tinha uma relação com os consumidores. Essa relação era assimétrica, já que os consumidores em geral não tinham uma ideia clara de todos os aspectos técnicos relevantes do Ford Pinto, e dependiam da informação que a Ford fornecia. A Ford deveria reconhecer essa vulnerabilidade do consumidor, e por isso a Ford tinha a responsabilidade de informar o consumidor sobre a (in)segurança do carro, ou a Ford não deveria ter comercializado o carro.” (p. 105, tradução nossa)
Terceira teoria, terceiro exame do mesmo caso, e de novo uma leitura rasa (sem relação pessoal, sem dever) é revertida por uma leitura mais cuidadosa (dependência assimétrica basta para gerar dever) — o mesmo padrão do utilitarismo e do kantismo, agora na chave do cuidado.
Para a prática de engenharia especificamente, a ética do cuidado ainda está em desenvolvimento, mas já sugere caminhos — como as “normas de engajamento” propostas por Richard Devon para processos de grupo em engenharia (competência, conhecimento interdisciplinar, fluxos de informação democráticos, times democráticos, orientação a serviço, diversidade, cooperatividade, criatividade, gestão de projeto — p. 104), uma abordagem que desloca a responsabilidade moral do indivíduo isolado para os arranjos sociais em que a engenharia acontece.
“Descreva a ideia central da ética do cuidado. Que crítica os pensadores da ética do cuidado fazem ao utilitarismo e à ética kantiana?” (Van de Poel & Royakkers, 2011, Study Question 7, p. 108, tradução nossa)
Para o utilitarista, o que importa é o total de vidas e ferimentos evitados. Para o kantiano, o que importa é se o risco está distribuído igualmente entre as pessoas, independente do total. Essas duas perguntas podem — e vão — ter respostas diferentes, como veremos no Bloco 4.
A ética do cuidado nasceu prestando atenção a relações concretas — pai e filho, médico e paciente. O livro aplica essa mesma teoria à Ford e a milhões de consumidores anônimos, sem nenhum laço pessoal entre eles. O que sustenta essa extensão — a teoria não deveria, a rigor, parar nas relações onde há de fato proximidade emocional?
Dica: releia o critério que o livro usa para atribuir o dever de cuidado à Ford — é proximidade emocional, ou é outra coisa?
- □ Se os consumidores do Ford Pinto tivessem acesso técnico equivalente ao da própria Ford para avaliar a segurança do carro por conta própria, sem depender das informações que a fabricante fornecia, o argumento da ética do cuidado que responsabiliza a Ford pela vulnerabilidade assimétrica dos consumidores perderia sua base central.
- □ No limite em que duas partes têm exatamente o mesmo poder, conhecimento e capacidade de proteger seus próprios interesses (nenhuma assimetria em nenhuma direção), a ética do cuidado, como apresentada nesta aula, não teria uma base distintiva para atribuir um dever especial de cuidado de uma parte para a outra.
- □ O mesmo raciocínio usado para dizer que a Ford tinha um dever de cuidado com consumidores anônimos (dependência assimétrica de informação, mesmo sem proximidade emocional) se aplicaria a uma plataforma digital que coleta dados de milhões de usuários que não entendem tecnicamente como esses dados são processados.
- □ Como a crítica de vagueza aponta que a ética do cuidado “não dá indicações concretas de como agir”, e essa é a mesma crítica feita à ética das virtudes, isso significa que essas duas teorias são, na prática, a mesma teoria com nomes diferentes.
3 O Ciclo Ético Como Método
Ter teorias éticas não basta — falta um método para aplicá-las a um caso concreto sem pular etapas. Van de Poel & Royakkers (2011, §5.3, p. 137) propõem o Ciclo Ético:
“O ciclo ético é uma ferramenta útil para estruturar e melhorar decisões morais. O ciclo ajuda você a fazer uma análise sistemática e completa do problema moral, e a justificar suas decisões finais em termos morais.” (p. 137, tradução nossa)
É importante notar que o ciclo não é linear — é iterativo, com retornos às fases anteriores conforme a análise avança:
“É importante enfatizar que, ao distinguir essas etapas, não queremos sugerir que a solução de problemas morais seja um processo linear. Pelo contrário, é um processo iterativo, como os laços de retroalimentação […] já sugerem.” (p. 138, tradução nossa)
Vamos percorrer cada fase com seus desafios próprios, usando o caso Gilbane Gold (uma fábrica, Z-Corp, que descarta chumbo e arsênio na água; o engenheiro David Jackson descobre isso) como fio condutor — antes de aplicar tudo, no Bloco 4, ao caso Highway Safety.
3.1 Fase 1 — Formulação do problema moral
A fase mais traiçoeira é a primeira. Um bom problema moral precisa atender a três critérios: o que está em jogo, quem tem que agir, e por que isso é uma questão moral (não só factual ou administrativa).
Tentativa 1 (factual, não moral): > “O chumbo e o arsênio na água residual da Z-Corp vão causar efeitos > negativos à saúde?” (tradução nossa)
Não serve — é uma pergunta de fato, não de valor.
Tentativa 2 (prática, não moral): > “Como a cidade de Gilbane pode garantir tanto a Z-Corp quanto a > Gilbane Gold como fontes de bem-estar?” (tradução nossa)
Não serve — é uma pergunta de como atingir um objetivo, não sobre o que fazer diante de considerações morais conflitantes.
Formulação que atende aos três critérios (o quê, quem, e a natureza moral do problema): > “David deveria informar o público sobre os níveis potencialmente > excessivos de arsênio e chumbo na água residual da Z-Corp, mesmo que a > gerência da Z-Corp não considere isso um problema sério?” (tradução > nossa)
Pense numa decisão técnica recente — sua, ou de um produto/serviço que você usa — que pareça “só prática” ou “só de negócio”. Aplicando os três critérios desta fase, ela poderia estar escondendo uma dimensão moral?
3.2 Fase 2 — Análise do problema
Aqui se descrevem três elementos: os interessados e seus interesses, os valores morais relevantes, e os fatos relevantes — incluindo os incertos ou disputados.
Valores relevantes: > “Saúde pública. Cuidado ambiental. Bem-estar público. Honestidade > (dizer a verdade). Lealdade à empresa. Integridade (isto é, viver de > acordo com os próprios padrões e compromissos morais).” (p. 142, > tradução nossa)
Interessados e seus interesses: > “Gerência da Z-Corp: aumentar a produção de forma lucrativa, cumprir > exigências legais, boa reputação. Autoridades e conselho municipal: > proteger a segurança dos habitantes […]. Agricultores: fertilizante > seguro e confiável. Habitantes da cidade: saúde, emprego, impostos > baixos, proteção ambiental. David Jackson: ser um engenheiro confiável > e honesto, manter seu emprego, cumprir a lei.” (p. 143, tradução > nossa)
Fatos incertos ou disputados: > “A estação de tratamento de água residual da cidade não vai conseguir > lidar com os níveis aumentados de arsênio e chumbo […]. Expandir o > tratamento de água residual da Z-Corp é caro demais. Isso ameaçaria os > lucros e poderia significar perda de empregos ou até falência. Jackson > vai perder o emprego se tornar isso público.” (p. 143, tradução nossa)
Fatos incertos não paralisam a análise — o livro recomenda formulá-los de forma hipotética: “se x for o caso, a opção A é aceitável; mas se y for o caso, a opção B é aceitável” (p. 143). Isso evita fingir uma certeza que não existe, sem travar a decisão.
Numa decisão técnica que você conhece bem, quem são os interessados que não teriam poder de influenciá-la, mas seriam afetados por ela de qualquer forma?
3.3 Fase 3 — Opções de ação
Depois de analisado o problema, geram-se opções concretas. O livro descreve três estratégias típicas — e um alerta sobre a mais simples delas:
“Estratégia preto-no-branco: apenas duas opções de ação são consideradas […]. Embora essa estratégia possa ajudar a entender e formular melhor o problema moral, em situações mais complexas ela é simplista demais. […] A estratégia de cooperação […] busca alternativas que possam ajudar a resolver o problema moral, consultando outros interessados. […] Denunciar publicamente (whistle-blowing) […] é uma estratégia de último recurso, porque geralmente traz custos altos tanto para o funcionário quanto para a organização.” (pp. 143–144, tradução nossa)
Depois de reformular o problema focando nos valores em jogo (e não só “informar ou não informar”), surgem mais opções, pela estratégia de cooperação:
“1. Desenvolver um método de tratamento melhor, porém barato; 2. Contatar a sociedade de engenharia para orientação e ajuda; 3. Contatar o conselho municipal para informá-lo sobre o novo problema e pedir que tome providências; ou 4. Contatar as pessoas responsáveis pela estação de tratamento de água da cidade para ver quão sério é o problema.” (tradução nossa)
Nenhuma delas é “denunciar ou calar” — a estratégia preto-no-branco inicial escondia essas alternativas.
Lembre de uma decisão binária (“fazer X ou não fazer”) que você viu alguém tomar. Usando a estratégia de cooperação — consultando outros interessados — quais outras opções provavelmente apareceriam?
A estratégia preto-no-branco (só duas opções) não é sempre errada — às vezes o problema é mesmo binário. O que, na prática, diferencia um binário genuíno de um binário que só existe porque ninguém consultou os outros interessados antes de fechar a lista de opções?
Dica: pense no que a estratégia de cooperação fez no caso Gilbane Gold — ela não criou opções do nada, ela revelou opções que já existiam, mas que a formulação original escondia.
- □ Se, na Fase 2 do caso Gilbane Gold, não houvesse nenhum fato incerto ou disputado (por exemplo, se já se soubesse com certeza absoluta se a estação de tratamento da cidade suportaria o aumento de arsênio e chumbo), a recomendação do livro de formular decisões de forma hipotética (“se x, opção A; se y, opção B”) deixaria de ser necessária nesta fase.
- □ No limite em que só existissem duas opções logicamente possíveis para resolver um problema, sem nenhuma alternativa intermediária concebível, a crítica do livro à estratégia preto-no-branco (de que ela é simplista demais) deixaria de se aplicar, porque nesse caso o binário não seria uma simplificação, mas a estrutura real do problema.
- □ A recomendação do livro de expandir as opções através da estratégia de cooperação (consultar outros interessados antes de decidir) se aplicaria, com a mesma lógica, a um gerente de produto decidindo sozinho, sem consultar a equipe de suporte ou os usuários afetados, se deve remover uma funcionalidade antiga de um aplicativo.
- □ Como a denúncia pública (whistle-blowing) é descrita no livro como uma estratégia de último recurso por seu alto custo, isso significa que ela nunca deveria ser considerada uma opção de ação legítima na Fase 3 do Ciclo Ético, mesmo depois de esgotadas as outras estratégias.
3.4 Fase 4 — Avaliação ética
Aqui entram as teorias do Bloco 2 — mas não só elas. O livro organiza um “kit de ferramentas” de avaliação (Figura 5.3, p. 140), formal e informal, com um item por teoria do Bloco 2, cada um decomposto num teste concreto e aplicável:
- Códigos de conduta profissionais (Cap. 2, não visto ainda — Aula 3).
- Utilitarismo de ato e utilitarismo de regra (as duas variantes do Bloco 2).
- Pareto — uma opção é preferível se melhora a situação de alguém sem piorar a de ninguém (um critério mais fraco, e por isso mais fácil de aplicar sem controvérsia, do que somar utilidade total).
- Análise kantiana, decomposta em dois testes que operacionalizam as duas formulações do imperativo categórico do Bloco 2: o teste de respeito (a reciprocidade — a opção trata todos como fins?) e o teste de liberdade (o princípio de liberdade de Mill, reaproveitado aqui como teste prático — a opção respeita a liberdade de cada um de buscar seu próprio bem-estar, contanto que não prejudique o de outros?).
- As virtudes e a análise de virtudes — que traço de caráter essa opção expressa, e ela seria a escolha de um profissional virtuoso?
- Frameworks informais:
“O framework intuicionista é bem direto: indique qual opção de ação, em sua opinião, é intuitivamente mais aceitável, e formule argumentos para essa afirmação. O método do senso comum pede que se pesem as opções de ação disponíveis à luz dos valores relevantes.” (p. 145, tradução nossa)
A Figura 5.3 (p. 140) só lista os nomes das colunas — “Pareto”, “Respect-test”, “The freedom-test” — sem texto explicativo próprio nas páginas lidas nesta sessão. As traduções (“teste de respeito”, “teste de liberdade”) e as descrições acima (o critério de Pareto como “melhora alguém sem piorar ninguém”; o teste de liberdade como uma aplicação prática do princípio de liberdade de Mill) são inferências razoáveis a partir do nome e do contexto do capítulo, não citações literais do livro — sinalizado por transparência, como o CLAUDE.md deste projeto exige para conteúdo inferido.
Diferentes frameworks podem apontar para opções diferentes — o que não é uma falha do método, é o ponto. Um exemplo curto e diferente do Highway Safety, para variar o domínio antes do Bloco 4:
“Jasmine é diretora do departamento de obras de uma grande cidade. […] um código de obras novo e mais rigoroso foi adotado […], o que também contribui para a dificuldade que os fiscais têm de fazer um trabalho bom e completo. […] o prefeito concorda em contratar fiscais adicionais […] com a condição de que Jasmine concorde em permitir que certos edifícios específicos, ainda em construção, sejam inspecionados segundo as exigências mais antigas e menos rígidas. Jasmine deveria concordar?” (tradução nossa)
“Aplicando o teste de universalização de Kant […] essa máxima não pode ser universalizada […]. Aplicando um framework ato-utilitarista […] parece óbvio que os melhores resultados são alcançados se ela concordar com a proposta do prefeito.” (p. 146, tradução nossa)
Kant e o utilitarismo de ato discordam de novo — o mesmo padrão que veremos, com mais detalhe numérico, no caso Highway Safety.
Aplique dois frameworks diferentes da lista acima (por exemplo, utilitarismo de ato e teste de respeito) a uma decisão técnica que você conhece. Eles discordam? Se sim, por quê?
3.5 Fase 5 — Reflexão
Quando os frameworks discordam (como acima), a última fase busca coerência entre três tipos de crença moral, pelo método do equilíbrio reflexivo amplo:
“O método do equilíbrio reflexivo amplo […] busca tornar coerentes três tipos de crença moral: 1) julgamentos morais ponderados; 2) princípios morais; e 3) teorias de fundo.” (p. 146, tradução nossa)
E duas perguntas orientam essa reflexão:
“Um framework ético oferece razões que sustentam minha opinião intuitiva? […] Um framework ético consegue selecionar os aspectos de uma situação que são moralmente relevantes? Há outros aspectos moralmente relevantes que não são cobertos?” (p. 147, tradução nossa)
Se dois frameworks discordarem sobre uma decisão que você tomou, qual das duas perguntas de reflexão acima você usaria primeiro — e por quê?
3.6 Quando voltar — o ciclo não é uma linha reta
As setas de retorno na Figura 5.2 não são decoração — cada uma corresponde a um motivo concreto e reconhecível para reabrir uma fase já “encerrada”. Vamos nomear os três casos, cada um ligado a uma seta específica, e ver os três de novo, ao vivo, no caso Highway Safety do Bloco 4.
Isso é uma reconstrução nossa a partir de uma crítica que o próprio livro cita, não uma afirmação explícita dos autores sobre “voltar” — mas o raciocínio é direto: se ao tentar gerar opções (Fase 3) você percebe que só havia considerado dois extremos, isso é sinal de que a Fase 1 (que enquadrou o problema como escolha binária) precisa ser reaberta. Veremos exatamente isso no caso Highway Safety, via uma crítica de Whitbeck.
Esta é, ao contrário da anterior, uma afirmação explícita do próprio livro — ele descreve literalmente esse mecanismo a propósito do caso Highway Safety (verbatim no Bloco 4): alguém pode só reconhecer que um problema tem uma dimensão de justiça (não só de eficiência) depois de tentar aplicar a lente kantiana na Fase 4 — nesse momento, o correto é voltar à Fase 1 e reformular.
Também uma reconstrução nossa, a partir de uma observação pontual do livro: ao tentar aplicar o teste de reciprocidade kantiano a um caso, às vezes a resposta depende de um fato que a Fase 2 não tinha checado explicitamente — por exemplo, “a autonomia/racionalidade de quem é afetado está de fato em jogo aqui?”. Se essa pergunta não foi respondida na análise original, a Fase 4 empurra você de volta à Fase 2 para checá-la antes de continuar. Veremos o exemplo concreto no Bloco 4.
Das três setas acima, qual te parece mais fácil de reconhecer na prática — e qual mais fácil de ignorar por pressa de “fechar” a decisão?
Duas das três setas de retorno (Fase 3→1, Fase 4→2) são reconstruções nossas; só a Seta 2 (Fase 4→1) é uma afirmação literal do livro. Ainda assim, todas nascem do mesmo mecanismo: uma fase posterior revela algo que uma fase anterior não via. Isso é sinal de que a análise anterior foi malfeita, ou é exatamente o que um método iterativo deveria fazer?
Dica: pense no que aconteceria se alguém seguisse as cinco fases em ordem estrita, sem nunca voltar — isso garantiria, por si só, uma análise melhor?
- □ Se as duas perguntas de reflexão da Fase 5 (“o framework sustenta minha intuição?” e “ele captura os aspectos moralmente relevantes?”) sempre tivessem a mesma resposta (“sim”) para qualquer framework aplicado a qualquer caso, o método do equilíbrio reflexivo amplo deixaria de conseguir distinguir frameworks mais adequados de menos adequados para um caso específico.
- □ No limite em que uma pessoa nunca tivesse nenhum julgamento moral ponderado prévio sobre nenhum caso (nenhuma intuição prévia sobre nada), o método do equilíbrio reflexivo amplo, como descrito na aula, perderia um dos três tipos de crença moral que ele busca tornar coerentes entre si.
- □ A mesma lógica da Seta 2 (Fase 4 → Fase 1) — a avaliação ética revelando uma dimensão de justiça que a formulação original não via — se aplicaria a uma equipe que, ao testar a equidade de um algoritmo de concessão de crédito já em produção, percebe que o problema originalmente formulado como “maximizar a precisão do modelo” escondia uma dimensão de justiça distributiva entre grupos.
- □ Como o livro afirma explicitamente a Seta 2, mas não afirma explicitamente as Setas 1 e 3 (que são reconstruções pedagógicas), isso significa que as Setas 1 e 3 não têm nenhuma base no texto do livro e foram inventadas sem qualquer relação com o que os autores escreveram.
4 Aplicando o Ciclo ao Caso Highway Safety
Voltamos ao caso do Bloco 1. David Weber precisa escolher entre o Cruzamento A (urbano) e o Cruzamento B (rural). Vamos percorrer as cinco fases do ciclo com esse caso (Van de Poel & Royakkers, 2011, §5.4) — e ver, ao vivo, as três setas de retorno anunciadas no Bloco 3.
Fase 1 — Formulação do problema: “Qual das duas melhorias de segurança David deveria recomendar?” À primeira vista, isso parece simplesmente uma decisão administrativa de como gastar bem um orçamento — não uma questão moral. O livro é explícito sobre essa ambiguidade inicial:
“Não fica claro, pela própria formulação do problema, por que se trata de um problema moral. Talvez seja simplesmente uma decisão prática sobre o que fazer, ou uma decisão econômica sobre como gastar o fundo público da forma mais eficiente. De fato, muitas pessoas respondem a esse problema afirmando que é óbvio que a opção A deveria ser escolhida, porque resulta no maior nível de redução de fatalidades e ferimentos.” (p. 150, tradução nossa)
Fase 2 — Análise do problema:
“Além de David, motoristas e seus passageiros, contribuintes, e o conselho municipal ou estadual relevante podem ser distinguidos como interessados relevantes. […] Na formulação do problema, já distinguimos dois valores relevantes: segurança e justiça. […] O valor moral em jogo aqui parece ser algo como ‘utilidade pública’.” (p. 150, tradução nossa)
Um fato incerto, relevante para a análise: os fatores de redução de acidentes que David usa são médias nacionais de estudos em cruzamentos urbanos e rurais — não medições específicas dos Cruzamentos A e B.
Fase 3 — Opções de ação, e a Seta 1 em ação: o próprio livro cita uma crítica de Whitbeck a essa formulação binária:
“Note […] que o problema é apresentado como uma escolha forçada entre gastar todos os recursos restantes em uma interseção ou gastar tudo na outra. Na verdade, provavelmente haveria muitas outras opções. Por exemplo, instalar placas de trânsito nas duas interseções pode ser uma alternativa a instalar semáforos em apenas uma delas.” (Whitbeck, 1998a, apud p. 151, tradução nossa)
Isto é exatamente a Seta 1: ao tentar gerar opções (Fase 3), percebe-se que a Fase 1 enquadrou o problema como um binário mais estreito do que a realidade permite. Seguir essa seta literalmente significaria voltar à Fase 1, reformular (“como melhorar a segurança dos dois cruzamentos, dado um orçamento fixo?”, por exemplo) e refazer as Fases 2 e 3 com um leque maior de opções — sinalização de rigor: o próprio livro não faz esse retorno explicitamente no seu exemplo, apenas cita a crítica de Whitbeck em nota de rodapé; a reconstrução do loop é nossa.
Seguimos, como o livro, com as duas opções originais — mas registrar essa crítica é parte de fazer bem a Fase 3.
Fase 4 — Avaliação ética, e as Setas 2 e 3 em ação:
“O framework utilitarista seleciona a opção que traz ‘a maior felicidade para o maior número’. […] os dados disponíveis sugerem que o Cruzamento A, na área urbana, deve ser escolhido. Em todos os cálculos, o Cruzamento A tem o maior benefício bruto, e também o maior benefício líquido.” (p. 152, tradução nossa)
O livro testa três esquemas diferentes de precificar vidas e ferimentos (National Safety Council, NHTSA, e um esquema de um estado vizinho) — em todos, o Cruzamento A vence.
“A aplicação da teoria kantiana neste caso se baseia em considerações de justiça. […] indivíduos que se aproximam do Cruzamento B enfrentam um risco maior do que os que se aproximam do Cruzamento A […]. Uma escolha pelo Cruzamento B seria, portanto, mais justa, já que isso diminui a desigualdade atual nos fatores de risco.” (p. 152, tradução nossa)
E aqui o livro descreve explicitamente a Seta 2 — a única das três que é uma afirmação literal dos autores, não nossa reconstrução:
“Assim, considerar o caso a partir de um ponto de vista deontológico ajuda a perceber que há um problema moral em potencial aqui. […] Isso também ressalta o caráter iterativo do ciclo ético: pode muito bem ser que alguém só reconheça as considerações de justiça no passo 4 do ciclo ético. Essa pessoa pode então voltar ao passo 1 e reformular o problema moral, refazendo os passos 2 e 3.” (p. 150, tradução nossa)
O segundo imperativo categórico (reciprocidade) parece, a princípio, aplicável a qualquer caso — mas ao tentar aplicá-lo aqui, o livro precisa checar um fato específico: a racionalidade/autonomia de quem está em jogo é, de fato, relevante nesta situação?
“O segundo imperativo categórico de Kant (o princípio de reciprocidade) […] é difícil de aplicar a este caso. Esse imperativo afirma que todo ser humano deve ter respeito pela racionalidade dos outros, e que não devemos enganar a racionalidade dos outros — mas, neste caso, a racionalidade dos outros não está em questão.” (p. 152, tradução nossa)
A resposta (não) só aparece ao tentar aplicar o teste na Fase 4 — e essa checagem de fato pertence, estritamente, à Fase 2 (quais fatos sobre os interessados são relevantes?). Isso é a Seta 3: a tentativa de avaliação empurra você de volta à análise. Diferente da Seta 2, o livro não nomeia isso como “voltar” — é nossa leitura do que o texto está implicitamente fazendo.
Fase 5 — Reflexão: as duas teorias chegam a recomendações diferentes. Mas o livro observa algo importante sobre a robustez de cada argumento:
“Os vários esquemas monetários, e o esquema de ponderação do estado vizinho, todos sugerem a escolha do Cruzamento A em vez do Cruzamento B. De fato, não é possível criar um esquema monetário no qual o Cruzamento B pontue melhor, a menos que se atribua peso negativo a vidas humanas […]. Assim, o resultado de que o teste utilitarista seleciona o Cruzamento A é bastante robusto. O mesmo não é tão verdadeiro para a abordagem de Kant, ou para o teste de justiça.” (p. 153, tradução nossa)
O Ciclo Ético não elimina o desacordo entre utilitarismo e teoria kantiana neste caso — e não deveria fingir que elimina. O que ele faz é tornar esse desacordo explícito e argumentável: sabemos exatamente onde as teorias discordam, quão robusto é cada argumento, e — como acabamos de ver três vezes — em que momento exato uma fase revelou algo que uma fase anterior não via. Isso já é muito mais do que uma escolha por intuição não examinada.
O livro conclui que o resultado utilitarista (escolher o Cruzamento A) é “bastante robusto” — não muda mesmo trocando o esquema de precificação de vidas. O resultado kantiano/de justiça, não. Isso significa que David deveria simplesmente seguir o argumento mais robusto?
Dica: robustez responde “quão dependente de escolhas arbitrárias, dentro do próprio framework, é essa conclusão?” — não responde “qual valor deveria pesar mais entre os dois frameworks”.
- □ Se os esquemas de precificação de vidas usados no cálculo utilitarista do caso (National Safety Council, NHTSA, esquema do estado vizinho) atribuíssem peso negativo a vidas humanas salvas, o resultado de que o Cruzamento A é “bastante robusto” para a escolha utilitarista deixaria de valer.
- □ No limite em que o Cruzamento B tivesse tráfego zero (nenhum veículo passa por ali), o argumento kantiano de justiça baseado em “risco maior por veículo” em B perderia sentido, porque não haveria mais nenhum motorista exposto a esse risco desigual para justificar a recomendação baseada em equidade.
- □ A mesma estrutura de desacordo do caso Highway Safety (utilitarismo favorecendo a opção que reduz mais o total de mortes; justiça favorecendo a opção que reduz a desigualdade de risco, mesmo que o total seja pior) apareceria, de forma estruturalmente análoga, numa decisão de saúde pública sobre distribuir um número limitado de vacinas entre um bairro densamente povoado com prevalência baixa da doença e um bairro pouco povoado com prevalência alta.
- □ Como o livro conclui que o argumento utilitarista é “bastante robusto” e o argumento kantiano/de justiça é “sensível a pressupostos”, isso significa que David deveria simplesmente escolher a opção utilitarista (Cruzamento A), porque um argumento mais robusto é automaticamente o argumento moralmente correto.
5 Fechamento: A Bússola Moral
Na prática profissional, ninguém escolhe “a teoria certa” de uma vez por todas. Marc Steen (2022, Cap. 16) propõe usar quatro perspectivas éticas em paralelo:
“Nos Capítulos 9, 11, 13 e 15, discutimos quatro tradições da filosofia moral. Minha proposta é usar essas perspectivas em paralelo. Cada uma pode complementar as outras.” (p. 135, tradução nossa)
“Mas atenção: essas quatro perspectivas são diferentes. Você não quer confundi-las. […] Seus objetivos podem ser parecidos, mas suas premissas e perguntas são diferentes.” (p. 136, tradução nossa)
Hoje cobrimos, com profundidades desiguais, exatamente essas quatro tradições — não faltou nenhuma:
| Steen (2022) chama de… | Vimos hoje como… |
|---|---|
| Consequencialismo | Utilitarismo (Bentham, Mill, utilitarismo de regra) |
| Deontologia | Teoria kantiana (Kant, Ross) |
| Ética das virtudes | Ética das virtudes (Aristóteles, Pritchard) |
| Ética relacional | Ética do cuidado (Gilligan, relações assimétricas) |
Van de Poel & Royakkers chamam sua quarta teoria de “ética do cuidado” (care ethics); Steen chama a sua de “ética relacional” (relational ethics). Não lemos o capítulo específico de Steen sobre o tema para confirmar que as duas formulações são idênticas palavra por palavra — mas ambas partem exatamente do mesmo lugar: relações concretas e assimétricas entre pessoas, não princípios abstratos e universais. Tratamos as duas como a mesma tradição, com nomes diferentes, o que é como a literatura de ética da tecnologia geralmente as trata.
Na prática, Steen relata bons resultados com workshops curtos que aplicam as quatro perspectivas a um mesmo projeto:
“Tivemos bons resultados com workshops de ‘Deliberação Ética Rápida’, nos quais membros de equipes de projeto eram guiados a olhar para seu projeto e a inovação em que trabalham através dessas quatro perspectivas éticas.” (p. 136, tradução nossa)
Fechamos com uma metáfora que Steen usa para explicar o que uma teoria ética pode e não pode fazer:
“Ao falar de ética, as pessoas às vezes usam o termo bússola moral. Essa pode ser uma metáfora útil. […] Uma bússola, porém, funciona de um jeito diferente. Uma bússola só mostra onde fica o norte magnético. Ela não diz para onde ir.” (p. 139, tradução nossa)
Uma teoria ética não é um GPS que aponta a rota certa em cada cruzamento. É uma bússola: mostra uma direção estável — “aqui está o valor que essa teoria protege” —, mas não decide o caminho por você. E, como vimos hoje quatro vezes com o Ford Pinto, a mesma bússola pode apontar para direções diferentes dependendo de quão a fundo você lê o mostrador. O Ciclo Ético desta aula é o que transforma essa orientação difusa em deliberação estruturada, caso a caso — inclusive sabendo quando voltar e refazer um passo anterior.
Ponte para a Aula 3
Hoje vimos teorias filosóficas — abstratas, universais, aplicáveis a qualquer decisão moral. A Aula 3 traz uma quinta fonte de orientação, mais formal e institucional: os códigos de ética profissionais (ACM, SBC, IEEE) que a comunidade de computação já construiu para traduzir parte dessas teorias em regras concretas de conduta — e os limites dessa tradução.
6 Exercícios
6.1 Questões discursivas
Questões originais desta disciplina, não extraídas literalmente das fontes bibliográficas (embora inspiradas nos casos e teorias que elas discutem).
Ao longo do bloco de teorias éticas, cada uma das quatro teorias foi aplicada, pelo menos uma vez, ao caso Ford Pinto — e em mais de uma ocasião, a mesma teoria produziu conclusões opostas dependendo da profundidade da análise (o cálculo de ato raso da Ford vs. a correção pelo princípio de liberdade de Mill vs. o utilitarismo de regra, por exemplo). Escolha duas dessas aplicações ao Ford Pinto (podem ser da mesma teoria, ou de teorias diferentes) e explique, no seu próprio raciocínio, o que exatamente mudou entre a versão “rasa” e a versão “profunda” de cada uma — não é a teoria que muda, é o quê?
O Ciclo Ético prevê “setas de retorno” entre suas fases, mas o próprio material sinaliza que só uma delas (Fase 4 → Fase 1, no caso Highway Safety) é uma afirmação literal do livro-base; as outras duas são reconstruções pedagógicas. Escolha uma situação de decisão técnica real ou hipotética, fora do material desta aula, e descreva como uma das três setas (Fase 3→1, Fase 4→1, ou Fase 4→2) poderia acontecer nela — ou seja, o que, especificamente, apareceria numa fase posterior que forçaria a revisão de uma fase anterior?
O fechamento da aula usa a metáfora da “bússola moral” de Steen: uma teoria ética mostra uma direção, mas não decide o caminho por você. No caso Highway Safety, o livro conclui que o argumento utilitarista é “bastante robusto” (não muda mesmo trocando o esquema de precificação de vidas) e o argumento kantiano/de justiça é “sensível a pressupostos”. Robustez de um argumento (quão pouco ele depende de escolhas arbitrárias dentro do próprio framework) e correção do framework (qual valor — utilidade agregada ou justiça distributiva — deveria pesar mais) são a mesma coisa, ou perguntas diferentes? Defenda sua posição.
6.2 Questões de Verdadeiro/Falso
Cada questão tem quatro afirmações sobre o mesmo tema; só é considerada correta se todos os quatro itens forem acertados (deixar a questão em branco tem punição de 20% da nota da questão).