Aula 1: Computação como Sistema Sociotécnico

Computação e Sociedade

Marcos M. Raimundo — Instituto de Computação, UNICAMP

2026-08-10

Challenger — um desastre “técnico”?

O Desastre do Challenger (1986)

O Alerta (6 meses antes) O engenheiro Roger Boisjoly documenta a falha dos anéis de vedação em baixas temperaturas:

“The consequences would be catastrophic and human lives would be put at risk.”

A Véspera do Lançamento (Manhã a -4°C)

Recomendação Técnica

NÃO LANÇAR. Engenheiros reforçam o risco iminente de falha material devido ao frio.

Decisão Gerencial

LANÇAR. Sob pressão, 4 gerentes votam pela decolagem, sem os engenheiros na sala.

O Desfecho e a Investigação

73 segundos depois: O Challenger explode. Sete mortos (incluindo a civil Christa McAuliffe).
Comissão Presidencial: A causa raiz não foi o anel de vedação isolado, mas sim “inadequate communication at NASA”.

Challenger: O Desfecho Institucional

A resposta ao desastre não foi apenas refazer a engenharia mecânica, mas reestruturar o fluxo de decisão:

A Paralisação O programa espacial ficou totalmente parado por 2 anos.

A Mudança de Poder Os engenheiros passaram a ter poder de veto direto sobre as decisões de lançamento.

A pergunta central da aula

Se a causa raiz não foi um erro técnico isolado, por que isso é um problema de engenharia/computação?

(A resposta: porque a tecnologia nunca foi feita apenas de técnica)

Sistemas Sociotécnicos

O que é um Sistema Sociotécnico?

Tecnologia, pessoas, organizações e cultura se influenciam mutuamente — nenhuma opera isolada.

“We shape our tools and thereafter they shape us.”

— John Culkin (sobre a obra de Marshall McLuhan)

As duas visões extremas (ambas erradas):

Visão Instrumental

“A tecnologia é neutra, é apenas uma ferramenta. O problema ou a virtude está sempre no uso humano.”

Visão Determinista

“A tecnologia dita as regras. Ela determina como a sociedade e as pessoas vão obrigatoriamente se comportar.”

A Tese Certa: Coformação Mútua

A realidade é uma teia de decisões — da parte de quem projeta e da parte de quem usa — que se afetam, se moldam e se transformam mutuamente e o tempo todo.

O Challenger Revisto: A Coformação em Ação

O desastre não foi apenas causa e efeito. Foi a prova de como a organização e a tecnologia se afetam continuamente:

flowchart TB
    A["🏢 Cultura<br/>Organizacional"]
    B["⚙️ Decisão<br/>Técnica"]
    C["💥 O Desastre<br/>Físico"]
    D["🔄 Cultura<br/>Remoldada"]

    A -->|"Molda"| B
    B -->|"Causa"| C
    C -->|"Provoca"| D
    D -->|"Altera"| A

    %% Estilização do Diagrama
    classDef org fill:#f59e0b,stroke:#b45309,stroke-width:2px,color:#fff;
    classDef tech fill:#3b82f6,stroke:#1d4ed8,stroke-width:2px,color:#fff;
    classDef disaster fill:#ef4444,stroke:#b91c1c,stroke-width:2px,color:#fff;
    classDef remold fill:#10b981,stroke:#047857,stroke-width:2px,color:#fff;

    class A org;
    class B tech;
    class C disaster;
    class D remold;

Conclusão: É um laço, não uma linha reta. A cultura da NASA moldou a decisão técnica, e o resultado material dessa decisão (a explosão) forçou a mudança na estrutura de poder organizacional da agência.

Tecnologia Não é Neutra

As pontes de Robert Moses

A tese na prática: a tecnologia não é neutra (uma ilustração dramática)

O Projeto (Nova York, séc. XX) Robert Moses projetou dezenas de viadutos sobre as parkways de Long Island com uma altura deliberadamente baixa.

O Mecanismo Físico A altura impedia fisicamente a passagem de ônibus de transporte público, permitindo apenas a circulação de carros de passeio.

O Efeito Social Populações negras e de baixa renda dependiam de ônibus. Assim, a engenharia civil barrou o acesso dessas pessoas a áreas públicas de lazer, como Jones Beach.

“Moses used technology to achieve racist outcomes.”

— Langdon Winner (apud Steen, 2022, p. 29)

Importante

Conclusão: Nenhuma lei segregacionista escrita, nenhuma linha de código. A exclusão social foi codificada no concreto.

O design do cotidiano: Parafusos e Scripts

A tese na prática: a tecnologia não é neutra (uma ilustração banal)

(Steen, 2022, pp. 29–30)

Aparelhos Masculinos Possuem parafusos visíveis.
A mensagem silenciosa: O usuário é capaz (e encorajado) a abrir, entender, fazer manutenção e reparar o objeto.

Aparelhos Femininos Carcaça selada, sem parafusos.
A mensagem silenciosa: O usuário não tem capacidade técnica. O produto deve ser usado até quebrar e, então, descartado.

Scripts ou Affordances: As decisões de projeto prescrevem o que as pessoas podem ou não fazer. Neste caso, não há necessariamente um “vilão” ou uma intenção política declarada — há apenas o projeto (design).

O elo invisível: Quem projeta a tecnologia?

“Technology is neither good nor bad; nor is it neutral.”

— A Primeira Lei de Kranzberg

Se a tecnologia não é neutra, e se mesmo decisões “banais” (como um parafuso) embutem visões de mundo (como estereótipos de gênero), a pergunta central passa a ser:

Aviso

Quem estava na sala quando a decisão de projeto foi tomada? A falta de diversidade entre os atores que desenvolvem a tecnologia é o que permite que vieses (muitas vezes inconscientes) se tornem “enganos” codificados no produto final.

O Mapa de Atores do Desenvolvimento Tecnológico

O Mapa de Atores do Desenvolvimento

Quem estava na sala? Para entender as decisões, precisamos mapear quem participa dessa “teia”.

Ator: Quem pode decidir como agir e executar essa decisão.

Desenvolvedores
Usuários
Reguladores
Associações/Sindicatos

Interessado (Stakeholder): Sofre os impactos e tem interesse no resultado, mas não tem o poder de influenciar a direção do projeto.

flowchart TB
    %% Atores
    D["Desenvolvedores<br/>e produtores"]
    U["Usuários"]
    R["Reguladores"]
    O["Outros atores<br/>(associações, sindicatos)"]
    
    %% Processo
    DT["Desenvolvimento<br/>Tecnológico"]
    
    %% Impactados
    S["Interessados<br/>(Stakeholders)"]
    
    %% Conexões
    D --> DT
    U --> DT
    R --> DT
    O --> DT
    
    DT -.->|"Afeta, mas não<br/>necessariamente influencia"| S
    
    %% Estilização do Diagrama (mantendo as cores para não ficar cinza/sem graça)
    classDef atores fill:#3b82f6,stroke:#1d4ed8,stroke-width:2px,color:#fff;
    classDef processo fill:#10b981,stroke:#047857,stroke-width:2px,color:#fff;
    classDef stake fill:#ef4444,stroke:#b91c1c,stroke-width:2px,color:#fff;
    
    class D,U,R,O atores;
    class DT processo;
    class S stake;

Interesses conflitam — sem acordo automático sobre a direção “certa”.

O Paradoxo da Inovação: O Caso Teflon

1938: A Descoberta Criado por acidente por um químico da DuPont que tentava desenvolver um novo gás refrigerante.

2005: A Consequência O uso massivo (frigideiras antiaderentes) levanta graves riscos à saúde (o PFOA é classificado como “likely carcinogenic” pela EPA).

Ninguém em 1938 tinha meios de prever isso. Este é o núcleo do problema:

Importante

O Dilema de Collingridge

Fase inicial: Não é possível prever as consequências sociais e reais da tecnologia.
Fase tardia: Quando as consequências aparecem, a tecnologia já está tão entranhada na sociedade que é tarde demais para mudar de direção.

Constructive Technology Assessment (CTA)

Se prever o futuro é impossível e mudar o fim é difícil demais, a engenharia precisa mudar o meio do processo.

Uma resposta institucional de avaliação tecnológica contínua.

Em vez de desenhar a tecnologia isoladamente e “jogar” para a sociedade:

Expande-se a mesa: Trazemos mais atores e stakeholders para o processo de design desde o início.
Expandem-se os valores: Considerações sociais andam em paralelo ao desenvolvimento técnico.

Resumo: O CTA não é uma vacina que resolve o dilema, mas um método que nos ajuda a conviver com ele, permitindo correções de rota mais cedo.

Feedback Loop e Responsabilidade

Redes Sociais: O Sequestro da Atenção

“Algoritmos usam décadas de conhecimento do domínio de jogos de azar e caça-níqueis. Com ícones brilhantes e rolagem infinita, eles capturam nossa atenção o máximo possível.”

— Marc Steen (2022, p. 32)

Aviso

O depoimento de quem estava na sala de projeto: “Somos vulneráveis à forma como esses designs ativam nossos impulsos comportamentais. Nossos cérebros evoluíram para serem ativados por estímulos sensoriais novos.” (Tristan Harris, ex-designer de ética do Google)

O Feedback Loop Sociotécnico

Como a tecnologia (código) e a sociedade (comportamento) se co-formam em tempo real e em escala global:

flowchart TB
    %% Nós do laço
    A["💻 Projeto do<br/>Algoritmo"]
    B["🧠 Comportamento<br/>do Usuário"]
    C["📊 Dados de<br/>Engajamento"]
    D["⚙️ Retreinamento<br/>(Machine Learning)"]

    %% Conexões
    A -->|"induz"| B
    B -->|"gera"| C
    C -->|"alimenta"| D
    D -->|"reforça"| A
    
    %% Estilização
    classDef tech fill:#3b82f6,stroke:#1d4ed8,stroke-width:2px,color:#fff;
    classDef human fill:#ef4444,stroke:#b91c1c,stroke-width:2px,color:#fff;
    classDef data fill:#10b981,stroke:#047857,stroke-width:2px,color:#fff;
    
    class A tech;
    class B human;
    class C data;
    class D tech;

Conclusão: Nenhuma linha de código isolada “causa” o vício. O problema emerge do ciclo contínuo — o código molda o comportamento, que gera dados, que reescrevem o código.

O Paradoxo da Responsabilidade

Se a tecnologia é uma teia complexa, de quem é a “culpa” quando o sistema falha?

🔻 Diminui a responsabilidade individual Você é apenas um entre muitos atores. O desenvolvedor isolado não determina todas as consequências sociais do produto.

🔺 Amplia a responsabilidade profissional Como as decisões técnicas afetam a sociedade, você passa a ter o dever de considerar stakeholders e interesses que não estão na sala de projeto.

Importante

O Erro Comum: Confundir essas duas coisas. Não ser o único culpado não significa estar isento de responsabilidade moral sobre o que se projeta.

O que nos falta? (Ponte para a Aula 2)

O cenário está montado: Nenhum engenheiro decide de forma isolada, e as consequências finais de um projeto são difíceis de prever.

O Problema: Como raciocinar de forma sistemática e lógica sobre o que é certo fazer dentro dessa teia sociotécnica, no dia a dia do projeto?

Dica

Na Aula 2:

As bases da Ética Normativa (Consequencialismo, Deontologia, Ética das Virtudes).
O Ciclo Ético como nossa principal ferramenta e método de deliberação prática.