Exercícios — Aula 1: Computação como Sistema Sociotécnico

Computação e Sociedade

Autor

Marcos M. Raimundo — Instituto de Computação, UNICAMP

Questões discursivas

Explique, com suas próprias palavras, a diferença entre a visão instrumental, a visão determinista e a tese da coformação mútua sobre tecnologia. Use o caso do Challenger (ou um exemplo próprio, de fora da aula) para mostrar como a coformação mútua aparece na prática, no laço entre decisão técnica e cultura organizacional.
A aula usa dois exemplos para mostrar que a tecnologia não é neutra — as pontes de Robert Moses (dramático) e os parafusos dos barbeadores (banal). Escolha um objeto ou sistema de software do seu cotidiano (fora dos exemplos da aula) e identifique um script/affordance embutido em seu projeto: quem esse projeto inclui ou exclui, e se foi necessária uma intenção deliberada para isso acontecer.
Usando o mapa de atores (desenvolvedores, usuários, reguladores, outros atores), a distinção entre ator e interessado (stakeholder), e o dilema de Collingridge, escolha uma tecnologia atual (pode ser inteligência artificial, redes sociais, ou outra de sua escolha) e discuta: quais atores provavelmente estavam “na sala” nas decisões de projeto, quais interessados prováveis ficaram de fora, e como um processo de Constructive Technology Assessment (CTA) poderia ter mudado o resultado.

Questões de Verdadeiro/Falso

Cada bloco de 4 itens trata do mesmo tema. A questão só é considerada correta se todos os 4 itens forem julgados corretamente (deixar em branco tem penalidade de 20% da nota da questão).

Teste 1 — O desastre do Challenger — cronologia e causa institucional

□ Se os engenheiros estivessem presentes na sala de decisão na véspera do lançamento e ainda assim os quatro gerentes decidissem lançar por voto, a falha de comunicação especificamente apontada pela comissão presidencial — a exclusão dos engenheiros da votação — continuaria caracterizada exatamente da mesma forma.
□ No limite em que a pressão política e financeira sobre a NASA fosse zero — nenhum risco de atraso, nenhuma cobertura de mídia amplificada pela presença de Christa McAuliffe —, o memo de Boisjoly de julho de 1985 ainda teria, pela mesma lógica da aula, uma chance menor de ser ignorado na véspera do lançamento.
□ A mesma estrutura causal do Challenger — um alerta técnico documentado, uma decisão de gestão sob pressão de cronograma que o ignora, e uma comissão de investigação que aponta falha de comunicação, não só falha técnica — se aplicaria a um hospital que ignora o alerta de uma equipe de enfermagem sobre a escassez de leitos de UTI antes de aceitar mais pacientes durante um surto.
□ Como a comissão presidencial concluiu que a causa raiz foi “inadequate communication at NASA”, e não uma falha isolada do anel de vedação, conclui-se que o material do O-ring não teve nenhum papel causal no desastre.

Teste 2 — Coformação mútua — visão instrumental e determinista

□ Se Marshall McLuhan e John Culkin estivessem defendendo que “a tecnologia é só uma ferramenta neutra, o problema é sempre humano”, a frase “we shape our tools and thereafter they shape us” seria uma ilustração fiel dessa posição.
□ No limite em que uma tecnologia determinasse rigidamente, sem exceção, o comportamento de todo mundo que a usa — nenhum uso alternativo, nenhuma resistência, nenhuma apropriação inesperada possível —, essa tecnologia se encaixaria exatamente na visão determinista que Steen (2022) rejeita, e não na tese da coformação mútua.
□ A tese da coformação mútua (nem só instrumental, nem só determinista) se aplicaria a um sistema de irrigação agrícola cujo projeto (canais fixos, horários de liberação de água) tanto molda os hábitos de plantio dos agricultores quanto é, ao longo dos anos, remodelado por pressões desses mesmos agricultores sobre autoridades de gestão hídrica.
□ Como a visão instrumental e a visão determinista estão erradas segundo Steen (2022), conclui-se que a coformação mútua nega qualquer influência causal da tecnologia sobre o comportamento humano.

Teste 3 — O laço de coformação no caso Challenger

□ Se a comissão presidencial tivesse recomendado apenas punições individuais aos quatro gerentes que votaram pelo lançamento, sem qualquer mudança estrutural no poder de veto dos engenheiros, o laço de coformação (cultura → decisão → desastre → cultura remoldada) estaria completo da mesma forma que está descrito na aula.
□ No limite em que o desastre do Challenger não tivesse produzido nenhuma mudança formal na NASA — nem os dois anos de paralisação, nem o poder de veto dos engenheiros —, ainda seria correto, pela definição usada na aula, descrever o caso como um laço de coformação completo, e não como uma cadeia linear de causa e efeito.
□ A mesma estrutura de laço (cultura molda projeto, projeto causa um evento, o evento remolda a cultura) se aplicaria a uma escola que muda sua política de fiscalização de provas depois de um escândalo de cola generalizado causado, em parte, por uma cultura de pressão por notas altas.
□ Como o laço de coformação mostra que a cultura organizacional influenciou a decisão técnica de lançar o Challenger, conclui-se que os quatro gerentes que votaram pelo lançamento não tiveram nenhuma responsabilidade individual sobre essa decisão.

Teste 4 — As pontes de Robert Moses — engenharia e exclusão

□ Se as pontes baixas de Long Island tivessem sido construídas na mesma altura, mas numa região onde o transporte público por ônibus não existisse para ninguém, rico ou pobre, o mecanismo de exclusão racial e de classe descrito por Winner (apud Steen, 2022) ainda operaria da mesma forma.
□ No limite em que absolutamente toda a população de Nova York tivesse acesso igual a carros particulares, a altura baixa das pontes de Moses deixaria de funcionar como mecanismo de exclusão social pela lógica apresentada na aula.
□ A mesma lógica das pontes de Moses (uma especificação de engenharia aparentemente neutra que, combinada com uma desigualdade social pré-existente, produz exclusão) se aplicaria a um sistema de reconhecimento facial calibrado majoritariamente com rostos de pele clara, que erra mais em rostos de pele escura.
□ Como as pontes de Moses mostram que uma decisão de engenharia civil produziu exclusão racial, conclui-se que toda infraestrutura urbana baixa ou estreita é necessariamente um projeto de exclusão deliberada.

Teste 5 — Scripts e affordances no design de objetos cotidianos

□ Se os fabricantes de barbeadores femininos, descritos por Steen (2022), tivessem incluído parafusos visíveis desde o início, mas continuassem vendendo o produto com um manual que diz explicitamente “não abra, procure assistência técnica”, o script de que “a usuária não deve fazer manutenção” deixaria de existir no produto.
□ No limite em que um produto fosse desenhado sem absolutamente nenhuma instrução, rótulo, formato de peça ou elemento visual que sugerisse qualquer uso preferencial, ele deixaria de carregar um script no sentido discutido na aula.
□ A mesma lógica de script embutido no design (parafusos presentes ou ausentes) se aplicaria a um carro cujo compartimento do motor só pode ser aberto com uma ferramenta proprietária vendida exclusivamente pela concessionária, tornando a manutenção por mecânicos independentes, na prática, inviável.
□ Como Kranzberg diz que a tecnologia não é neutra, e o exemplo do barbeador não exige nenhum vilão, conclui-se que identificar um script de exclusão num produto é o mesmo que provar que o fabricante teve intenção de discriminar.

Teste 6 — A Primeira Lei de Kranzberg e quem está na sala

□ Se a equipe que projetou o barbeador feminino selado tivesse sido composta, desde o início, por pessoas que já opinavam ativamente sobre manutenção e reparo de eletrodomésticos, o script de “a usuária não deve abrir o produto” teria, pela lógica da aula, uma chance menor de aparecer sem que ninguém o questionasse durante o projeto.
□ No limite em que a equipe de projeto de um produto fosse absolutamente idêntica, em experiência e perspectiva, ao público inteiro que vai usar esse produto, o risco específico de um viés inconsciente de quem projeta se tornar um “detalhe” codificado no produto, discutido na aula, deixaria de fazer sentido do jeito que foi apresentado.
□ A mesma lógica de “quem estava na sala” se aplicaria a um currículo escolar de história desenhado inteiramente por um único grupo social, que tende a omitir, sem necessariamente perceber, eventos relevantes para outros grupos.
□ Como a Primeira Lei de Kranzberg diz que a tecnologia “não é boa nem má, nem neutra”, conclui-se que é impossível avaliar moralmente qualquer decisão específica de projeto.

Teste 7 — Atores e interessados (stakeholders) no desenvolvimento tecnológico

□ Se a definição de “ator” usada por Van de Poel & Royakkers exigisse que a pessoa ou grupo tivesse, além do poder de decidir e agir, controle total sobre o resultado final da tecnologia, associações profissionais e sindicatos — listados na aula como uma categoria de ator — provavelmente deixariam de se qualificar como atores nessa definição alterada.
□ No limite em que todo interessado (stakeholder) tivesse também poder total de influenciar a direção do desenvolvimento tecnológico, a distinção entre “ator” e “interessado” apresentada na aula deixaria de fazer sentido — todo interessado seria, por definição, também um ator.
□ A mesma distinção entre ator (quem decide e pode agir) e interessado (quem sofre o impacto, mas não necessariamente decide) se aplicaria a uma reforma de zoneamento urbano, em que a construtora e a prefeitura são atores, e os moradores atuais do bairro, que não participam da votação, são interessados.
□ Como interessados (stakeholders) não podem necessariamente influenciar a direção do desenvolvimento tecnológico, conclui-se que seus interesses são irrelevantes para quem projeta a tecnologia.

Teste 8 — O dilema de Collingridge e o caso do Teflon

□ Se, em 1938, a comunidade científica já suspeitasse teoricamente de riscos de compostos fluorados de forma genérica, mas não existisse nenhum método capaz de testar esse risco especificamente para o PFOA, o caso do Teflon ainda ilustraria uma versão do dilema de Collingridge, mesmo com essa suspeita genérica presente.
□ No limite em que uma tecnologia nunca se tornasse “entranhada” na sociedade — pudesse ser completamente abandonada a qualquer momento, sem nenhum custo social, econômico ou de infraestrutura —, a segunda metade do dilema de Collingridge (mudar de direção é caro depois que a tecnologia se populariza) deixaria de se aplicar a essa tecnologia.
□ A mesma estrutura do dilema de Collingridge se aplicaria à adoção em massa de um novo material de construção civil cujo risco de degradação estrutural só se manifesta depois de décadas de uso em prédios já ocupados.
□ Como o dilema de Collingridge mostra que era impossível prever, em 1938, o risco do PFOA, conclui-se que nenhuma decisão tomada depois de 2005 (quando a EPA classificou o PFOA como provável carcinógeno) pode ser julgada por padrões semelhantes de imprevisibilidade.

Teste 9 — Constructive Technology Assessment (CTA)

□ Se o CTA fosse aplicado só depois que uma tecnologia já estivesse plenamente difundida na sociedade — nunca em paralelo ao processo de desenvolvimento —, ele ainda cumpriria a função de “ampliar a mesa” descrita na aula, já que o objetivo é trazer mais atores para a conversa, independentemente do momento.
□ No limite em que absolutamente todos os atores e interessados possíveis já participassem, desde o primeiro dia, de todo processo de desenvolvimento tecnológico, a proposta específica do CTA de “expandir a mesa” deixaria de ter uma lacuna concreta para preencher.
□ A lógica do CTA (avaliação em paralelo ao desenvolvimento, incluindo mais atores e valores desde o início) se aplicaria à elaboração de uma nova lei, se especialistas em impacto social e grupos afetados fossem consultados continuamente durante a redação, e não só depois que o texto já estivesse pronto para votação.
□ Como o CTA expande tanto os atores envolvidos quanto os valores considerados no processo de design, conclui-se que ele torna o desenvolvimento tecnológico mais lento e caro sem nenhum benefício mensurável em troca.

Teste 10 — O feedback loop da economia da atenção

□ Se as redes sociais parassem de usar rolagem infinita e notificações “puxa-atenção”, mas continuassem retreinando o algoritmo de recomendação com os mesmos dados de engajamento coletados antes da mudança, o feedback loop descrito na aula deixaria de operar imediatamente.
□ No limite em que um algoritmo de recomendação nunca fosse retreinado com dados de engajamento — permanecesse fixo desde o lançamento, para sempre —, o feedback loop específico descrito na aula (projeto → comportamento → dados → retreinamento → projeto) deixaria de existir, mesmo que o design original continuasse a capturar atenção.
□ A mesma estrutura de feedback loop (projeto → comportamento → dados → ajuste do projeto) se aplicaria a um sistema de precificação dinâmica de aplicativos de transporte, cujo algoritmo de preços influencia quando as pessoas pedem corridas, e os padrões de pedido resultantes retreinam o próprio algoritmo de precificação.
□ Como o comportamento capturado pelo design de uma rede social gera os dados que retreinam o algoritmo, conclui-se que apenas o comportamento do usuário, e não o projeto original do produto, é responsável pelo resultado final do ciclo.

Teste 11 — O paradoxo da responsabilidade (diminui/amplia)

□ Se Van de Poel & Royakkers tivessem escrito que o contexto sociotécnico apenas “diminui” a responsabilidade dos engenheiros, sem também “ampliá-la”, a conclusão prática da aula de que “não ser o único culpado não significa estar isento” ainda se sustentaria da mesma forma.
□ No limite em que um engenheiro tivesse conhecimento perfeito e antecipado de todos os interessados afetados por sua decisão, mesmo os que nunca estiveram fisicamente na sala de projeto, a parte da tese que “amplia” a responsabilidade (por precisar considerar quem não está na sala) deixaria de acrescentar uma exigência nova sobre esse engenheiro específico, já que ele já consideraria todos por conhecimento prévio.
□ A mesma tensão entre responsabilidade diminuída (por ser um entre muitos atores) e responsabilidade ampliada (por precisar considerar quem não está na sala) se aplicaria a um urbanista que segue diretrizes de zoneamento decididas por outros órgãos, mas que ainda precisa considerar o efeito de seu projeto sobre moradores que não participaram de nenhuma consulta pública.
□ Como o contexto sociotécnico “diminui” a responsabilidade individual do engenheiro, conclui-se que, em qualquer sistema complexo com muitos atores envolvidos, nenhum indivíduo específico pode ser responsabilizado por uma falha.

Teste 12 — Síntese da aula — do Challenger à economia da atenção

□ Se o caso do Challenger fosse removido inteiramente da aula, e ela começasse direto pelo conceito de sistema sociotécnico (sem nenhum caso concreto de abertura), os conceitos subsequentes (coformação mútua, scripts, mapa de atores, feedback loop, paradoxo da responsabilidade) deixariam de ser logicamente válidos.
□ No limite em que um sistema tecnológico fosse usado por uma única pessoa, isolada, sem nenhum outro ator, interessado, cultura organizacional ou sociedade ao redor, praticamente nenhum dos conceitos centrais desta aula (coformação mútua, mapa de atores, feedback loop social, paradoxo da responsabilidade) teria um mecanismo social para operar sobre esse caso específico.
□ A tese central que atravessa toda a aula — de que decisões aparentemente “só técnicas” carregam e produzem consequências sociais, e vice-versa — se aplicaria igualmente a uma decisão de arquitetura de software sobre onde hospedar servidores, cujo efeito ambiental e energético (tema anunciado como próximo passo do curso) depende de escolhas que parecem, à primeira vista, puramente técnicas.
□ Como esta aula mostrou vários mecanismos (cultura organizacional, scripts de design, mapa de atores, feedback loop, responsabilidade distribuída) pelos quais o social e o técnico se afetam mutuamente, conclui-se que toda falha técnica de um sistema deve ser explicada primariamente por causas sociais, e nunca por erros técnicos comuns, como bugs de programação.