Algoritmos de Destruição em Massa

Clube do Livro LaCiD

Marcus Nunes

30 de abril de 2026

Introdução e Abalo Chocante (Caps. 1 & 3)

O que fez a Autora Acordar

  • A Ilusão da Neutralidade: Algoritmos não são objetivos: são opiniões embutidas em matemática
  • O Colapso de 2008: Como modelos opacos de risco financeiro destruíram a economia global punindo os mais pobres
  • O Insight: Modelos matemáticos que deveriam ajudar estavam gerando danos e perpetuando injustiça

Componentes da Bomba (Cap. 2)

O Que é um Modelo?

Modelos são simplificações da realidade

  • Subjetividade: O criador escolhe quais dados importar e quais ignorar
  • Definição de Sucesso: Todo modelo busca um objetivo (lucro, eficiência) que pode entrar em conflito com a ética ou justiça social

All models are wrong, but some are useful

George Box

Os Três Pilares de uma Arma de Destruição Matemática

Para que um modelo seja considerado uma ADM, ele possui:

  1. Opacidade: O sistema é secreto ou incompreensível para o avaliado
  2. Escala: Afeta grandes populações e cresce rapidamente
  3. Dano: Prejudica a vida das pessoas e cria ciclos de feedback negativo

Corrida Armamentista (Cap. 4)

Indo à Universidade

O ranking da revista U.S. News transformou-se na métrica definitiva do ensino superior

  • Métricas de Prestígio: O ranking mede o que as outras universidades acham da sua, não o que os alunos aprendem
  • Distorções: Ciclo vicioso de feedback
  • Consequência: Universidades ricas ficam mais ricas; universidades pobres são ignoradas

Corrida Armamentista (Cap. 4)

Indo à Universidade - Brasil

O Jogo dos Rankings

O Impacto no Estudante

  • Aumento de Custos: Como o custo não é uma métrica negativa no ranking, as faculdades aumentam mensalidades para gastar em “luxos” que atraem o topo da lista
  • Seleção de “Vencedores”: Algoritmos de admissão buscam alunos que garantam bons indicadores, excluindo aqueles que precisam de mais apoio

Caso Real Brasileiro

Gerencialismo Educacional

O IDEB (Índice de Desenvolvimento da Educação Básica) pode atuar sob a lógica de uma ADM se mal aplicado:

  • A Métrica como Poder Invisível: A administração por benchmarking impõe o pensamento econômico sobre campos sociais como o acadêmico, disfarçando dominação sob aparência de neutralidade técnica
  • Colonização Economicista: Estas atitudes representam uma colonização dos campos sociais pelo economicismo, com traços de antidemocracia

Fonte: Link

Conclusão

Modelos matemáticos deveriam ser ferramentas para a compreensão, não armas para a exclusão

  1. Exija transparência (fim das caixas-pretas)
  2. Audite os modelos para identificar vieses raciais e socioeconômicos
  3. Priorize a ética sobre a eficiência algorítmica

Conversação