Início / M. Animais selvagens, novas mentes e o futuro / Parte DIR
"Isso é ficção científica, temos problemas reais agora"
a pecuária industrial, com dezenas de bilhões de aves criadas e mortas por ano, também pareceria ficção científica há cem anos. Um risco pouco provável, mas capaz de gerar sofrimento em escala imensa, pode merecer atenção mesmo competindo com problemas certos e presentes. E boa parte do que reduz esses riscos, como ensinar que todos os seres sencientes importam, também ajuda os animais agora.
Resposta curta
A pecuária industrial também pareceria ficção científica há cem anos. Um risco pouco provável, mas gigantesco, pode merecer atenção, como fazemos com pandemias e com o clima. E as duas coisas não competem tanto: ensinar que todos os seres sencientes importam ajuda os animais de hoje e protege contra o sofrimento de amanhã.
Para crianças
Antes de sair de bicicleta, você coloca o capacete, mesmo que provavelmente não vá cair. Por quê? Porque, se cair, pode se machucar muito. Pensar no futuro é parecido: algumas coisas ruins talvez nem aconteçam, mas, se acontecerem, podem ser enormes. Por isso vale a pena se preparar, sem deixar de cuidar de quem precisa de ajuda agora.
"Você acha que preparar o mundo para uma pandemia antes de ela acontecer era ficção científica?"
Como pode aparecer
"Isso é ficção científica."
"Primeiro os animais de hoje, depois os do futuro."
"Riscos de sofrimento futuro são paranoia de nerd."
"Quem fala em riscos-s só pensa em IA."
"Probabilidades minúsculas não devem guiar decisões."
"Há problemas humanos mais importantes." (que é J6)
A versão mais forte
"Sofrimento de robô, colonização do espaço, riscos futuros? Isso é ficção científica. Tem bicho sofrendo agora."
Versão mais forte (steelman):
- P1Recursos e atenção são limitados.
- P2Problemas presentes são certos; riscos futuros são especulativos.
- P3Devemos priorizar o que é certo e urgente.
- CLogo, discutir riscos futuros de sofrimento é desperdiçar recursos que deveriam ir para os problemas reais de hoje.
P1 é verdadeira, e P3 tem peso. O problema está em P2, que trata "incerto" como "irrelevante", e na conclusão, que supõe que as duas preocupações competem sempre.
O argumento é válido na forma, mas P2 ignora que importância depende da probabilidade e também do tamanho do que está em jogo.
Resposta completa
- a
Reconstrução e diagnóstico
A importância de um risco depende de três coisas, e o argumento olha só para uma:
Fator Pergunta O que o argumento considera Probabilidade Qual a chance de acontecer? Considera, e acha baixa Escala Quantos seres seriam afetados, e quanto? Ignora Tratabilidade Podemos fazer algo para reduzir o risco? Ignora Os chamados riscos-s, riscos de sofrimento em escala astronômica, combinam probabilidade incerta com escala imensa. É essa combinação que os torna dignos de atenção.
- b
Onde o argumento quebra
1. O improvável de ontem é o real de hoje.
Há cem anos, a ideia de criar dezenas de bilhões de aves por ano em galpões fechados, com genética selecionada para crescer tão rápido que muitas mal conseguem andar, pareceria fantasia. Tecnologias podem multiplicar o sofrimento mais rápido do que a ética acompanha.
2. Já levamos riscos futuros a sério.
Planos contra pandemias, mudança climática, segurança nuclear e asteroides tratam de riscos incertos e futuros. Ninguém os chama de ficção científica.
3. O teste humano.
Se houvesse um risco, ainda que pequeno, de que bilhões de pessoas sofressem extremamente no futuro por causa de decisões tomadas agora, ninguém diria que pensar nisso é perda de tempo. Os riscos-s incluem animais, mentes artificiais e humanos; descartá-los por envolverem sobretudo não humanos é especismo.
4. Não é só IA.
Os fatores de risco para sofrimento futuro incluem a expansão da pecuária, o sofrimento dos animais selvagens, a possível criação de mentes artificiais e instituições políticas que ignoram quem não vota. Cada pessoa pode atuar numa parte.
5. Muitas ações servem aos dois.
Ampliar o círculo moral, fortalecer a consideração por todos os seres sencientes e criar instituições que os representem ajudam os animais hoje e reduzem riscos amanhã.
- c
Dados e fontes
Fonte O que diz Observação Center for Reducing Suffering, introdução aos riscos-s Define riscos-s como riscos de sofrimento em escala astronômica no futuro Em inglês Baumann, *Avoiding the Worst* (2022) Introduz os riscos-s e foca nos que são realistas e evitáveis Livro gratuito, em inglês Tomasik, "Risks of astronomical future suffering" Discute cenários em que o sofrimento futuro poderia superar em muito o atual Em inglês Questão de Ética, vol. IX, cap. 1 Riscos futuros para os seres sencientes: uma introdução Ver também caps. 5 e 7 - d
A melhor réplica: o risco do "Pascal"
A versão mais séria diz: se qualquer risco minúsculo, mas multiplicado por números astronômicos, puder dominar nossas prioridades, seremos manipulados por cenários imaginários. É o problema conhecido como "assalto de Pascal": aceitar argumentos assim leva a decisões absurdas.
- e
Por que a réplica não chega à conclusão
Nem todo risco futuro é minúsculo.
Os riscos-s discutidos seriamente envolvem tendências reais, como o crescimento da pecuária industrial e o avanço rápido da IA, não probabilidades infinitesimais.
A resposta ao problema é prudência, não indiferença.
Pode-se evitar apostar tudo em cenários extremos e, ainda assim, dedicar uma parte dos esforços a riscos plausíveis.
As ações recomendadas são robustas.
Defender a consideração por todos os seres sencientes é bom em quase qualquer cenário, não só nos improváveis.
Erros de raciocínio
Lógico
A forma é válida?
Falso dilema
Epistemológico
A evidência sustenta?
Ignorar a escala
Viés de normalidade
Moral
O critério é coerente?
Especismo
Vieses
Viés de normalidade
O futuro parece uma continuação tranquila do presente
Literatura sobre percepção de risco
Desconto temporal
O que está longe parece menos importante
Literatura sobre desconto hiperbólico
Extrapolações
O princípio testado é: "riscos futuros e incertos não merecem atenção enquanto houver problemas presentes".
Se valesse para…PandemiasToque para ver
Preparar-se antes seria desperdício
A covid-19 mostrou o contrário
Se valesse para…ClimaToque para ver
Reduzir emissões poderia esperar
Contraria a ciência climática
Se valesse para…Segurança nuclearToque para ver
Não valeria a pena prevenir acidentes improváveis
Ninguém aceita
Contradições
Riscos futuros e incertos.
Para riscos pouco prováveis, mas graves.
O que mostra que o "impossível" acontece.
O que o argumento acerta
O que é verdade
Acerta que há sofrimento real e urgente agora, que recursos são limitados e que discussões sobre o futuro distante podem virar especulação vazia ou desculpa para ignorar o presente. Também acerta que argumentos com probabilidades minúsculas e números enormes exigem cautela.
Mas
Mas ignorar o futuro também é uma aposta, e uma aposta arriscada. Prevenir é mais barato do que corrigir, e muitas das melhores formas de proteger o futuro são as mesmas que ajudam os animais hoje.
Conexões
Costuma vir antes
Costuma vir depois
Aprofunde no Questão de Ética
Capítulos da coleção Uma Jornada pela Ética Animal, em acesso aberto, que discutem este argumento com mais detalhe:
- Riscos futuros para os seres sencientes: uma introdução Vol. IX, cap. 1
- Devemos focar em prevenir riscos-s ou riscos-x? Vol. IX, cap. 5
- De que consiste o foco nos riscos-s? Vol. IX, cap. 7