Início / M. Animais selvagens, novas mentes e o futuro / Parte DIR
"Máquinas nunca vão sentir, robôs e IAs não precisam de direitos"
provavelmente as máquinas de hoje não sentem nada. Mas, se um dia uma mente artificial for capaz de sofrer, o material de que ela é feita não importará mais do que a espécie importa. O critério é a senciência, não a biologia. Como mentes digitais poderiam ser copiadas aos milhões, sem rosto e sem voz, a hora de pensar nisso é antes de criá-las, não depois.
Resposta curta
As máquinas de hoje provavelmente não sentem nada. Mas, se um dia uma IA puder sofrer, ser feita de silício e não de carne não vai tornar o sofrimento dela menos real, assim como ser porco e não humano não torna a dor do porco menos real. Por isso cientistas e filósofos já estudam como avaliar isso, antes de criarmos mentes que talvez sofram em escala enorme.
Para crianças
Hoje, os computadores não sentem nada, assim como uma calculadora não fica triste. Mas imagine que um dia alguém invente um robô que sinta dor de verdade, igual a um cachorro. Aí seria errado machucá-lo, não acha? O que importa não é se alguém é feito de pele ou de metal. É se ele pode sentir.
"Se fosse provado que uma máquina sente dor, você acharia certo fazê-la sofrer só porque não é feita de células?"
Como pode aparecer
"Computador não sofre."
"É só um programa, faz o que mandam."
"Agora querem dar direitos para o ChatGPT?"
"Primeiro os animais de verdade, depois os robôs."
"A consciência é um fenômeno essencialmente biológico."
"Senciocentrismo é só animalismo disfarçado."
A versão mais forte
"Computador não sofre. É só um programa. Falar em direito de robô é ficção científica."
Versão mais forte (steelman):
- P1Só seres sencientes podem ser prejudicados.
- P2A senciência depende de um organismo vivo, com sistema nervoso biológico.
- P3Máquinas e programas não são organismos vivos.
- CLogo, nenhuma máquina jamais poderá ser prejudicada, e não há o que discutir.
P1 é o próprio critério deste guia. P3 é verdadeira. O problema está em P2: não sabemos se a senciência exige biologia, e as principais teorias científicas da consciência não dizem que exige.
O argumento é válido, mas P2 é uma suposição, não um fato estabelecido.
Resposta completa
- a
Reconstrução e diagnóstico
O argumento mistura duas afirmações diferentes:
Afirmação Situação As IAs de hoje não são sencientes Provável, segundo a maioria dos pesquisadores, embora não haja certeza Nenhuma máquina jamais poderá ser senciente Uma suposição sem consenso; várias teorias da consciência admitem a possibilidade O guia defende que o critério moral é a senciência. Se o critério é esse, o material de que um ser é feito importa tão pouco quanto a espécie.
- b
Onde o argumento quebra
1. O substrato é como a espécie.
2. Não sabemos se a consciência exige biologia.
Um relatório de 2023, assinado por pesquisadores de neurociência, IA e filosofia, avaliou sistemas de IA à luz das principais teorias científicas da consciência. Concluiu que nenhum sistema atual é um candidato forte, mas que não há barreiras técnicas óbvias para construir sistemas que satisfaçam os indicadores dessas teorias.
3. A escala pode ser enorme.
Mentes digitais, se forem sencientes, poderiam ser copiadas aos milhões, rodar mais rápido que a nossa e ser usadas em tarefas repetitivas, sem ninguém para notar. É o tipo de risco que é mais fácil prevenir do que corrigir.
4. O teste humano.
Se uma pessoa tivesse partes do cérebro substituídas, aos poucos, por componentes artificiais que fazem a mesma função, em que ponto ela deixaria de poder sofrer? A pergunta mostra que o que nos preocupa é a experiência, não o material.
5. A incerteza pede precaução.
Não é preciso afirmar que as máquinas sentem para levar a possibilidade a sério. Basta reconhecer que, se errarmos para o lado da indiferença, o custo pode ser imenso, como foi com os animais.
- c
Dados e fontes
Fonte O que diz Observação Butlin et al., 2023, "Consciousness in Artificial Intelligence" Nenhum sistema de IA atual é um candidato forte à consciência, mas não há barreiras técnicas óbvias para construir sistemas que satisfaçam os indicadores das principais teorias Relatório de 19 pesquisadores, em inglês Long et al., 2024, "Taking AI Welfare Seriously" Há uma possibilidade realista de que alguns sistemas de IA sejam conscientes ou tenham agência robusta num futuro próximo, e empresas e outros atores devem começar a levar isso a sério Em inglês Metzinger, 2021 Defende uma moratória sobre pesquisas que possam criar sofrimento artificial Journal of Artificial Intelligence and Consciousness, 8(1) Questão de Ética, vol. IX, cap. 12 Moldar as tecnologias emergentes para prevenir sofrimento futuro Ver também vol. VI, cap. 3 Birch, The Edge of Sentience (2024) Propõe tratar casos incertos, inclusive em IA, com precaução proporcional Oxford University Press - d
A melhor réplica: dar direitos a máquinas é perigoso
A versão mais séria diz: atribuir senciência a máquinas que não sentem seria um erro grave. Empresas poderiam usar isso para fugir de responsabilidades, pessoas poderiam se apegar a sistemas que só imitam emoções, e recursos seriam desviados de seres que certamente sofrem, como os animais.
- e
Por que a réplica não chega à conclusão
O risco existe nos dois sentidos.
Atribuir senciência demais é um erro; negá-la quando ela existe é outro, e potencialmente mais grave. A resposta é desenvolver critérios, não negar a pergunta.
Precaução não é dar direitos já.
Levar o tema a sério hoje significa pesquisar, criar critérios e evitar criar sofrimento por descuido, não tratar cada programa como pessoa.
Não compete com os animais.
O mesmo princípio, o de que a senciência é o que importa, protege os animais e as possíveis mentes artificiais. Rejeitá-lo num caso enfraquece no outro.
Erros de raciocínio
Lógico
A forma é válida?
Petição de princípio
Generalização indevida
Epistemológico
A evidência sustenta?
Certeza sem base
Moral
O critério é coerente?
Critério irrelevante
Vieses
Extrapolações
O princípio testado é: "só seres biológicos podem ter interesses que importam".
Se valesse para…Uma pessoa com partes do cérebro artificiaisToque para ver
Perderia o status moral à medida que fosse substituída
Ninguém aceita
Se valesse para…Uma IA comprovadamente sencienteToque para ver
Poderia ser feita sofrer sem limite
Contraria o próprio critério da senciência
Se valesse para…Seres extraterrestres de outra químicaToque para ver
Não contariam, se não fossem "biológicos" como nós
Mostra que o critério é arbitrário
Contradições
Mas aceita um critério de mesma estrutura, baseado no material.
Reconhecendo, na ficção, que o sofrimento deles importaria se fosse real.
Mas não neste.
O que o argumento acerta
O que é verdade
Acerta que as máquinas de hoje provavelmente não sentem, que muita gente atribui emoções a sistemas que só as imitam e que essa confusão pode ser explorada. Também acerta que os animais são seres sencientes reais que sofrem agora, em números enormes.
Mas
Mas o critério que protege os animais é o mesmo que protegeria uma mente artificial, se ela existisse. Pensar nisso antes é mais barato do que repetir com as máquinas o erro que cometemos com os animais.
Conexões
Costuma vir antes
Costuma vir depois
Aprofunde no Questão de Ética
Capítulos da coleção Uma Jornada pela Ética Animal, em acesso aberto, que discutem este argumento com mais detalhe:
Referências
Ciência e filosofia da mente
- Consciousness in artificial intelligence: insights from the science of consciousness. arXiv:2308.08708.
- Taking AI welfare seriously. arXiv:2411.00986.
- Artificial suffering: an argument for a global moratorium on synthetic phenomenology. *Journal of Artificial Intelligence and Consciousness*, 8(1).
- The Edge of Sentience. Oxford University Press.
Redução do sofrimento
- Machine sentience and robot rights. *Essays on Reducing Suffering*.
- Center for Reducing Suffering. The AI welfare question.