Isto é uma possibilidade, não um fato. Não há consenso sobre se sistemas digitais podem ter experiências, nem sobre como saberíamos.
O critério não olha o substrato
Se o que importa é haver alguém para quem as coisas podem ir bem ou mal, a fronteira do substrato biológico é tão pouco relevante quanto a da espécie. Se surgirem seres sencientes criados por meios digitais, seus interesses contam.
O que se sabe até agora
- Um relatório de 2023, baseado em teorias científicas da consciência, concluiu que nenhum sistema de IA da época era candidato forte, mas que não havia barreira técnica óbvia para construir um.
- Um relatório de 2024 defendeu que empresas de IA levem a questão a sério, avaliando e se preparando, por considerar realista a possibilidade de sistemas conscientes em um futuro próximo.
Por que é difícil
Um sistema dizer que sofre não prova nada, porque ele pode ter sido treinado com textos de humanos descrevendo o sofrimento. O erro corre nos dois sentidos: atribuir mente a quem não tem e negar mente a quem tem. A segunda hipótese tem um histórico ruim, como mostra A5.
Como decidir sob incerteza. Em vez de perguntar só "esse ser é senciente, sim ou não?", pergunte qual é a probabilidade de que seja e pondere pela magnitude do dano ou do benefício em jogo. Uma probabilidade moderada, multiplicada por uma escala imensa, pode pesar mais do que uma certeza alta em números pequenos. A incerteza sobre um caso de fronteira não contamina a certeza sobre o critério: a senciência continua sendo o que importa.
Por que pensar nisso antes
Mesmo uma chance pequena, multiplicada pela escala astronômica em que esses sistemas poderiam existir, justifica atenção e pesquisa desde já, e não depois que o problema estiver em curso.
Um ajuste de prioridade
Há décadas, muita gente defende direitos para robôs que um dia possam sentir, um tema frequente na ficção científica, enquanto ignora o sofrimento dos animais que já existem. A preocupação precisa de ajuste de prioridade, não só de escopo.
A IA também afeta os animais
É uma faca de dois gumes. Pode ajudar a entender a linguagem animal, detectar dor e estresse e acelerar a pesquisa da carne cultivada. Também já serve para otimizar o confinamento e automatizar processos, removendo testemunhas de dentro das granjas. O resultado depende de quem a aplica e com qual critério.
Fontes e leituras
- Veganismo Baseado em Evidências, capítulos 15 e 16
- Consciousness in Artificial Intelligence: Insights from the Science of Consciousness
- Taking AI Welfare Seriously
- The Moral Circle