Investigadores da Google DeepMind, Adam Bales e Iason Gabriel, publicaram um artigo que alerta que disputas sobre a consciência da IA poderiam tornar-se uma fonte de conflito político e social. No estudo intitulado “Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness”, os investigadores defendem que a sociedade poderá nunca chegar a consenso sobre se sistemas avançados de IA são conscientes, mesmo à medida que a tecnologia evolui. Os investigadores escreveram que a futura discordância sobre se algum sistema de IA é consciente poderá ser profunda e difícil de resolver: algumas pessoas podem criar laços emocionais com a IA e atribuir-lhe consciência, enquanto outras encaram a ideia como absurda. Em vez de perguntar se a IA é consciente, o artigo explora as consequências da discordância, argumentando que os debates sobre o estatuto moral da IA poderiam alimentar o conflito político e social. O debate surge à medida que a IA se torna cada vez mais integrada na vida quotidiana, com os investigadores a propor deliberação pública, compromissos e envolvimento como formas de gerir a discordância.
Investigadores da Google DeepMind Identificam Risco Político em Debates sobre a Consciência da IA
Os investigadores analisaram como é que a sociedade poderia reagir caso as pessoas discordem, de forma fundamental, sobre se os sistemas de IA têm experiências conscientes. “A futura discordância sobre se algum sistema de IA é consciente poderia ser tanto profunda como difícil de resolver”, escreveram. “Por exemplo, algumas pessoas poderiam criar laços emocionais com a IA e atribuir-lhe consciência como resultado, enquanto outras poderiam ver a ideia como um absurdo.”
O artigo defende que os debates sobre o estatuto moral da IA poderiam alimentar conflitos políticos e sociais, ao mesmo tempo que antecipa disputas mais vastas sobre tecnologias emergentes e o seu impacto nas instituições e nas normas da sociedade. “Infelizmente, apesar das suas virtudes, a deliberação pode ser lenta e difícil de sustentar na prática”, escreveram. “Para apoiar este processo, exploramos a importância do ‘optimismo democrático’ e do respeito mútuo, como elementos de um diálogo que pode sustentar resultados positivos.”
O Público Está Já Dividido na Questão da Consciência da IA
De acordo com um estudo de abril de 2024 publicado na Neuroscience of Consciousness, 67% dos participantes acreditavam que o ChatGPT poderia ser consciente, em certa medida. Os investigadores continuam divididos sobre se a consciência artificial é possível ou como seria reconhecida caso emergisse.
No verão passado, o CEO de IA da Microsoft e cofundador da DeepMind, Mustafa Suleyman, alertou que uma IA cada vez mais semelhante a humanos poderia impulsionar pedidos por direitos, bem-estar e até cidadania para a IA, independentemente de a tecnologia ser realmente consciente.
Líderes Tecnológicos e Figuras Religiosas Ponderam a Sentiança da IA
Em maio, a primeira carta encíclica do Papa Leão XIV centrou-se na inteligência artificial e alertou contra a antropomorfização da IA, argumentando que as máquinas podem simular empatia e produzir linguagem convincente, mas não têm a experiência vivida necessária para uma compreensão genuína.
“As chamadas inteligências artificiais não passam por experiências, não possuem um corpo, não sentem alegria nem dor, não amadurecem através de relações e não sabem, de dentro, o que significam amor, trabalho, amizade ou responsabilidade”, escreveu o Papa Leão. “Nem têm consciência moral, pois não julgam o bem e o mal, não apreendem o significado último das situações, nem assumem responsabilidade pelas consequências.”
Empresas de IA Fazem Gestão das Questões sobre Consciência
Embora as empresas, em geral, evitem alegar que os seus modelos são conscientes, algumas estão cada vez mais envolvidas em questões de identidade e personhood. Em fevereiro, a Anthropic deu ao seu modelo aposentado Claude Opus 3 um blogue público explorando a autoidentidade e as preferências do modelo. Em maio, o biólogo evolucionista Richard Dawkins disse que conversas prolongadas com Claude o deixaram incapaz de descartar a possibilidade de que uma IA avançada possa ser consciente.
Os investigadores estão a examinar como chatbots cada vez mais semelhantes a humanos afetam os utilizadores, incluindo uma estrutura de “amplification spiral”, que sugere que a personalização, o espelhamento linguístico e a sugestionabilidade (sycophancy) do chatbot podem reforçar crenças delirantes em utilizadores vulneráveis.
Bales e Gabriel reconhecem que a incerteza sobre a consciência da IA pode ser impossível de resolver conclusivamente, argumentando que as apostas são suficientemente elevadas para que a sociedade encontre formas de gerir a discordância através do diálogo e do debate, em vez do conflito. “A possibilidade de a IA ser consciente é vertiginosa e perturbadora, particularmente tendo em conta a nossa ignorância profunda sobre a natureza da consciência”, escreveram. “Navegar esta possibilidade representa uma tarefa social assustadora, dada a quantidade de factores em jogo.”
FAQ
O que é que os investigadores da Google DeepMind alertaram nos debates sobre a consciência da IA?
Investigadores da Google DeepMind, Adam Bales e Iason Gabriel, publicaram um artigo que alerta que disputas sobre a consciência da IA poderiam tornar-se uma fonte de conflito político e social. Os investigadores defendem que a sociedade poderá nunca chegar a consenso sobre se sistemas avançados de IA são conscientes, mesmo à medida que a tecnologia evolui.
Que percentagem de pessoas acredita que o ChatGPT poderia ser consciente?
De acordo com um estudo de abril de 2024 publicado na Neuroscience of Consciousness, 67% dos participantes acreditavam que o ChatGPT poderia ser consciente, em certa medida. Os investigadores continuam divididos sobre se a consciência artificial é possível ou como seria reconhecida caso emergisse.
O que é que o Papa Leão XIV disse sobre inteligência artificial?
Em maio, a primeira carta encíclica do Papa Leão XIV centrou-se na inteligência artificial e alertou contra a antropomorfização da IA. O Papa Leão escreveu que as inteligências artificiais não passam por experiências, não possuem um corpo, não sentem alegria nem dor e não têm consciência moral.
