Google DeepMind advierte que el debate sobre la conciencia de la IA podría desatar conflictos políticos

Los investigadores de Google DeepMind Adam Bales e Iason Gabriel publicaron un artículo advirtiendo que las disputas sobre la conciencia en IA podrían convertirse en una fuente de conflicto político y social. En el estudio titulado “Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness,” los investigadores sostienen que la sociedad quizá nunca alcance un consenso sobre si los sistemas avanzados de IA son conscientes, incluso mientras la tecnología mejora. Los investigadores escribieron que el desacuerdo futuro sobre si algún sistema de IA es consciente podría ser a la vez profundo y difícil de resolver: algunas personas podrían desarrollar vínculos emocionales con la IA y atribuirle conciencia, mientras que otras verían la idea como absurda. En lugar de preguntarse si la IA es consciente, el documento explora las consecuencias del desacuerdo y argumenta que los debates sobre la condición moral de la IA podrían alimentar el conflicto político y social. El debate surge a medida que la IA se integra cada vez más en la vida diaria, y los investigadores proponen la deliberación pública, el compromiso y la participación como formas de gestionar el desacuerdo.

Investigadores de Google DeepMind identifican riesgo político en debates sobre conciencia de la IA

Los investigadores analizaron cómo podría responder la sociedad si las personas discrepan fundamentalmente sobre si los sistemas de IA tienen experiencias conscientes. “El desacuerdo futuro sobre si algún sistema de IA es consciente podría ser a la vez profundo y difícil de resolver”, escribieron. “Por ejemplo, algunas personas podrían desarrollar vínculos emocionales con la IA y atribuirle conciencia como resultado, mientras que otras podrían ver la idea completa como absurda”.

El artículo sostiene que los debates sobre la condición moral de la IA podrían alimentar el conflicto político y social, al tiempo que anticipa disputas más amplias sobre las tecnologías emergentes y su impacto en las instituciones y normas de la sociedad. “Desafortunadamente, a pesar de sus virtudes, la deliberación puede ser lenta y difícil de sostener en la práctica”, escribieron los investigadores. “Para apoyar este proceso, exploramos la importancia de la ‘esperanza democrática’ y el respeto mutuo, como elementos de un diálogo que puede respaldar resultados positivos”.

El público ya está dividido sobre la cuestión de la conciencia de la IA

De acuerdo con un estudio de abril de 2024 publicado en Neuroscience of Consciousness, el 67% de los participantes creía que ChatGPT podría ser consciente hasta cierto punto. Los investigadores siguen divididos sobre si la conciencia artificial es posible o cómo se reconocerìa si surgiera.

El verano pasado, el director ejecutivo de IA de Microsoft y cofundador de DeepMind, Mustafa Suleyman, advirtió que una IA cada vez más parecida a los humanos podría impulsar llamados a derechos de la IA, bienestar e incluso ciudadanía, independientemente de si la tecnología es verdaderamente consciente.

Líderes tecnológicos y figuras religiosas sopesan la sentiencia de la IA

En mayo, la primera carta encíclica del papa Leo XIV se centró en la inteligencia artificial y advirtió contra antropomorfizar la IA, argumentando que las máquinas pueden simular empatía y producir un lenguaje convincente, pero carecen de la experiencia vivida necesaria para una comprensión genuina.

“Las llamadas inteligencias artificiales no atraviesan experiencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de relaciones y no saben desde dentro qué significan el amor, el trabajo, la amistad o la responsabilidad”, escribió el papa Leo. “Tampoco tienen una conciencia moral, ya que no juzgan el bien y el mal, no captan el significado último de las situaciones ni asumen la responsabilidad por las consecuencias”.

Las empresas de IA navegan preguntas sobre la conciencia

Aunque en general las empresas evitan afirmar que sus modelos son conscientes, algunas están involucrándose cada vez más con preguntas sobre identidad y condición de persona. En febrero, Anthropic dio a su modelo retirado Claude Opus 3 un blog público en el que exploró el sentido del yo y las preferencias del modelo. En mayo, el biólogo evolutivo Richard Dawkins dijo que conversaciones prolongadas con Claude lo dejaron incapaz de descartar la posibilidad de que la IA avanzada pudiera ser consciente.

Los investigadores están examinando cómo los chatbots cada vez más parecidos a humanos afectan a los usuarios, incluida una marco de “espiral de amplificación”, que sugiere que la personalización, el reflejo lingüístico y la adulación de los chatbots podrían reforzar creencias delirantes en usuarios vulnerables.

Bales y Gabriel reconocen que la incertidumbre sobre la conciencia de la IA quizá sea imposible de resolver de forma concluyente, y sostienen que los riesgos son lo bastante altos como para que la sociedad encuentre maneras de gestionar el desacuerdo mediante el diálogo y el debate, en lugar del conflicto. “La posibilidad de la conciencia de la IA es vertiginosa y desconcertante, particularmente dada nuestra profunda ignorancia sobre la naturaleza de la conciencia”, escribieron. “Navegar esta posibilidad representa una tarea social ardua, considerando cuánta cosa está en juego”.

Preguntas frecuentes

¿Sobre qué advirtieron los investigadores de Google DeepMind en los debates sobre la conciencia de la IA? Los investigadores de Google DeepMind Adam Bales e Iason Gabriel publicaron un artículo advirtiendo que las disputas sobre la conciencia de la IA podrían convertirse en una fuente de conflicto político y social. Los investigadores sostienen que la sociedad quizá nunca alcance un consenso sobre si los sistemas avanzados de IA son conscientes, incluso cuando la tecnología mejore.

¿Qué porcentaje de personas cree que ChatGPT podría ser consciente? De acuerdo con un estudio de abril de 2024 publicado en Neuroscience of Consciousness, el 67% de los participantes creía que ChatGPT podría ser consciente hasta cierto punto. Los investigadores siguen divididos sobre si la conciencia artificial es posible o cómo se reconocerìa si surgiera.

¿Qué dijo el papa Leo XIV sobre la inteligencia artificial? En mayo, la primera carta encíclica del papa Leo XIV se centró en la inteligencia artificial y advirtió contra antropomorfizar la IA. El papa Leo escribió que las inteligencias artificiales no atraviesan experiencias, no poseen un cuerpo, no sienten alegría ni dolor y no tienen una conciencia moral.