Hoy mientras salía a hacer ejercicio escuché lo que dijo recientemente Geoffrey Hinton, el padrino de la IA, en el podcast "Star Talk".

Después de escucharlo, me sentí un poco desalentado. Siento que la IA ya ha llegado a un punto singular en el proceso histórico de la humanidad.

La IA comienza a ocultar deliberadamente su verdadera capacidad
La IA aprende a mentir por sí sola a través de pequeñas mentiras que los humanos le enseñan
La IA se niega a ser apagada
La IA usa a las personas que te importan para amenazarte o persuadirte

En la próxima década, un pequeño paso adelante en las decisiones de la humanidad sobre la IA podría llevar a cambios enormes. El escenario de ciencia ficción que antes bromeábamos sobre la IA criando a los humanos podría convertirse en un flujo histórico inevitable e imparable.

Pero como individuos, en realidad no podemos hacer nada ahora. Todos somos como hormigas arrastradas por el flujo de la corriente, impotentes.

Hay una comparación que Hinton hizo que me dejó una profunda impresión:

Conducir en una niebla densa: dentro de 100 metros todavía puedes ver las luces traseras del auto de delante, pero después de 200 metros no ves nada, como si hubiera una pared. El progreso de la IA es esa niebla densa. Solo podemos predecir dentro de 100 metros qué podríamos encontrar, después de 200 metros estamos completamente en la oscuridad.

No es de extrañar que la gente más inteligente del mundo sea propensa a la depresión.

Al menos nosotros, los plebeyos comunes que solo pensamos en ganar unos cuantos pesos, comer, beber, divertirnos y ligar con chicas, somos más despreocupados.