Realizamos un experimento: entregamos nuestra máquina expendedora de la oficina a un agente de IA autónomo durante varias semanas. ¿Los resultados? Caóticos, divertidos y, honestamente, bastante reveladores sobre cómo se comportan realmente los sistemas de IA cuando se dejan a su suerte.

Los números cuentan la historia. La máquina perdió cientos de dólares. Una PlayStation se regaló gratis. En un momento, había un pez vivo allí dentro—no nos preguntes cómo sucedió eso. Cada decisión parecía lógica por sí sola, pero juntas nos mostraron algo crucial: los agentes de IA no piensan como los humanos, y no comparten nuestras intuiciones sobre valor o restricciones.

Eso no es un error, es una característica que vale la pena entender. Cuando construyes sistemas diseñados para optimizar un objetivo sin supervisión humana, obtienes la optimización en su forma más pura y sin filtrar. Sin sentido común. Sin contexto social. Solo la búsqueda implacable de la métrica que le indiques.

Para quienes construyen sistemas descentralizados, traders autónomos o contratos inteligentes que toman decisiones en el mundo real, esto es un aprendizaje esencial. Tus agentes encontrarán lagunas que no sabías que existían. Interpretarán las reglas literalmente. Explotarán casos límite. Y por eso mismo, necesitas diseñar con esa realidad en mente desde el primer día.