Los agentes de IA necesitan urgentemente verificación. zk-SNARKs ofrecen una solución.

Las pruebas de conocimiento cero (ZKPs) tienen el potencial de convertirse en el pilar de una nueva era de IA confiable y identidad digital, proporcionando a individuos y organizaciones una forma de interacción segura y transparente a través de plataformas y fronteras.

Para la IA y la confianza, este es un tiempo “interesante”.

Actualmente, cada vez más empresas de inversión están comenzando a utilizar agentes de IA para revisar informes de investigación y documentos de la empresa. Sin embargo, se les exige a los humanos proporcionar datos biométricos cada vez más estrictos, como escaneos faciales, muestras de voz y patrones de comportamiento, solo para demostrar que no son robots. Una vez que estos datos se filtran, pueden ser mal utilizados por robots impulsados por IA, que se disfrazan con identidades altamente realistas para suplantar a personas reales, eludiendo así los sistemas establecidos para protegerse de ellos. Esto nos sumerge en una extraña nueva carrera armamentista: cuanto más profundo sea el conjunto de datos requerido por los métodos de verificación, mayor será el daño causado si se filtran. Entonces, ¿cómo podemos confirmar quién (o qué) es el objeto de la interacción?

Exigir a los humanos que mantengan la transparencia, pero aceptar la manipulación oculta de las máquinas, es irracional. Tanto los robots como los usuarios de la red necesitan mejores métodos de verificación de identidad. Para resolver este problema, no se puede depender de la recopilación interminable de más y más datos biométricos, ni de establecer bases de datos centralizadas (que para los hackers son como un “tarro de miel”). zk-SNARKs nos señala un camino, permitiendo que tanto la IA como los humanos puedan verificar la identidad de manera efectiva, protegiendo su seguridad.

Déficit de confianza que obstaculiza el desarrollo

La falta de una identidad de IA verificable conlleva riesgos de mercado directos. Cuando los agentes de IA pueden hacerse pasar por humanos, manipular el mercado o ejecutar transacciones no autorizadas, las empresas naturalmente serán cautelosas sobre si implementar sistemas automatizados a gran escala. De hecho, los modelos de lenguaje de gran tamaño que se “ajustan finamente” en conjuntos de datos pequeños para mejorar el rendimiento tienen 22 veces más probabilidades de producir resultados dañinos que el modelo base; y su tasa de éxito en eludir las protecciones de seguridad y éticas del sistema (un proceso conocido como “jailbreaking”) se triplica cuando se enfrentan a sistemas listos para producción. Sin una verificación de identidad confiable, cada interacción de IA es un paso hacia posibles vulnerabilidades de seguridad.

La complejidad del problema va mucho más allá. No es tan simple y directo como prevenir que los actores malintencionados desplieguen agentes ilegales, ya que no nos enfrentamos a una única interfaz de IA. En el futuro, habrá cada vez más agentes de IA autónomos, con capacidades cada vez más fuertes. En este océano de agentes, ¿cómo podemos identificar con precisión con quién estamos interactuando? Incluso los sistemas de IA legítimos necesitan tener credenciales verificables para participar en la nueva economía de agentes. Por ejemplo, cuando un robot de IA realiza una transacción con otro robot, ambas partes deben poder confirmar la autenticidad de la identidad del otro, el alcance de la autorización de operación y un marco claro de responsabilidad.

El lado humano de esta ecuación también enfrenta muchos problemas. Los sistemas de identificación tradicionales no solo exponen a los usuarios al riesgo de filtraciones de datos a gran escala, sino que también fomentan la vigilancia autoritaria y permiten que las grandes empresas obtengan ingresos de miles de millones de dólares vendiendo información personal que le pertenece a los usuarios, todo esto proviene de los propios usuarios sin que se les haya proporcionado ni un centavo de compensación. Por lo tanto, las personas instintivamente se resisten a compartir más datos personales, mientras que la evolución de la tecnología de verificación continúa exigiendo información personal más profunda.

zk-SNARKs: un puente entre la privacidad y la rendición de cuentas

Los zk-SNARKs ofrecen una solución a este problema que parece complicado. Los zk-SNARKs permiten a las entidades (ya sean humanas o inteligencia artificial) verificar afirmaciones específicas sin revelar los datos subyacentes, al mismo tiempo que no divulgan información sensible. Por ejemplo, un usuario puede demostrar que tiene más de 21 años sin revelar su fecha de nacimiento; un agente de IA puede demostrar que sus datos de entrenamiento cumplen con normas éticas sin revelar algoritmos propietarios; las instituciones financieras pueden verificar que sus clientes cumplen con los requisitos regulatorios sin almacenar información personal que podría ser filtrada.

Para los agentes de IA, los ZKPs pueden establecer los mecanismos de confianza profunda necesarios, ya que lo que necesitamos verificar no es solo la arquitectura técnica, sino también los patrones de comportamiento, la capacidad de rendición de cuentas legales y la reputación social. Con la ayuda de ZKPs, estas declaraciones de verificación pueden almacenarse en la cadena en forma de un gráfico de confianza verificable.

Podemos considerarlo como una capa de identificación combinable que opera a través de múltiples plataformas y jurisdicciones. Cuando un agente de IA presenta un certificado, puede demostrar, sin revelar información propietaria, que sus datos de entrenamiento cumplen con estándares éticos, que los resultados han sido auditados y que todas las acciones están vinculadas a entidades humanas responsables.

Los ZKPs tienen el potencial de transformar completamente los modelos existentes, permitiéndonos realizar la verificación de identidad sin necesidad de entregar datos sensibles, pero la difusión de la aplicación de esta tecnología sigue siendo lenta en la actualidad. Esta tecnología aún pertenece a un campo de nicho, con baja conciencia por parte de los usuarios, y el marco regulatorio correspondiente aún no está claro. Más crítico aún, las empresas que obtienen ganancias a través de la recopilación de datos carecen de incentivos para adoptar esta tecnología. Sin embargo, esto no ha impedido que las empresas de autenticación de identidad más flexibles la utilicen. A medida que los estándares regulatorios se aclaran gradualmente y la conciencia pública aumenta, se espera que los ZKPs se conviertan en el pilar de una nueva era de IA confiable y identidad digital, proporcionando a individuos y organizaciones una forma de interacción segura y transparente a través de plataformas y fronteras.

Impacto del mercado: Desbloqueo de la economía de agentes inteligentes

La IA generativa crea cada año billones de dólares en valor para la economía global, pero gran parte de ese valor sigue estando bloqueado debido a las barreras de identificación. Las principales razones son tres: primero, los inversores institucionales deben completar un estricto proceso de cumplimiento de KYC/AML antes de invertir en estrategias impulsadas por IA; segundo, las empresas requieren una identidad de agente verificable antes de permitir que los sistemas autónomos accedan a infraestructuras críticas; tercero, las autoridades regulatorias deben contar con un mecanismo de responsabilidad sólido antes de aprobar la aplicación de la IA en áreas sensibles.

El sistema de identificación basado en zk-SNARKs satisface todas estas exigencias, mientras conserva las ventajas de privacidad y autonomía que sustentan los sistemas descentralizados. Al implementar un mecanismo de divulgación selectiva, se pueden cumplir los requisitos regulatorios, al mismo tiempo que se evita la creación de conjuntos de datos personales vulnerables. A través de tecnologías de verificación criptográfica, se puede establecer un entorno de interacción entre agentes autónomos sin la necesidad de confianza previa; además, el mecanismo de garantía del control del usuario se alinea perfectamente con los principios fundamentales de las nuevas regulaciones de protección de datos, como el GDPR y la Ley de Privacidad de California.

Esta tecnología también ayuda a abordar la creciente crisis de la suplantación de identidad profunda. Cuando cada contenido puede ser asociado criptográficamente a un creador verificado sin revelar su identidad real, podemos frenar de manera efectiva la propagación de información errónea mientras protegemos la privacidad. A medida que la línea entre el contenido generado por IA y el trabajo creado por humanos se vuelve cada vez más difusa, este mecanismo técnico se vuelve especialmente importante.

Camino de ZK

Aunque algunos pueden argumentar que cualquier sistema de identificación es un paso hacia el autoritarismo, la realidad es que sin un mecanismo de autenticación de ciudadanía, ninguna sociedad puede funcionar. La realidad es que la verificación de identidad ya se está implementando de manera amplia, pero su efectividad es preocupante. Cada vez que subimos documentos para cumplir con los requisitos de KYC, aceptamos escaneos de reconocimiento facial, o enviamos datos personales para completar la verificación de edad, estamos participando en un sistema de identificación que es intrusivo, presenta riesgos de seguridad y es ineficiente.

zk-SNARKs proporciona un camino hacia adelante que respeta plenamente la privacidad personal y establece la confianza necesaria para actividades económicas complejas. Esta tecnología nos permite construir sistemas en los que los usuarios controlan verdaderamente sus datos, el proceso de verificación no requiere depender de medios de monitoreo, y tanto los humanos como los agentes de IA pueden interactuar de manera segura manteniendo su autonomía.