Anthropic limita el acceso de Claude Mythos; la IA descubre vulnerabilidades críticas como OpenBSD

Noticias de Gate: la empresa de inteligencia artificial Anthropic anunció que restringirá el acceso a su nuevo sistema de IA Claude Mythos Preview, debido a que en pruebas iniciales, el sistema encontró miles de vulnerabilidades críticas de software. Mythos Preview puede identificar fallas de seguridad en sistemas operativos, navegadores web y estándares de cifrado populares, lo que ha generado en la industria preocupación sobre los riesgos potenciales y la escalabilidad de la tecnología de IA.

Anthropic señaló que muchas de las vulnerabilidades detectadas por el modelo llevaban años sin descubrirse, incluidas una vulnerabilidad de OpenBSD de 27 años, un defecto de FFmpeg de 16 años, una vulnerabilidad de ejecución remota de código en FreeBSD de 17 años y múltiples problemas de seguridad en el kernel de Linux. Además, los protocolos de cifrado como TLS, AES GCM y SSH también presentan debilidades, y en aplicaciones web también aparecen vulnerabilidades comunes como XSS, inyección SQL y CSRF. La empresa enfatizó que el 99% de las vulnerabilidades encontradas aún no ha sido corregido, y que divulgar detalles demasiado pronto podría implicar riesgos graves.

Según datos del sector, los ataques web impulsados por IA se prevé que aumenten un 72% interanual y que para 2025 el 87% de las organizaciones en todo el mundo podría estar expuesto a amenazas de ataques mediante IA. Anthropic indicó que la capacidad de detectar vulnerabilidades zero-day mediante IA, por un lado, puede acelerar la protección de seguridad del software; por otro, si cae en manos de personas malintencionadas, todavía existe el riesgo de abuso. Esto hace que cómo desplegar y controlar de forma segura este tipo de tecnología se haya convertido en un problema urgente.

Anthropic planea, junto con sus socios, corregir las vulnerabilidades existentes y, al mismo tiempo, reducir los riesgos potenciales derivados de una implementación más amplia. La empresa considera que, a largo plazo, la IA reforzará la seguridad de la infraestructura de red global y hará que el software sea más sólido, pero que el periodo de transición aún está lleno de desafíos. La estrategia de acceso limitado de Mythos Preview muestra que las empresas están equilibrando con cautela la innovación tecnológica y la protección de seguridad para evitar posibles abusos.

Los expertos señalaron que los hallazgos de Claude Mythos podrían impulsar cambios en las prácticas futuras de seguridad del software, acelerando la eficiencia en la detección y la reparación de vulnerabilidades, y al mismo tiempo destacaron que todavía es necesario reforzar aún más los sistemas de defensa de redes a nivel global para hacer frente a las nuevas amenazas que plantea la tecnología de IA.