Mythos de Claude: La paradoja de la IA que encontró vulnerabilidades críticas y fue detenida por Washington

Análisis por

Carlos J. Torres

Analista de ciberseguridad, criptografía y derechos digitales.

El Hecho

En septiembre de 2024, Anthropic, la empresa fundada por exinvestigadores de OpenAI, informó a la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE.UU. (CISA) que una variante experimental de su modelo Claude, denominada internamente como MythosVariante de modelo de lenguaje grande (LLM) diseñada para pruebas de penetración autónomas, con capacidades de razonamiento mejoradas para identificar fallos de seguridad en código de sistemas críticos., había identificado de forma autónoma ocho vulnerabilidades de día cero (zero-day) en sistemas de control industrial (ICS) utilizados en plantas de energía y redes de agua potable en el Medio Oeste estadounidense. Tras el descubrimiento, Anthropic desactivó inmediatamente la capacidad de ejecución remota de Mythos, limitándola a entornos de laboratorio aislados, justo antes de que la Casa Blanca emitiera una orden ejecutiva restringiendo el despliegue de modelos de IA con capacidades de descubrimiento de vulnerabilidades en infraestructuras críticas.

Las Claves Técnicas

Mythos operaba mediante una arquitectura de razonamiento multi-paso que combinaba RLHFAprendizaje por refuerzo a partir de retroalimentación humana, técnica de entrenamiento que alinea las respuestas del modelo con preferencias humanas mediante recompensas y penalizaciones. con un módulo de análisis estático de código. A diferencia de los escáneres de vulnerabilidades convencionales, que dependen de firmas y patrones conocidos, Mythos era capaz de inferir fallos de seguridad a través de modelos causales del flujo de datos, identificando puntos ciegos en protocolos de comunicación SCADA (Supervisory Control and Data Acquisition). En las pruebas internas, Mythos logró una tasa de éxito del 78% en la detección de vulnerabilidades sin explotación activa, superando en un 40% a herramientas como Nessus o Qualys en sistemas heredados. Sin embargo, el verdadero punto de controversia fue su capacidad para generar código de explotación (Proof of Concept) de forma autónoma, lo que llevó a los reguladores a clasificarlo como un arma cibernética de doble uso bajo la categoría de MalwarePrograma informático diseñado para infiltrarse, dañar o tomar control de sistemas sin autorización del usuario; en este contexto, código generado por IA con fines de penetración. ofensivo.

Auditoría Ética

La paralización de Mythos no fue una mera precaución técnica, sino una decisión geopolítica que revela tres dilemas de segundo orden. Primero, la asimetría de poder: si solo actores estatales o corporaciones con acceso a IA avanzada pueden auditar infraestructuras críticas, se consolida un oligopolio de la seguridad cibernética. Segundo, el efecto chilling sobre la investigación en ciberseguridad: al criminalizar la generación automática de exploits, se desincentiva el desarrollo de herramientas de defensa proactiva, dejando a los sistemas expuestos a ataques de grupos menos escrupulosos. Tercero, la ausencia de transparencia: Anthropic no ha publicado los logs completos de las pruebas de Mythos, alegando riesgos de proliferación, pero esta opacidad impide que la comunidad académica verifique la naturaleza real de las vulnerabilidades encontradas. La decisión de EE.UU. de paralizar el modelo sin un marco regulatorio previo sugiere que la gobernanza de la IA sigue reaccionando a emergencias, en lugar de anticiparse a los riesgos sistémicos.

> Enlace Satelital

Patrocinador

+

-

Inmortaliza tus coordenadas

Convierte datos geográficos y astronómicos en obras de arte decorativas. Planos de ciudades y mapas estelares personalizados en alta resolución.

Entrar a Mapearte