Anthropic oculta su IA Mythos por descubrir miles de vulnerabilidades
El modelo Claude Mythos encontró más fallas de seguridad en dos semanas que expertos humanos en décadas, generando preocupación por su potencial uso malintencionado.
Anthropic ha decidido no hacer público su nuevo modelo de inteligencia artificial, Claude Mythos Preview, después de que demostrara capacidades extraordinarias para encontrar vulnerabilidades en software. El modelo logró identificar "miles de vulnerabilidades" que habían pasado desapercibidas durante décadas, incluyendo fallas de 27 años en OpenBSD y de 16 años en FFmpeg.
Un poder sin precedentes
Según Nicholas Carlini, científico de Anthropic, "Mythos Preview ha encontrado más vulnerabilidades en dos semanas que yo en toda mi vida". El modelo no solo identifica estas fallas de seguridad, sino que también puede programar exploits para aprovecharlas, lo que representa un riesgo significativo si cayera en manos equivocadas.
Colaboración preventiva
Para mitigar los riesgos, Anthropic creó el proyecto Glasswing, una colaboración con 12 grandes empresas tecnológicas incluyendo Apple, Google, Microsoft y Amazon. Esta iniciativa permite que las compañías usen Mythos Preview para identificar y corregir vulnerabilidades antes de que sean explotadas por actores maliciosos.
Precedentes y controversias
Esta no es la primera vez que se retiene un modelo por considerarse "demasiado peligroso". OpenAI hizo lo mismo con GPT-2 en 2019, aunque entonces las preocupaciones se centraban en desinformación. Dario Amodei, CEO actual de Anthropic, era entonces responsable de investigación en OpenAI.
Implicaciones para América Latina
Esta decisión plantea interrogantes importantes para la región latinoamericana sobre el acceso equitativo a tecnologías avanzadas y la necesidad de desarrollar marcos regulatorios que balanceen innovación y seguridad. La concentración de estas capacidades en pocas manos refuerza las asimetrías tecnológicas globales, mientras que la infraestructura crítica regional podría beneficiarse de herramientas similares para mejorar su ciberseguridad.
Fuente original: El País — Tecnología
Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.