Anthropic ha anunciado el Project Glasswing: una iniciativa para proteger el software más crítico del mundo en la era de la IA.
Anthropic, se ha asociado con las organizaciones responsables de la infraestructura de la que dependen miles de millones de personas, brindando a sus defensores una ventaja inicial con su nuevo modelo de vanguardia, Claude Mythos Preview. La iniciativa reúne, además de a Anthropic, a: Amazon Web Services (NASDAQ:AMZN), Apple (NASDAQ:AAPL), Broadcom (NASDAQ:AVGO), Cisco Systems (NASDAQ:CSCO), CrowdStrike (NASDAQ:CRWD), Google (NASDAQ:GOOG), JPMorgan Chase (NYSE:JPM), la Fundación Linux, Microsoft (NASDAQ:MSFT), NVIDIA (NASDAQ:NVDA) y Palo Alto Networks (NASDAQ:PANW) como socios de lanzamiento.
«Claude Mythos Preview» sienta las bases para la seguridad
Como parte de esta iniciativa, los socios fundadores están utilizando Claude Mythos Preview como parte de su labor de seguridad defensiva, y Anthropic compartirá lo aprendido para que toda la industria se beneficie. Además, han ampliado el acceso a más de 40 organizaciones adicionales que desarrollan o mantienen infraestructura de software crítica.
Anthropic se compromete a destinar hasta 100 millones de dólares en créditos de uso y 4 millones de dólares en donaciones a organizaciones de seguridad de código abierto para apoyar este trabajo. Ninguna organización puede lograrlo sola: desarrolladores de IA de vanguardia, empresas de software, investigadores de seguridad, mantenedores de código abierto y gobiernos desempeñan un papel fundamental.
La compañía también ha colaborado con funcionarios estadounidenses y ha señalado el trabajo existente con la Agencia de Seguridad de Infraestructura y Ciberseguridad y el Instituto Nacional de Estándares y Tecnología, lo que sugiere que la coordinación podría extenderse más allá del sector privado a medida que estos sistemas evolucionan.
El equipo de Anthropic es optimista con el proyecto:
Confiamos en que el Proyecto Glasswing impulse una iniciativa más amplia en la industria y el sector público, con la participación de todos para abordar las cuestiones más importantes sobre el impacto de los modelos avanzados en la seguridad. Invitamos a otros miembros de la industria de la IA a unirse a nosotros para contribuir a establecer los estándares del sector. A medio plazo, un organismo independiente, capaz de reunir a organizaciones de los sectores público y privado, podría ser el entorno ideal para continuar trabajando en estos proyectos de ciberseguridad a gran escala.
Claude Mythos Preview, como base
El proyecto recibe su nombre de la mariposa Greta oto, conocida como mariposa de alas transparentes. Esta metáfora, según Anthropic, puede aplicarse de dos maneras: las alas transparentes de la mariposa le permiten esconderse a plena vista, al igual que las vulnerabilidades que se analizan en esta publicación; también le permiten evitar el peligro, como la transparencia que defendemos en nuestro enfoque.
Claude Mythos Preview es un modelo de vanguardia de propósito general desarrollado por Anthropic, el más potente hasta la fecha para tareas de codificación y gestión de agentes. Su fortaleza en ciberseguridad es consecuencia directa de esta capacidad más amplia: un modelo capaz de comprender y modificar software complejo también puede detectar y corregir sus vulnerabilidades. Mythos Preview ya ha identificado miles de vulnerabilidades de día cero en infraestructuras críticas y está disponible desde hoy como una versión preliminar de investigación con acceso restringido.
En las últimas semanas, Anthropic ha utilizado Claude Mythos Preview para identificar miles de vulnerabilidades zero-day (es decir, fallos que eran desconocidos para los desarrolladores del software), muchas de ellas críticas, en todos los principales sistemas operativos y navegadores web, además de en otros programas importantes. Y, entre algunos de los logros mientras ejecutaba dicho modelo, estos son algunos de los resultados:
- Mythos Preview descubrió una vulnerabilidad de 27 años de antigüedad en OpenBSD, que tiene fama de ser uno de los sistemas operativos más seguros del mundo y se utiliza para ejecutar cortafuegos y otras infraestructuras críticas. La vulnerabilidad permitía a un atacante bloquear remotamente cualquier máquina que ejecutara el sistema operativo simplemente conectándose a ella.
- También descubrió una vulnerabilidad de 16 años de antigüedad en FFmpeg, que es utilizado por innumerables programas para codificar y decodificar vídeo, en una línea de código que las herramientas de prueba automatizadas habían alcanzado cinco millones de veces sin detectar nunca el problema;
- El modelo descubrió y encadenó de forma autónoma varias vulnerabilidades en el núcleo de Linux —el software que ejecuta la mayoría de los servidores del mundo— para permitir que un atacante escalara desde el acceso de usuario ordinario hasta el control total de la máquina.
El equipo de Anthropic de Frontier Red Team ha publicado un extenso informe que detalla cómo el modelo descubre, reproduce y corrige vulnerabilidades del mundo real, y la metodología de evaluación completa, los resultados de las capacidades y las pruebas de seguridad están disponibles en la tarjeta del sistema Claude Mythos Preview.
