¿Una inteligencia artificial (IA) tan peligrosa que no se puede lanzar al público? Parece algo de ciencia ficción, pero esa es la noticia que ha causado revuelo mundial este 7 de abril por cuenta de un nuevo modelo de IA de la empresa estadounidense Anthropic, creadora de la inteligencia artificial Claude.
Anthropic anunció hoy que Claude Mythos, su nuevo modelo de IA, no se lanzará al público por ahora porque podría representar un peligro para la ciberseguridad debido a su capacidad para identificar vulnerabilidades en el software existente.
Anthropic dijo hoy, refiriéndose a Claude Mythos, que los modelos de IA han alcanzado un nivel tan alto en sus capacidades de programación “que les permite superar a todos –excepto a los humanos más habilidosos– a la hora de encontrar y explotar vulnerabilidades de software”.
La empresa agregó en un comunicado publicado en su sitio web: “Mythos Preview ya ha detectado miles de vulnerabilidades de alta gravedad, incluyendo algunas en todos los principales sistemas operativos y navegadores web. Dado el ritmo de avance de la IA, no pasará mucho tiempo antes de que estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura. Las consecuencias para la economía, la seguridad pública y la seguridad nacional podrían ser graves”.
Según esa empresa, una de las vulnerabilidades encontradas por Mythos es un error de estuvo sin detectarse durante 27 años en OpenBSD, un sistema operativo open source que tiene fama de ser particularmente seguro. De hecho, muchos enrutadores y firewalls incorporan la tecnología de OpenBSD en Internet.
Anthropic dijo que inicialmente su nuevo modelo solo se pondrá a disposición de más de 40 empresas y organizaciones de tecnología, entre ellas Apple, Amazon Web Services, Microsoft, Cisco, Broadcom, Nvidia y la Linux Foundation. Eso les dará a esas firmas la oportunidad de corregir vulnerabilidades críticas de seguridad en su software, que es usado por miles de millones de personas en el mundo.
“El Proyecto Glasswing es un intento urgente de utilizar estas capacidades con fines defensivos”, dijo Anthropic”.
Llama la atención que esta coalición, conocida como Proyecto Glasswing, también incluirá a uno de los principales competidores de Anthropic en el negocio de la IA: Google, creadora de Gemini, una de las tres grandes IAs del mercado (junto con ChatGPT y Claude).
