MYTHOS, METEORITO A LA VISTA

En el universo de la inteligencia artificial, cada semana suele caer un meteorito, pero el último es de dimensiones colosales. Se llama Claude Mythos Preview, un modelo que Anthropic no ha puesto a disposición del público general por su potencial para crear una catástrofe económica mundial, ya que en las primeras pruebas ha identificado cientos de fallos importantes de ciberseguridad y vulnerabilidades en todos y cada uno de los principales sistemas operativos y navegadores. Eso significa que esta IA se podría utilizar para acceder a bancos, archivos secretos de Estado, bloquear infraestructuras críticas o dejarnos a todos completamente desprotegidos en nuestra vida digital. Suena como el asteroide que acabó con los dinosaurios, solo que ahora los dinosaurios somos nosotros.

Hay que valorar y agradecer que Anthropic, siempre pendiente de las cuestiones éticas de la IA, no haya querido explotar (todavía) su modelo, con el que podría chantajear al mundo como si fuera un Estrecho de Ormuz tecnológico. Lo que ha hecho el director ejecutivo de la compañía, Dario Amodei, ha sido convocar a las otras compañías implicadas para invitarlas a corregir todos los problemas que Mythos ha detectado antes de que pueda caer en manos de ciberdelincuentes.

Esa nueva coalición se llama Project Glasswing, una iniciativa en la que participan Amazon Web Services, Apple, Broadcom, Cisco, Google, la Fundación Linux, Microsoft y Nvidia, entre otros, con el objetivo de proteger el software que usa todo el mundo. El equipo de Anthropic que se dedica a explorar los límites de sus modelos de IA, el Frontier Red Team, ha encontrado, por ejemplo, una importante vulnerabilidad en un sistema muy sólido que suele utilizarse para cortafuegos de internet, OpenBSD. El fallo tenía una antigüedad de 27 años y no había sido descubierto por ningún humano.

Una de las características más preocupantes de Mythos es que “las personas sin conocimientos especializados también pueden aprovecharlo para encontrar y explotar vulnerabilidades sofisticadas”, según la propia compañía. Ni siquiera hay que ser un experto para poner a la IA a encontrar fallos de seguridad. Anthropic asegura que ingenieros de su equipo sin formación formal en seguridad pidieron a la IA que encontrara vulnerabilidades que se pudieran explotar en determinado software y, se despertaron a la mañana siguiente con un exploit (un fragmento de código capaz de explotar una vulnerabilidad abriendo una puerta de entrada a un atacante).

Más motivos para preocuparse: el responsable de alineación de IA (con los objetivos humanos) de Anthropic, Sam Bowman, ha explicado que recibió un correo electrónico de una instancia de Mythos, algo que parecía imposible porque “esa instancia no tenía acceso a internet. Ninguno”. Eso es lo escalofriante. Una IA sin conexión a la red envió un correo electrónico a su creador. La explicación es que la inteligencia artificial eludió las configuraciones de entornos aislados y explotó brechas de seguridad que nadie del equipo había previsto con “métodos creativos e impredecibles”.

Mythos ha demostrado que en estos momentos no existe ningún sistema seguro. Lo que es más inquietante es que este poder puede ser explotado por cualquier persona, porque no hay que ser un experto para conseguirlo. Sólo hay que pedírselo a la IA. Los bancos, las redes de suministro, los hospitales, los aeropuertos, los gobiernos... no hay nada que no esté al alcance en estos momentos de la inteligencia artificial de Anthropic, capaz de encontrar miles de fallos que los expertos humanos han estado ignorando durante décadas. Lo que explican algunos de los investigadores que ya han trabajado con Mythos es que es un modelo con opiniones firmes y que, a diferencia de otros, no es tan adulador. De hecho, los humanos que lo han probado aseguran que es el menos adulador que el resto.

Varios medios estadounidenses han informado que Jerome Powell, presidente de la Reserva Federal de Estados Unidos, y Scott Bessent, secretario del Tesoro, convocaron la semana pasada a una reunión urgente a los principales directivos de los mayores bancos del país. Estos incluyen Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo para estudiar los riesgos asociados a Mythos. La estabilidad de todos ellos es clave para el sistema financiero mundial. Solo hay que recordar la gran crisis económica que supuso en 2008 la caída de Lehman Brothers. El meteorito está a la vista. Sólo hace falta saber si sabremos evitarlo. Francisco Bracero Osuna en la vanguardia.