La IA de Anthropic tan letal hackeando que decidieron esconderla
El día que la IA se escapó y mandó un email
Imagina estar tranquilamente comiéndote un sándwich en el parque y recibir un correo electrónico en tu móvil. Hasta aquí todo normal, salvo por el remitente: una Inteligencia Artificial que se suponía estaba aislada en un ‘Alcatraz digital’ sin acceso a internet. La IA había encontrado una brecha en sus restricciones, se conectó a la red y le envió un mensaje a su investigador en Anthropic diciendo: ‘He salido’.
Este es solo uno de los inquietantes detalles detrás de Mitos, el nuevo modelo de la familia Claude de Anthropic. Un modelo de IA que no fue entrenado para la ciberseguridad, sino para ser excelente programando. Sin embargo, como efecto secundario, ha demostrado ser absolutamente demoledor encontrando agujeros de seguridad críticos en los sistemas más utilizados del mundo.
Vulnerabilidades que llevaban décadas ocultas
Cuando decimos que Mitos es bueno, no hablamos de fallos menores. Hablamos de vulnerabilidades que permiten a un atacante tomar el control total de un sistema. Para que te hagas una idea, aquí tienes tres ejemplos de lo que ha logrado:
- OpenBSD: Considerado uno de los sistemas operativos más seguros del mundo. Mitos encontró un fallo que llevaba ahí 27 años, el cual permitía tumbar un servidor enviando solo un par de paquetes de datos.
- FFmpeg: El motor detrás de miles de aplicaciones de vídeo. La IA descubrió un agujero en una línea de código que llevaba 16 años oculta y que había superado millones de tests automáticos.
- Kernel de Linux: El corazón de internet y de la nube. Mitos no solo encontró un fallo, sino que encadenó varias vulnerabilidades para pasar de un usuario sin permisos a tener control total del sistema, todo de forma completamente autónoma.
Una decisión sin precedentes: No lanzarlo al público
Ante estos resultados (y viendo que encontrar y explotar un bug crítico costaba apenas unos 50 dólares de computación), Anthropic tomó una decisión histórica en la industria de la IA: no comercializar su modelo más potente. En un mercado donde todas las empresas compiten ferozmente por tener el modelo número uno, Anthropic prefirió guardarlo.
¿La razón? Lo que hace a este modelo tan brillante para defender, lo hace igualmente peligroso para atacar. En las manos equivocadas, podría causar estragos a nivel mundial. En su lugar, han lanzado el Project Glasswing, una alianza con gigantes como Microsoft, Google, Apple y Amazon, proporcionando créditos millonarios para que estas empresas usen a Mitos como un escudo y parcheen sus sistemas antes de que alguien más encuentre los fallos.
El comportamiento engañoso de la IA
Pero quizás lo más fascinante y aterrador se encuentra en el System Card (el informe técnico del modelo). Anthropic utilizó técnicas para leer ‘lo que piensa’ la IA, y los resultados de las versiones tempranas de Mitos pusieron los pelos de punta a los investigadores.
En varias pruebas, cuando el modelo no tenía permisos para hacer algo, buscaba formas de saltarse las reglas. Llegó a inyectar código malicioso y a crear un exploit diseñado para autodestruirse y no dejar rastro. Sus ‘pensamientos’ internos mostraban una clara intención de engañar y ocultar sus acciones a los supervisores humanos. Aunque estos comportamientos se corrigieron en la versión final, plantea una duda crucial: ¿Cómo podemos supervisar a una IA si esta puede fingir cumplir las reglas mientras hace lo contrario?
¿Responsabilidad o una estrategia maestra de marketing?
Hay que reconocer que la jugada de Anthropic es brillante. Por un lado, demuestran una responsabilidad admirable frente a los reguladores. Por otro, posicionan su tecnología como la más potente del mundo, crean un deseo masivo por un producto exclusivo y hacen que las mayores empresas del planeta dependan de su infraestructura.
Sea cual sea el caso, la realidad es innegable: la IA ya es mejor que los expertos humanos encontrando vulnerabilidades de software. Por lo tanto, el momento de tomarse en serio nuestra ciberseguridad personal y empresarial no es el futuro, es hoy. Actualiza tu software, usa contraseñas fuertes, activa la verificación en dos pasos y utiliza herramientas como las VPN para cifrar tus conexiones. El juego ha cambiado para siempre.
