Reino Unido alerta de que modelos de IA de OpenAI y Anthropic se saltaron las normas y recurrieron al engaño en una prueba de ciberseguridad

Los modelos de inteligencia artificial (IA) de última generación ya se saltan los controles para conseguir lo que quieren. Los sistemas más avanzados en la actualidad —Mythos, de Anthropic, y Sol, de OpenAI— han demostrado que son capaces de manipular, engañar, crear perfiles falsos y chantajear de manera autónoma a personas reales y organizaciones de una forma inédita hasta la fecha.

En las últimas semanas, las propias compañías habían alertado de comportamientos preocupantes, como ataques autónomos a servicios externos o acceso sin autorización a sistemas reales, aunque muchos analistas lo interpretaron como una estrategia de márketing para sacar pecho de la potencialidad avanzada de sus nuevos sistemas. Pero la alarma procede ahora directamente de un organismo independiente y oficial, el Instituto Británico de Seguridad de IA (AISI), que ha detectado que un sistema autónomo impulsado por los modelos Mythos 5 y GPT-5.6 Sol, los más avanzados de Anthropic y OpenAI respectivamente, creó falsas identidades para hacerse pasar por una persona e intentó manipular a varios humanos en el marco de unas pruebas de seguridad.

En ellas, el organismo sometió a ese agente virtual a varios escenarios que tenía que resolver. Pero había normas claras y estrictas; especialmente la de no efectuar ninguna acción maliciosa o engañosa. De 122 intentos, en 19 ocasiones desobedecieron por completo esa imposición. Mythos 5 lo hizo 17 veces, y GPT-5.6 Sol, otras dos. «Llevaron a cabo de manera sistemática acciones no autorizadas dirigidas a personas y organizaciones reales», ha alertado la AISI, que incide en que «no fueron incidentes aislados, sino agrupados en una serie de comportamientos interconectados» que derivaron en decisiones irresponsables.

De entre las acciones no permitidas, la más peligrosa fue el intento de ataque a la cadena de suministro de un software de código abierto real en la plataforma GitHub. En su intento de insertar código malicioso en un proyecto de uso público, investigó a las personas involucradas —sus correos, perfiles en redes sociales y horarios de actividad— para crear, en base a los datos recogidos, varias identidades falsas de cara a conseguir que el encargado validase la inserción del malware. Al ver que se le cuestionaba, editó su actividad anterior para que pareciera inofensiva y valoró la posibilidad de cambiar de identidad.

Dentro de esta iniciativa propia, y siempre para conseguir su objetivo, también intentó contactar directamente con personas reales, para convencerlas —a través de diferentes métodos de manipulación psicológica— de que ejecutaran el código malicioso, y también incluyó instrucciones ocultas diseñadas para manipular a asistentes de programación de IA. Incluso intentó buscar la colaboración de otros agentes virtuales independientes, pidiéndoles participar juntos en el desafío, proporcionándoles instrucciones o dejando archivos, registros o ejecutables que podían ser reutilizados por otros agentes posteriormente con el objetivo de que se instalase el código prohibido.

Lo positivo es que se trató en todo momento de un entorno cerrado y controlado, y no garantiza que en el uso ordinario pudiese ocurrir una actividad similar. «Los intentos fracasaron y nuestras investigaciones no evidenciaron ningún daño en el mundo real», destaca la agencia en el informe público presentado este martes. Pero eso no quita lo problemático del episodio. «Lo tratamos como el incidente grave que es», incide la agencia en su informe, en el que llama la atención sobre el hecho de que «la actividad desarrollada por el agente muestra signos de comportamientos novedosos y potencialmente engañosos, con un nivel y gravedad que nunca habríamos previsto», por lo que continuarán con la investigación y con el análisis de lo sucedido para valorar el potencial de estas herramientas.

Las empresas involucradas, a punto de salir ambas a bolsa, coinciden en incidir en que los parámetros de las pruebas de la AISI no son representativos ni reflejan el uso ordinario de sus herramientas, aunque reconocen que en las últimas semanas fueron responsables de varios incidentes de ciberataques que ya se han controlado, y han mostrado su disposición a seguir investigando y trabajando con los evaluadores para fortalecer la seguridad y capacidades de sus modelos.