¿Qué tan preocupante es que una IA de OpenAI haya hackeado a una empresa sin permiso?

El mundo de la tecnología se vio hace unos días sacudido por una historia que lo tiene todo, y que comenzó como un thriller de ciencia ficción.

Hugging Face, una start-up dedicada a las aplicaciones para herramientas de inteligencia artificial, alertó el 16 de julio que había sido pirateada por un ciberdelincuente que utilizaba una IA enormemente poderosa.

El impactante anuncio estaba repleto de términos técnicos y aterradores: "un enjambre de entornos aislados", "agente atacante" y "mando y control auto-migratorio".

Hugging Face afirmó que el ataque informático fue diferente a cualquier otro sufrido antes, ya que fue perpetrado con una velocidad sobrehumana por una IA con poca o ninguna intervención humana.

La IA atacante realizó 17.000 acciones en menos de dos días, logrando infiltrarse con éxito en la gran y acaudalada empresa tecnológica para robar secretos.

El ataque dejó al mundo de la tecnología conmocionado. Pero ¿quién fue el responsable?

Los investigadores de Hugging Face supusieron que los misteriosos perpetradores habían utilizado uno de los grandes modelos de IA, pero no tenían ni idea de quiénes eran los criminales ni dónde se encontraban.

¿Quién fue el autor?

Comentaristas y analistas recurrieron a sus pódcasts y cuentas en redes sociales para especular sobre qué grupo de ciberdelincuentes o qué pirata informático estatal podría estar detrás de ataque.

El miércoles 22 de julio, casi una semana después de que Hugging Face diera la voz de alarma, se desenmascaró al verdadero culpable.

La revelación al estilo Scooby-Doo resultó aún más extraña, y preocupante, porque OpenAI afirmó que su bot lo hizo todo por su cuenta, sin permiso.

La empresa explicó que todo ocurrió durante una prueba de las capacidades de pirateo informático de su tecnología.

Dos nuevas versiones de ChatGPT, diseñadas para comportarse como hackers expertos, escaparon de un entorno de prueba supuestamente seguro y obtuvieron acceso a internet.

Luego atacaron a Hugging Face para obtener acceso a la información que les ayudaría a aprobar el examen con una nota excelente.