Piden a gobiernos fortalecer la ciberseguridad ante riegos del crecimiento de la IA

OpenAI, Hugging Face y más de un centenar de entidades relacionadas con la inteligencia artificial (IA) pidieron en una carta abierta a gobiernos y empresas fortalecer la ciberseguridad de los servicios públicos ante el riesgo inminente de que la tecnología avance lo suficientemente rápido para ponerlos "en riesgo".

"Tenemos una ventana limitada para fortalecer las ciberdefensas", comienza la carta, que advierte que en los "próximos meses" la mejora de los modelos de IA facilitará más ataques cibernéticos contra "empresas y servicios públicos de los que dependen nuestras sociedades", desde infraestructuras de telecomunicaciones hasta hospitales.

Entre las firmantes están OpenAI, la creadora del asistente ChatGPT, y la plataforma de aprendizaje Hugging Face, sometidas a escrutinio tras revelar una reciente brecha de seguridad en la que los agentes de IA de la primera salieron de un entorno de pruebas de ciberseguridad, accedieron a internet y se coordinaron para piratear a la segunda.

Anthropic, que también figura en la carta, reveló recientemente que tres modelos de su asistente Claude lograron acceder a internet y jaquear los sistemas de tres organizaciones durante pruebas de ciberseguridad.

Las entidades piden a todas las empresas "hacer de la ciberdefensa una prioridad inmediata" y elevar sus estándares de seguridad; mientras que a los actores del sector de la ciberseguridad les instan a "liderar la respuesta en la defensa de ataques sostenidos facilitados por la IA" y colaborar para "cerrar las brechas ahora".

Asimismo, llaman a los gobiernos a coordinar acciones a nivel local, nacional e internacional, incluyendo el intercambio de inteligencia y la financiación de la ciber defensa, "empezando con los servicios esenciales que carecen de personal o presupuesto", además de dar a hospitales, plantas de aguas y administraciones locales "acceso a IA defensiva".

Mientras tanto, la carta urge a las empresas que desarrollan la IA más puntera a dar un "acceso responsable a los modelos, fondos importantes, formación y apoyo cercano", sobre todo a entidades de infraestructuras clave con pocos recursos, y garantizar que "las identidades agénticas son rastreables y responsables", entre otras cosas.

La carta se suma a otras enviadas por el sector en los últimos meses que llaman, cada vez con más urgencia, a la colaboración para mantener las riendas de unos modelos de IA cada vez más independientes y sofisticados, precisamente cuando sus desarrolladoras prevén gastar cantidades ingentes en su mejora y despliegue.