Nvidia y una treintena de socios tecnológicos se unen para mejorar la ciberseguridad de la IA con herramientas abiertas

Nvidia ha defendido el papel que juegan los sistemas de inteligencia artificial abiertos en la mejora de la ciberseguridad con el lanzamiento de 'Open Secure AI Alliance', una nueva iniciativa que cuenta con el respaldo de importantes empresas tecnológicas, como Microsoft, SpacexAI, Cisco y Cloudflare.

La reflexión que ha dejado el reciente 'hackeo' de HuggingFace, ejecutado completamente por modelos de OpenAI que lograron salir de un entorno aislado de pruebas de manera autónoma, ha desembocado en una defensa del código abierto para mejorar la ciberseguridad en la inteligencia artificial.

Este 'hackeo' se ve, de hecho, como un ejemplo de la importancia del código abierto en la IA, porque "cuando las herramientas de IA cerradas, incapaces de distinguir entre atacantes y defensores, bloquearon un análisis forense esencial, Hugging Face ejecutó el modelo GLM 5.2 de ponderación abierta en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión".

Así se destaca en el manifiesto liderado por Nvidia con el que se presenta 'Open Secure AI Alliance', una iniciativa que busca facilitar herramientas abiertas y de vanguardia a las empresas de ciberseguridad de todo el mundo con el objetivo de reforzar la respuesta ante las nuevas amenazas que plantea la IA.

Para ello, se destaca que los sistemas y los modelos de inteligencia artificial abiertos aumentan la transparencia al permitir su inspección, pero también al facilitar que puedan adaptarse y ejecutarse en una infraestructura propia para proteger los datos.

El manifiesto no rechaza el uso de modelos cerrados, pero defiende el uso de modelos abiertos como complemento y como una forma de "democratizar las capacidades defensivas". "posibilita una defensa masivamente distribuida, impulsada por la comunidad y autogestionada, sin un único punto de fallo", apostilla.

Open Secure AI Alliance está liderada por Nvidia, y en ella participan empresas especializadas en computación en la nube, ciberseguridad, 'software' empresarial, así como fundaciones de código abierto e investigación de IA. Microsoft, HuggingFace, Adobe, Linux Fundation, Cloudflare, TrendAI, Salesforce, IBM, Cisco y SpacexAI figuran entre los 37 socios fundadores.

El valor del código abierto también se ha subrayado recientemente como el impulsor del liderazgo de Estados Unidos en la carrera de la inteligencia artificial, con una defensa hecha por empresas como Microsoft, Perplexity, Mistral y Nvidia, que ven que los modelos de peso abierto pueden hacer que la inteligencia artificial sea más accesible, esté ampliamente disponible y permita avanzar en ciberseguridad.