Nvidia, Microsoft e IBM impulsan una ofensiva global por la seguridad de la IA

Un grupo de 53 empresas de computación en la Nube,ciberseguridad,software e Inteligencia Artificial (IA),incluyendo a Nvidia y Microsoft,anunciaron la creación de la Open Secure AI Alliance,una iniciativa orientada al desarrollo y el intercambio de tecnologías abiertas para proteger datos,software y agentes de IA.

La alianza está liderada por la iniciativa Akrites de la Linux Foundation y cuenta con la participación de otras empresas como IBM,Hugging Face,Red Hat,Cisco,Cloudflare,CrowdStrike,Uber y Nokia,entre otras organizaciones.

El grupo sostiene que los modelos y herramientas abiertos de Inteligencia Artificial son esenciales para la ciberseguridad porque permiten que investigadores y equipos de defensa inspeccionen,adapten y ejecuten sistemas en sus propias infraestructuras,reduciendo la dependencia de proveedores específicos.

Según la alianza,la seguridad de la IA no depende únicamente de que los modelos sean abiertos o cerrados,sino de toda la arquitectura de los agentes,incluidos los mecanismos de identidad,permisos,controles,registros y sistemas de evaluación.

La iniciativa cita como ejemplo un incidente de seguridad de OpenaAI que involucró a Hugging Face,en el que se utilizó un modelo abierto ejecutado para analizar más de 17,000 acciones y responder a una intrusión.

Según la organización,las herramientas cerradas de IA limitaron los análisis forenses al no poder diferenciar las actividades de atacantes y defensores.

Entre las contribuciones anunciadas figura Nvidia Labs Object-Oriented Agent (NOOA),un proyecto de código abierto de Nvidia destinado a facilitar las pruebas,el rastreo,la auditoría y la gobernanza de agentes de IA.

HPE aporta tecnologías de identidad de confianza cero para agentes y servicios de IA,mientras que Hugging Face puso a disposición el formato Safetensors para el almacenamiento seguro de los pesos de los modelos.

Relacionado: ¿Incidentes o peligros de la Inteligencia Artificial? La OCDE trabaja en estas definiciones

La alianza también incluye contribuciones relacionadas con la seguridad de la cadena de suministro de software,la evaluación de modelos y la detección de vulnerabilidades,con la participación de empresas como Palo Alto Networks,SAP,ServiceNow,Snowflake y Nokia.

La Open Secure AI Alliance también hizo un llamado a gobiernos y reguladores para que consideren los modelos abiertos,los mecanismos de seguridad y las herramientas de evaluación como activos defensivos en las políticas de Inteligencia Artificial y ciberseguridad.

El grupo sostiene que restricciones amplias a los sistemas abiertos podrían aumentar la concentración de poder en unos pocos proveedores y reducir la capacidad de defensa de empresas y países.

Las empresas que integran la alianza son Nvidia,Adobe,Box,Cadence,Capital One,Cloudera,Cognition,Crusoe,Databricks,Dell Technologies,DoorDash,Elastic,F5,Factory AI,Fortinet,G42,GitHub,HPE,IBM,LangChain,Linux Foundation,Microsoft,Mistral,NAVER,NetApp,Nokia,Nous Research,OpenClaw,Palantir,Palo Alto Networks,Perplexity,Reflection AI,Salesforce,Siemens,SK Telecom,Snowflake,SpacexAI,Synopsys,Thinking Machines Lab,TrendAI,Uber,Upwind,vLLM,WWT y Zscaler.