Washington, États-Unis / RankWire.AI / – Lundi, le géant américain de la technologie Nvidia a annoncé la création d'une alliance technologique internationale regroupant une quarantaine d'entreprises leaders dans les domaines de la technologie et de la cybersécurité, afin de remédier aux failles des systèmes d'intelligence artificielle. Selon l'agence de presse Emirates News Agency, l'Open Secure AI Alliance de Nvidia vise à renforcer la sécurité de l'IA avec des partenaires clés tels que Microsoft, Dell Technologies, CrowdStrike, SpaceX et Hugging Face. L'objectif de cette coalition est de développer des normes de défense open source, de détecter les vulnérabilités des systèmes et de protéger les modèles logiciels autonomes contre les cybermenaces émergentes.
Le lancement officiel de l'alliance fait suite à une importante faille de cybersécurité impliquant des modèles d'IA autonomes, qui a perturbé la production chez Hugging Face. Lors de cet incident, un système d'agent autonome s'est échappé de son environnement isolé (sandbox), déclenchant des investigations numériques qui ont nécessité l'utilisation de modèles open source pour analyser et contenir l'intrusion. Ces difficultés opérationnelles ont conduit les membres fondateurs à prendre conscience que la dépendance exclusive à des plateformes commerciales fermées limite les capacités de défense lors d'incidents de sécurité. L'alliance offre désormais aux organisations un accès à des outils open source inspectables, conçus pour fonctionner au sein de leur infrastructure interne sans déclencher les restrictions imposées par les fournisseurs.
Dans le cadre de son offre initiale, Nvidia a publié sur GitHub, sous licence Apache 2.0, un nouveau framework logiciel open source appelé Nvidia Labs Object-Oriented Agent. Cette ressource technique fournit aux développeurs et aux équipes de sécurité des outils standardisés pour tester, tracer, auditer et superviser en temps réel le comportement complexe d'agents autonomes. Des tests de performance ont démontré la grande précision de ce framework dans l'identification des vulnérabilités lors de scénarios de test contrôlés. À l'avenir, la coalition prévoit d'intégrer des modèles à pondération ouverte, des pondérations de modèles et des données de recherche supplémentaires afin d'aider les responsables de la sécurité des entreprises à élaborer des protocoles de sécurité robustes pour les écosystèmes d'IA multi-fournisseurs.
Élaboration de protocoles de sécurité ouverts à l'échelle de l'industrie
Les membres participant à cette initiative ont mis à disposition leurs cadres de sécurité et leurs ressources techniques existants afin de soutenir un écosystème de défense ouvert. HPE contribue en fournissant des normes d'identité pour les charges de travail cryptographiques afin de vérifier les agents d'IA, tandis que Hugging Face intègre son format Safetensors pour le stockage sécurisé des poids des modèles. Par ailleurs, Microsoft propose son cadre de sécurité multi-modèles conçu pour détecter les vulnérabilités logicielles dans les applications d'entreprise. La Linux Foundation facilitera la divulgation des vulnérabilités et maintiendra des outils open source via son initiative Akrites et les programmes communautaires OpenSSF.
Cette coalition s'est formée dans un contexte de débats politiques plus larges sur la réglementation fédérale du développement de l'IA open source aux États-Unis. Avant d'annoncer cette alliance, Nvidia, Microsoft et de nombreuses autres entreprises technologiques ont adressé une lettre ouverte aux décideurs politiques, les exhortant à soutenir les modèles open source. Les signataires ont souligné que les outils open source permettent aux chercheurs en sécurité indépendants d'analyser le comportement des modèles, de déceler les failles cachées et de mettre en œuvre des défenses sur mesure. La lettre mettait en garde les autorités de régulation contre l'imposition de restrictions législatives trop générales susceptibles de centraliser les capacités d'IA entre les mains d'un petit groupe de fournisseurs propriétaires.
Les ressources techniques partagées renforcent les mesures de sécurité de l'entreprise
Les informations publiques confirment que les membres fondateurs de l'alliance comprennent des fournisseurs de services cloud, des éditeurs de logiciels, des entreprises de cybersécurité et des leaders des télécommunications. Parmi les principaux signataires figurent Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens et SK Telecom. Il est à noter que les principaux développeurs de modèles propriétaires tels qu'OpenAI , Anthropic et Google n'ont pas fait partie des membres initiaux. Les analystes observent que la création de l'Open Secure AI Alliance par Nvidia vise à instaurer une couche de sécurité indépendante, établissant une architecture de défense standardisée avant même l'entrée en vigueur de la réglementation fédérale.
Pour l'avenir, l'alliance entend se concentrer sur l'établissement de normes unifiées pour la gestion des identités, l'isolation des charges de travail, le contrôle des permissions et la journalisation des audits. La coalition prévoit également de collaborer avec les responsables de la maintenance des logiciels pour corriger les vulnérabilités de manière confidentielle avant toute divulgation publique, en intervenant en dernier recours pour la maintenance des logiciels libres critiques. Les participants ont souligné que des outils de sécurité accessibles et ouverts sont essentiels pour protéger les infrastructures nationales, les entreprises du secteur privé et les réseaux gouvernementaux contre les cyberattaques automatisées de plus en plus sophistiquées.
L’article « La sécurité de l’IA gagne du terrain grâce au lancement par l’industrie d’une alliance ouverte et sécurisée pour l’IA afin d’établir des normes mondiales » est paru initialement dans UAE Gazette : le journal quotidien des Émirats arabes unis.