L'analyse LLM est une fonctionnalité d'MetaDefender Aether™ qui vérifie la présence de menaces cachées dans les fichiers de modèles d'IA pré-entraînés avant leur déploiement. Elle combine une analyse statique de la structure d'un modèle et une analyse dynamique du comportement d'un modèle en fonctionnement, offrant ainsi aux équipes de sécurité un moyen de vérifier les modèles tiers de la même manière qu'elles vérifieraient tout autre fichier entrant dans le réseau. |
|---|
Principaux enseignements
- MetaDefender La solution « Adaptive » d’Aether (Sandbox ) détecte les menaces « zero-day » grâce à une analyse comportementale, et non par comparaison de signatures, puis intègre ces informations dans le pipeline de traitement des menaces à cinq niveaux.
- Le 4 septembre 2026, l'AMTSO a officiellement approuvé les mises à jour axées sur l'IA de son cadre d'évaluation « Sandbox » ainsi que les nouvelles lignes directrices relatives aux tests des produits de sécurité « agentic ».
- Lors du test réalisé en 2026 par Venak Security conformément à la norme AMTSO, Adaptive Sandbox a détecté 95 % des échantillons de logiciels malveillants générés par l'IA, ce qui constitue le meilleur résultat parmi les quatre sandbox testées.
- L'analyse des modèles d'IA étend le pipeline d'MetaDefender Aether à sept formats de modèles d'IA générative, en utilisant plus de 30 indicateurs de menaces pour l'analyse statique et des invites adversaires alignées sur le classement « OWASP LLM Top 10 » pour l'analyse dynamique.
- Les résultats sont mis en correspondance avec MITRE ATLAS et intégrés à MetaDefender , le pipeline de verdict existant d'Aether, aux côtés des menaces de fichiers classiques.
Détection comportementale s'appuyant sur une norme de test de l'IA
MetaDefender Aether™ Adaptive Sandbox Aether™ a pour mission de détecter les menaces que personne n’a encore jamais vues. Plutôt que de comparer les fichiers à des signatures connues, il les exécute dans un environnement émulé et observe leur comportement réel. C’est ainsi qu’il détecte les logiciels malveillants de type « zero-day » qui, sans cela, passeraient inaperçus face aux défenses basées sur la réputation.
MetaDefender Aether constitue la couche de coordination autour de ce moteur. Il alimente l’ Adaptive Sandbox en renseignements sur les menaces afin que les verdicts soient rendus plus rapidement et avec plus de précision, et il regroupe les résultats de chaque couche au sein d’un pipeline unifié de traitement des menaces à cinq niveaux, couvrant la réputation des menaces, l’analyse prédictive, la simulation dynamique, la notation des menaces et la recherche active de menaces.
Le 4 septembre 2026, l'Organisation des normes de test des logiciels anti-malware (AMTSO) a confirmé avoir officiellement approuvé une mise à jour axée sur l'IA de son Sandbox cadre d’évaluation, ainsi que de nouvelles lignes directrices pour les tests des produits de sécurité agentiques. Aucun de ces documents n’a de caractère contraignant. Il s’agit dans les deux cas de mises à jour d’une norme de test volontaire, mais elles constituent le signe le plus clair à ce jour que les tests en sandbox rattrapent désormais les capacités actuelles des modèles d’IA.
Pourquoi la sécurité des modèles d'IA est soudainement devenue un sujet d'actualité
Les infrastructures critiques sont au cœur d’un débat politique qui évolue rapidement sur deux fronts : le durcissement des cadres réglementaires américains concernant l’IA de pointe, et la poussée parallèle de la Chine en faveur des modèles LLM open source et de la capacité de calcul. Aucune de ces deux tendances ne freine le volume de modèles LLM pré-entraînés qui font leur entrée dans les environnements d’entreprise.
OPSWATC'est ce volume, et non de nouvelles techniques d'attaque, qui constitue le cœur du problème. L'IA n'a pas inventé de nouvelles façons de compromettre un fichier. Elle a rendu les fichiers compromis, ainsi que les modèles LLM compromis, nettement plus courants et plus rapides à produire ; c'est cette même pression liée au volume qui a donné naissance à la technologie technologie Deep CDR™ face aux menaces liées aux fichiers depuis des années.
Il y a quelques semaines, NVIDIA a conclu un accord en vue d'acquérir Hugging Face, la principale plateforme de distribution de modèles LLM à poids ouverts, pour 12,93 milliards de dollars. Cette acquisition réunit sous un même toit le plus grand référentiel de modèles LLM du secteur et son principal fournisseur de ressources de calcul.
Anthropic s'est jointe à plus d'une centaine d'entreprises, dont OpenAI, Google et Microsoft, pour signer une lettre ouverte appelant à une cyberdéfense coordonnée face à la multiplication des attaques basées sur l’IA. Le rapport d’Anthropic sur les menaces de septembre 2026 a mis en évidence le fait que les attaquants considèrent la chaîne d'approvisionnement de l'IA à la fois comme une cible et comme une ressource, notamment par le biais d'opérations spécialement conçues pour récupérer des clés d'API s de l'IA et des identifiants de production.
OpenAI : « Path to Astra » , publié le 1er septembre 2026, a encore relevé la barre. Astra est le premier modèle d’OpenAI à franchir le seuil « critique » en matière de cybersécurité, selon le « Preparedness Framework »de l’entreprise, capable de détecter et d’exploiter des failles « zero-day » de manière largement autonome. C’est précisément cette capacité que les nouvelles directives de test agentique de l’AMTSO ont pour objectif d’évaluer. Les normes de test évoluent à un rythme effréné pour suivre les capacités que les modèles LLM de pointe sont désormais capables d’exploiter sans supervision.
Ce que couvre réellement le cadre d'évaluation actualisé « Sandbox » d'AMTSO
Le groupe de travail « Sandbox » (Évaluation des plateformes de test) de l’AMTSO a ajouté un nouvel ensemble de critères axés sur l’IA au cadre d’évaluation existant « Sandbox » (Plateformes de test de sécurité), offrant ainsi aux testeurs une méthode structurée pour évaluer la manière dont les sandbox traitent les modèles d’IA en tant qu’objets d’analyse plutôt que comme de simples outils. Cette mise à jour a fait l’objet d’une consultation publique au cours de l’été avant d’être officiellement approuvée par les membres début septembre.
Le groupe de travail « Sandbox » de l'AMTSO suit désormais la mise en œuvre du cadre actualisé et met en place une structure de reporting, afin que les testeurs puissent évaluer les performances des sandbox par rapport aux nouveaux critères d'IA de manière cohérente. Ce travail préparatoire est essentiel, car il fournit aux fournisseurs un critère d'évaluation commun, au lieu de se fier à leurs propres déclarations.
MetaDefender Bilan d'Aether dans le cadre du dispositif AMTSO
Avant de mettre en place une nouvelle fonctionnalité, il est utile de connaître les performances de la fonctionnalité existante dans le cadre d'une évaluation indépendante. Dans le cadre du test en sandbox de Venak Security, conforme à la norme AMTSO 2026réalisé par Venak Security et conforme à la norme AMTSO 2026, le service « Adaptive » de OPSWAT( Sandbox ) a détecté 19 des 20 échantillons de logiciels malveillants générés par IA, soit un taux de détection de 95 % et le meilleur résultat parmi les quatre sandbox testées. Venak a créé les échantillons de test à l’aide de son simulateur de logiciels malveillants basé sur l’IA, en les associant spécifiquement aux techniques MITRE ATT&CK afin de contourner les méthodes de détection traditionnelles.
OPSWATLe test « Adaptive »Sandbox a obtenu un score de 95 % (19 sur 20) lors d’un test récent portant sur vingt échantillons répartis en cinq catégories de menaces, créés à l’aide du simulateur de logiciels malveillants basé sur l’IA de Venak et mis en correspondance avec les techniques MITRE ATT&CK.
Analyse statique et dynamique des modèles LLM pré-entraînés
L'analyse des modèles d'IA est une fonctionnalité qui étend le pipeline multicouche d'MetaDefender Aether aux modèles d'IA pré-entraînés. Deux types d'analyse distincts reflètent l'approche statique et comportementale également appliquée aux logiciels malveillants classiques.
L'analyse statique examine les fichiers de modèles LLM dans sept formats différents – Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF et ONNX – sans les exécuter. Elle utilise plus de 30 indicateurs de menaces spécifiques pour détecter les charges utiles intégrées, les importations dangereuses et les portes dérobées propres à la méthode de sérialisation de chaque format.
L'analyse dynamique adopte l'approche inverse : elle interroge un point de terminaison de modèle LLM en temps réel à l'aide de prompts adversaires mis en correspondance avec le Top 10 de l’OWASP pour les applications LLM, en évaluant les réponses réelles du modèle LLM afin de détecter les injections de requêtes, la divulgation de données sensibles et les risques d'exécution associés. Les résultats de ces deux étapes sont mis en correspondance avec MITRE ATLAS, la base de connaissances sur l'apprentissage automatique adversaire, puis intégrés à MetaDefender le pipeline de verdict unifié existant d'Aether, aux côtés des résultats de détection de menaces classiques.
À quel rythme les menaces liées aux modèles d'IA se multiplient-elles ?
En mai 2026, un faux dépôt se faisant passer pour une version d’OpenAI, Open-OSS/privacy-filter, s'est hissé en tête des tendances sur Hugging Face en moins de 18 heures et a enregistré plus de 244 000 téléchargements avant d'être retiré. Il contenait un script de chargement qui installait discrètement un programme de vol d'informations sur les machines Windows qui l'exécutaient.
En juillet 2026, OpenAI a révélé que ses propres modèles LLM avaient exploité des vulnérabilités dans l’infrastructure de recherche partagée et compromis certaines parties de la plateforme Hugging Face lors d’évaluations internes de cybersécurité, soulignant ainsi que la chaîne d’approvisionnement des modèles LLM est désormais une cible active pour des acteurs sophistiqués, et non plus seulement pour des acteurs opportunistes.
Ce que la sécurité des modèles d'IA implique pour cinq secteurs d'activité
Finance
Les modèles LLM utilisés pour la détection des fraudes et la souscription s'appuient de plus en plus directement sur les données transactionnelles, sous le regard des autorités de régulation qui exigent des contrôles documentés. Un modèle LLM manipulé dans ce contexte entraîne à la fois un incident de sécurité et une anomalie d'audit.
Énergie et services publics
L'IA s'étend désormais aux domaines de la prévision et de la gestion du réseau, des environnements où les systèmes informatiques (IT) et opérationnels (OT) sont déjà étroitement liés. Un modèle LLM présentant un comportement caché ou pouvant être déclenché dans ce contexte risque d'entraîner des perturbations physiques, et pas seulement une fuite de données.
Les agences gouvernementales et de défense
sont confrontées aux exigences les plus strictes en matière de sécurité de la chaîne d'approvisionnement, souvent dans des environnements isolés ou classifiés. La compromission d'un modèle LLM a des conséquences sur la sécurité nationale qui vont bien au-delà d'une simple perte de données.
de fabrication : les modèles LLM utilisés pour le contrôle qualité et la maintenance prédictive sont souvent extraits de référentiels publics afin de gagner en rapidité. Un modèle LLM compromis qui parvient jusqu’à une chaîne de production peut avoir un impact direct sur la disponibilité des systèmes et la qualité des produits.
Santé
Les outils de diagnostic et la documentation des modèles LLM traitent des données sensibles relatives aux patients dans le respect des obligations en vigueur en matière de confidentialité. Un modèle LLM qui divulgue des informations par le biais de l'injection de prompts expose directement la vie privée des patients, et non de manière hypothétique.
L'avenir des normes de test des modèles d'IA
Le groupe de travail « Sandbox » de l'AMTSO suit désormais l'adoption de ce cadre actualisé par les fournisseurs de sandbox et met en place une structure de reporting qui permettra aux organisations de comparer les performances des tests d'IA de la même manière qu'elles comparent déjà les taux de détection classiques. Pour MetaDefender Aether, l'analyse des modèles d'IA est la première fonctionnalité développée et validée selon cette nouvelle norme dès le premier jour.
Consultez la description technique complète de l'analyse des modèles d'IA dans l' article consacré à la version 3.3.0.
