Conçues pour échapper à la détection : l’industrialisation des cyberattaques par l’IA

• L'IA a bouleversé la dynamique économique des attaques. La mise en place d'une campagne qui nécessitait autrefois une équipe dotée de moyens financiers est désormais à la portée d'un seul opérateur.
• Les pirates peuvent désormais tester, adapter et changer de tactiques plus rapidement que ne le permettent de nombreux cycles de défense mis en place pour y répondre.
• Les humains ne sont plus les seules cibles. Les systèmes d'IA qui lisent leurs e-mails à leur place constituent désormais une surface d'attaque à part entière.
• La défense repose désormais sur des contrôles à plusieurs niveaux qui s'améliorent en permanence, l'intelligence artificielle et l'apprentissage automatique accélérant leur processus d'apprentissage.

La plupart des responsables de la sécurité savent déjà que l'IA transforme les risques cybernétiques. La question la plus épineuse est de savoir ce que ce changement implique sur le plan opérationnel. L'IA rend-elle les attaques plus sophistiquées ? Parfois. Mais surtout, elle réduit le coût de l'expérimentation et raccourcit le délai entre l'idée, la charge utile, la mise en œuvre et l'itération. Cela modifie la rentabilité de l'attaque.

C'est ce que nous observons déjà sur le marché et ce que nous rapportent nos clients, nos partenaires et les groupes de réflexion. Selon les « Five Eyes », une alliance de services de renseignement regroupant les États-Unis, le Royaume-Uni, le Canada, l'Australie et la Nouvelle-Zélande, « les modèles d'IA de pointe devraient dépasser les attentes actuelles du secteur, transformant en profondeur les capacités cybernétiques tant offensives que défensives. Et cela ne se mesurera pas en années, mais en mois. »

Si vous pensez qu'il s'agit là d'un problème qui ne se posera que dans un avenir lointain, voici quelques statistiques récentes qui montrent que nous nous dirigeons à grands pas dans cette direction :

• 82,6 % des e-mails de hameçonnage contiennent désormais de l'IA sous une forme ou une autre (KnowBe4).
• L'IA est capable de générer un e-mail de hameçonnage convaincant en cinq minutes, contre 16 heures de travail humain (IBM X-Force).
• Les e-mails de hameçonnage entièrement automatisés par l'IA affichent un taux de clics de 54 %, contre 12 % pour les campagnes traditionnelles (étude indépendante).
• Le temps moyen nécessaire aux cybercriminels pour s'introduire dans un système est tombé à 29 minutes, le cas le plus rapide ayant été observé en 27 secondes. Dans une intrusion documentée, l'exfiltration des données a commencé quatre minutes après l'accès initial (Rapport mondial sur les menaces 2026 de CrowdStrike)

Ces statistiques décrivent un environnement qui évolue à un rythme que la plupart des dispositifs de gouvernance de la sécurité ne sont pas conçus pour gérer, et ce avant même que les modèles d’IA de pointe ne soient accessibles à un plus large public. Alors, quels aspects les responsables de la sécurité devraient-ils aborder différemment ? La réponse commence par la compréhension de la manière dont l’IA a modifié la dynamique économique de l’attaque elle-même.

Avant l'arrivée de l'IA, mener une campagne efficace contre une organisation bien protégée représentait un investissement considérable, nécessitant du temps, du personnel et des infrastructures.

Aujourd’hui, un opérateur expérimenté peut réduire considérablement la durée de chaque phase de l’attaque. La phase de reconnaissance, qui prenait autrefois plusieurs jours, peut désormais être menée à bien en quelques heures, voire quelques minutes. Les leurres d’hameçonnage, qui nécessitaient auparavant des recherches et des efforts, ne requièrent plus qu’une simple commande. Les tests de charge utile, qui nécessitaient auparavant un environnement de test et un temps d’itération important, se sont accélérés de plusieurs ordres de grandeur.

L'intelligence artificielle et l'apprentissage automatique ayant considérablement renforcé leur arsenal, le paysage des menaces est devenu le terrain de jeu des pirates. Microsoft a constaté que, tout au long du trimestre, les pirates changeaient chaque mois de méthodes d'attaque, testant les formats qui permettaient de contourner le plus efficacement les défenses anti-spam :

• Les pièces jointes au format HTML constituaient la méthode la plus courante pour diffuser des attaques de hameçonnage protégées par CAPTCHA (37 % en janvier), mais elles ont été détrônées par les fichiers SVG en février, après une hausse de 49 %.
• En mars, le nombre de pièces jointes au format PDF a plus que quadruplé, tandis que celui des fichiers DOC/DOCX a été multiplié par près de cinq.
• Les codes QR intégrés dans des fichiers PDF sont devenus le vecteur connaissant la plus forte croissance, représentant 70 % des tentatives d'hameçonnage par code QR au cours du trimestre.

Un système de contrôle calibré pour détecter le code HTML en janvier ne donnait que très peu d'indications sur ce qui allait se produire en mars. Il ne s'agit pas d'un échec de détection. C'est une conséquence inhérente à la lutte contre un attaquant capable de tester, d'évaluer et de modifier ses attaques plus rapidement qu'il n'est possible de rédiger une signature.

Avant l'arrivée de l'IA, la personnalisation avait un coût prohibitif. Aujourd'hui, ce coût est quasi nul.

Autrefois, la boîte de réception était conçue pour un lecteur principal : l'employé. Mais les choses changent. Les assistants basés sur l'IA sont désormais capables de résumer, de classer et d'agir rapidement sur le contenu des e-mails. La question qui se pose donc est la suivante : les entreprises vérifient-elles le contenu avant qu'un humain ne le lise et avant qu'une machine ne le traite ?

Les données de benchmarking fournies par Microsoft montrent que Defender élimine en moyenne 70,8 % des e-mails malveillants après leur livraison, c'est-à-dire une fois qu'ils ont déjà atteint la boîte de réception. Pendant ce délai de latence :

• Un utilisateur peut ouvrir une pièce jointe, transférer un message ou cliquer sur un lien.
• Un assistant IA peut résumer le contenu.
• Un copilote peut traiter des instructions intégrées.

En juin 2025, des chercheurs ont révélé l’existence d’EchoLeak, une vulnérabilité « zero-click » dans Microsoft 365 Copilot, dont le score CVSS de gravité s’élève à 9,3 sur 10. L'attaque fonctionnait comme suit : un pirate envoyait un e-mail spécialement conçu contenant des instructions cachées. Lorsque le destinataire demandait à son Copilot de résumer sa boîte de réception, l'IA lisait l'instruction cachée, l'interprétait comme une commande et exfiltrait discrètement des documents sensibles vers un serveur externe. L'utilisateur utilisait l'assistant IA exactement comme il était prévu qu'il le fasse.

Cela modifie le modèle de menace lié aux e-mails d’une manière dont la plupart des architectures de sécurité n’ont pas encore tenu compte. L’IA lit sans le scepticisme, la prise en compte du contexte ou l’instinct dont un être humain pourrait faire preuve. Elle lit également à grande échelle, en ayant accès à un ensemble de données plus vaste, en bénéficiant des autorisations héritées de l’utilisateur et, parfois, en étant capable d’entreprendre des actions qui vont bien au-delà de la simple lecture.

Ce défi en matière de sécurité comporte une deuxième dimension. Des recherches sur la mémoire des agents d’IA ont montré qu’un document spécialement conçu, traité par un agent d’IA, peut implanter des instructions dans la mémoire persistante de l’agent ; ces instructions subsistent indéfiniment et se déclenchent silencieusement lors d’interactions futures n’ayant aucun rapport avec le fichier d’origine. Ce phénomène, qui va au-delà de l’injection de prompt, est appelé « empoisonnement de la mémoire ».

Les entreprises qui utilisent des copilotes IA, des assistants de programmation et des flux de travail autonomes en complément de leur infrastructure de messagerie ont ajouté une deuxième couche, largement non sécurisée, à une surface d'attaque qu'elles avaient déjà du mal à défendre. La plupart d'entre elles n'ont pas adapté leur stratégie de sécurité de la messagerie pour en tenir compte.

Pendant des années, de nombreux programmes de sécurité ont évolué selon des cycles : bilans annuels, ajustements trimestriels, exercices de simulation périodiques et mises à jour programmées des politiques. Ce rythme conserve toute sa valeur. Mais il n’a pas été conçu pour faire face à des attaques capables de se transformer rapidement et à grande échelle.

La réponse réside dans la défense adaptative : des couches de sécurité qui apprennent au fur et à mesure que la menace évolue, qui s’améliorent à chaque tentative bloquée, à chaque faux positif et à chaque analyse d’incident. Les modèles d’IA de pointe, utilisés à des fins défensives, peuvent contribuer à réduire le délai entre la détection d’un signal et la prise de mesures, à mettre en évidence des schémas que les analystes humains ne peuvent pas traiter à la vitesse requise, et à faire évoluer les contrôles pour qu’ils suivent de plus près le rythme auquel les attaques évoluent.

Cette adaptation doit également tenir compte du nouveau « lecteur » présent dans la boîte de réception. Un employé peut être formé à faire preuve de scepticisme, tandis qu’un assistant IA agit en fonction de ce qu’il traite, en l’absence de garde-fous. Les messages et les pièces jointes doivent être considérés comme non fiables et neutralisés avant qu’un lecteur, qu’il s’agisse d’une personne ou d’une machine, n’y ait accès.

La défense basée sur l'IA doit être pragmatique et tirer parti de ses atouts : un triage plus rapide, une identification plus précoce des fichiers suspects, une meilleure corrélation entre les signaux et un délai réduit entre l'apparition d'une menace et la mise en place d'une adaptation.

Les organisations qui réussiront sont celles qui sauront considérer chaque incident comme une source d'informations plutôt que comme un ticket clôturé. Attendre que les cadres de conformité rattrapent leur retard ne constitue pas une stratégie de défense valable. Les attaquants tirent déjà des enseignements de chacune de leurs tentatives, et les défenseurs ont commencé à faire de même, en utilisant l'IA et l'apprentissage automatique pour analyser, détecter et assainir les e-mails.

En ce qui concerne plus particulièrement les infrastructures critiques, il existe une responsabilité supplémentaire que la réglementation à elle seule ne saurait définir. À mesure que la numérisation s'accélère, la surface d'attaque de ces organisations s'étend en conséquence. Une stratégie de sécurité ne peut se limiter au strict minimum imposé par la réglementation.

La déclaration commune des « Five Eyes » l'affirme sans ambages : « Le risque cyber ne peut plus être considéré comme un simple problème technique. Il s'agit d'un risque métier fondamental et d'une responsabilité qui incombe aux dirigeants. » Quant à l'urgence de la situation : « Les dirigeants qui agissent dès maintenant réduiront leur exposition au risque, renforceront leur résilience et gagneront la confiance de leurs clients, partenaires et investisseurs. Ceux qui tarderont à agir seront confrontés à un risque croissant et évitable. »

Une approche plus résiliente repose sur des défenses multicouches au niveau des périmètres, une adaptation du modèle opérationnel assistée par l'IA, et la conviction que l'amélioration continue doit devenir une pratique courante. La question est de savoir si vos défenses évoluent suffisamment vite pour suivre le rythme.

C'est là que cela revêt le plus d'importance, là où les enjeux sont les plus élevés, à savoir au niveau des infrastructures critiques et des réseaux isolés qui en constituent le cœur, et c'est précisément par là que commence l'article suivant.