L'explosion du volume de données générées par l'IA redéfinit la sécurité dans le secteur des services financiers

Imaginons un ordre de virement bancaire qui nous parvient sous la forme d’un fichier PDF « propre ». Pas de code mal formé, pas de signature connue pour être frauduleuse, un expéditeur plausible, des métadonnées qui passent tous les contrôles automatisés… et pourtant, ce document est entièrement fabriqué de toutes pièces, généré par un modèle pour quelques centimes afin de ressembler à s’y méprendre à un document authentique. Rien dans son origine ne le trahit, car il n’a jamais eu d’auteur humain. En savoir plus sur la technique de concaténation de fichiers PDF

La plupart des mesures de sécurité des fichiers actuellement utilisées reposent sur une hypothèse héritée du passé : celle selon laquelle les fichiers sont créés par des personnes. Cette hypothèse détermine le rythme d'arrivée des fichiers, leur taux d'accumulation, ainsi que la définition de la « normale » par rapport à laquelle les anomalies sont évaluées. Elle a prévalu pendant des décennies, car le coût par fichier était lié à l'effort humain, et le plafond en termes de volume était fixé par les effectifs.

L’IA générative a supprimé cette limite. La sphère mondiale des données est passée de 45 zettaoctets en 2019 à 175 d’ici 2025 selon les prévisions (soit une augmentation de 289 %) et devrait atteindre 527 d’ici 2029 (IDC). Mais le volume n’est que la partie la moins importante de l’histoire. Le changement le plus significatif concerne la source : on estime que 40 à 50 % des nouveaux fichiers d’entreprise sont désormais générés par des machines, souvent sans aucun indice fiable permettant d’identifier un auteur humain.

Le taux de croissance confirme cette tendance. La création de fichiers en entreprise a augmenté d’environ 20 à 23 % par an avant l’ère de l’IA. Pour les organisations ayant standardisé leurs flux de travail basés sur l’IA, la croissance totale des fichiers est désormais estimée entre 55 et 68 % par an. L’adoption de l’IA générative en entreprise a pratiquement doublé en un an, passant de 33 % à 71 % (Stanford HAI), et deux tiers des organisations font état de gains de productivité mesurables (Deloitte). Pour la première fois, la création de fichiers ne suit plus l’évolution des effectifs, et c’est précisément dans l’écart grandissant entre ces deux courbes que réside la nouvelle vulnérabilité en matière de sécurité.

Le secteur des services financiers a connu une explosion du volume de fichiers bien avant tous les autres secteurs, car il s'appuie sur trois moteurs de génération de fichiers dont la plupart des autres secteurs ne disposent pas, et l'IA générative a accéléré ces trois processus simultanément.

Le premier est celui des données synthétiques, le facteur le plus important mais aussi le moins visible. L’entraînement des modèles de lutte contre la fraude, de lutte contre le blanchiment d’argent et de crédit nécessite des données à une échelle limitée par la réglementation en matière de protection de la vie privée ; l’IA générative résout cette contrainte en produisant des enregistrements synthétiques statistiquement réalistes qui atteignent une équivalence d’utilité de 96 à 99 % par rapport aux données de production pour les tests de lutte contre le blanchiment d’argent. Une seule institution peut générer des milliards d’enregistrements par cycle d’entraînement, et chacun d’entre eux est un artefact stocké, géré et sécurisé.

Le deuxième volet concerne la documentation KYC, la catégorie la plus facilement quantifiable puisqu’elle est obligatoire. L’IA a permis d’augmenter le rendement par analyste et a introduit des types de documents entièrement nouveaux : des rapports de risque générés par des machines, des résumés d’articles de presse négatifs, des schémas de propriété. Les dépenses mondiales consacrées aux systèmes KYC/KYB devraient augmenter d’environ 40 %, pour atteindre 30,5 milliards de dollars d’ici 2030 (Juniper Research), et le nombre de contrôles d’identité effectués dans le monde est passé de 75 milliards en 2024 à 86 milliards en 2025, chaque contrôle correspondant à un document à saisir, stocker et examiner.

Le troisième facteur est l’utilisation directe des LLM dans toutes les fonctions (ventes, marketing, juridique, RH, gestion des risques) qui ne généraient auparavant pas de volumes importants. La production par fonction aurait été multipliée par trois à cinq, et les organisations font état d’une augmentation de 54 % d’une année sur l’autre du volume de contenu qu’elles doivent produire (Deloitte). Les trois quarts des établissements financiers britanniques utilisent déjà l’IA (Banque d’Angleterre / FCA), et la part de ceux qui font état de gains de productivité a presque doublé pour atteindre 59 % en un an. Les institutions qui génèrent le plus de documents sont précisément celles qui investissent le plus massivement dans la technologie qui les produit.

C'est le point d'inflexion où une question de productivité devient une question de sécurité. L'outil qui permet de rédiger un dossier de présentation est le même que celui qui permet de créer une charge utile.

Le hameçonnage assisté par l'IA a été multiplié par plus de dix (+1 265 %) depuis que l'IA générative s'est généralisée, plus de 82 % des e-mails de hameçonnage détectés contenant désormais du contenu généré par l'IA. La falsification de documents numériques a augmenté de 244 % en glissement annuel en 2024. Kaspersky recense environ 500 000 fichiers malveillants par jour. Et la part des entreprises signalant des tentatives de fraude à l’identité par « deepfake » est passée de 37 % à 49 % en deux ans. Les menaces véhiculées par des fichiers suivent la même courbe de croissance que les fichiers légitimes, car une même technologie permet de produire les uns et les autres.

Le vocabulaire que nous utilisons pour désigner les fichiers ne correspond plus à ce qu’ils sont devenus. Un fichier n’est plus un simple conteneur passif qui reste inactif jusqu’à ce qu’une personne l’ouvre. Il s’agit de plus en plus d’un « IntelligentFILE »: tout fichier comportant une intelligence intégrée (notamment des données, des instructions, une identité ou du code) qui déclenche une action conséquente lorsqu’il est traité, ouvert ou transmis.

La caractéristique déterminante d’IntelligentFILE réside dans sa double nature. Un même objet peut être un levier pour l’activité, la conformité et la confiance — ou une arme. Un dossier KYC revêt une valeur juridique et entraîne des conséquences en aval pour chaque décision prise sur cette base. Un ensemble de données synthétiques en matière de lutte contre le blanchiment d’argent devient la source de référence pour un modèle régissant des millions de transactions. Un rapport de conformité généré par l’IA est légitime s’il est correctement encadré, et devient un vecteur d’attaque s’il ne l’est pas. Un fichier PDF contenant un logiciel malveillant est conçu pour passer inaperçu lors d’une inspection sommaire et s’exécuter une fois à l’intérieur du système. Un ordre de virement généré par l’IA est contextuellement exact, correspond à la contrepartie et est structurellement impossible à distinguer d’un véritable ordre.

La différence entre la version bienveillante et la version hostile est rarement perceptible à première vue, et c'est là le cœur du problème.

La plupart des contrôles utilisés aujourd’hui déduisent le risque à partir d’une propriété que les fichiers générés par des machines ne possèdent plus de manière fiable. Les moteurs anti-malware basés sur les signatures partent du principe que la menace a déjà été détectée, mais les modèles génératifs produisent des charges utiles inédites sans signature connue. Les passerelles de messagerie partent du principe que les fichiers dangereux arrivent par e-mail, alors qu’ils proviennent désormais de téléchargements vers le cloud, d’API, de formulaires Web, de portails et d’outils de collaboration. La classification repose sur l’hypothèse que les fichiers comportent des indications sur leur auteur et des métadonnées valides, mais les fichiers générés par des machines en sont dépourvus, et les données synthétiques imitent les véritables enregistrements clients.

La provenance part du principe que l'origine est un gage de sécurité, mais celle-ci relève de plus en plus d'un modèle situé en dehors du périmètre de l'institution.

C'est là que réside la faille de sécurité : il ne s'agit pas de la défaillance d'un outil en particulier, mais d'une inadéquation architecturale entre des contrôles conçus pour des fichiers créés et gérés par des humains, à un rythme humain, et un ensemble de fichiers qui ne répond à aucun de ces critères.

Si l'on ne peut plus se fier à la provenance, le point de contrôle doit être adapté. La sécurité doit passer de la détection des menaces après l'entrée d'un fichier dans l'environnement à l'inspection et à la désinfection de chaque fichier au moment de son importation, indépendamment de la provenance déclarée et du fait qu'un moteur particulier le signale ou non. La provenance passe d'une simple déduction à une règle à appliquer.

Concrètement, cela signifie : privilégier la prévention plutôt que la détection ; considérer chaque canal comme un point d'entrée ; neutraliser les fichiers en les reconstruisant afin d'en supprimer le contenu actif, plutôt que de se contenter de détecter les fichiers connus pour être malveillants ; ne jamais se fier à un seul moteur de détection ; et traiter les données d'origine machine et les données synthétiques comme une catégorie de données à part entière, soumise à des règles spécifiques.

Le marché s'oriente déjà dans cette direction : 96 % des responsables de la sécurité considèrent désormais l'IA comme un élément central de leur cyberdéfense (EY), alors que le coût moyen d'une violation s'élève à près de 4,4 millions de dollars (IBM).

Les mesures de sécurité adaptées ne doivent pas nécessairement ralentir l'activité, que l'IA a déjà dynamisée. Cependant, les contrôles périmétriques permettent de s'assurer que l'explosion du volume de fichiers stimule la productivité sans pour autant élargir dans les mêmes proportions la surface d'exposition aux menaces non protégée.