En savoir plus sur le livre de Benny Czarny, « Cybersecurity Upside Down »

En savoir plus
Nous utilisons l'intelligence artificielle pour les traductions de sites et, bien que nous nous efforcions d'être précis, il se peut que les traductions ne soient pas toujours exactes à 100 %. Nous vous remercions de votre compréhension.

Ce que la conception des avions peut nous apprendre sur la prochaine panne d'une infrastructure essentielle

Par Benny Czarny

Ces derniers jours, j'ai lu des articles sur les pannes survenues chez Microsoft, la FAA, United Airlines, Chase et Amtrak. J'ai également appelé des amis, des proches et des collaborateurs touchés par ces perturbations, pour m'assurer qu'ils allaient bien et savoir comment ils comptaient rentrer chez eux.

Le mot « panne » prend une tout autre signification lorsqu'un de vos proches se retrouve bloqué dans un aéroport. Derrière l'explication technique se cachent des enfants fatigués, des passagers âgés qui font la queue, des correspondances manquées et des projets qui tombent à l'eau. Pour une entreprise, cela peut se traduire par des commandes perdues, des retards de paiement et une journée de travail perdue.

Je suis le fondateur et PDG d’ OPSWAT, une entreprise spécialisée dans la cybersécurité et dédiée à la protection des infrastructures critiques. Je suis également pilote titulaire d’une qualification de vol aux instruments. Lorsque j’observe ces incidents, une même question me revient sans cesse à l’esprit : pourquoi ne pas appliquer davantage aux infrastructures dont nous dépendons au quotidien les principes qui permettent à un avion de fonctionner ?

Un avion concentre les systèmes de propulsion, de navigation, de communication et de commande de vol dans un espace remarquablement réduit. Ces systèmes fonctionnent de concert, parfois dans des conditions difficiles, et la vie des passagers en dépend.

La conception part du principe que des défaillances peuvent survenir. Une grande partie de la formation des pilotes consiste à identifier ces défaillances et à savoir comment y faire face. On s'entraîne tant qu'on a encore la possibilité de se permettre de faire des erreurs.

Prenons l'exemple de l'alimentation électrique. Un alternateur produit de l'électricité pour l'avion. Certes, cela peut permettre de recharger votre iPhone, mais ce qui m'intéresse davantage, c'est d'assurer le bon fonctionnement des radios et des instruments de vol.

Dans un avion équipé de deux alternateurs, l'un d'entre eux peut prendre le relais pour alimenter les charges essentielles en cas de défaillance de l'autre. Si les deux tombent en panne, les batteries peuvent assurer un temps de fonctionnement limité. Il convient alors de réduire la charge et de mettre à profit ce temps pour gérer la situation d'urgence.

Ce qu'il faut retenir, c'est que l'alternateur et la batterie fonctionnent différemment. L'un produit de l'électricité, l'autre la stocke. La batterie vous offre ainsi un autre moyen d'assurer le fonctionnement des équipements essentiels en cas de panne du système de production d'électricité.

Cette réflexion va encore plus loin. Airbus a documenté des conceptions de commandes de vol utilisant du matériel et des logiciels différents dans les ordinateurs principaux et secondaires, y compris des systèmes secondaires plus simples. L'objectif est de réduire le risque qu'un seul défaut rende impossible toute exécution d'une fonction critique.

J'emporte généralement mon iPad équipé de ForeFlight en complément des instruments déjà présents dans l'avion. Il s'agit d'une aide supplémentaire, dont les capacités dépendent des capteurs auxquels il est connecté, et je dois en comprendre les limites. Cela dit, le fait de disposer d'une autre source d'informations de vol, sur un appareil distinct doté de sa propre batterie, me rassure quelque peu.

Considérons maintenant cette même question dans le domaine des technologies de l'information, des systèmes critiques et des infrastructures critiques. Ces systèmes doivent garantir la vie ou la liberté, à l'instar d'un avion ; nous devons donc adopter la même approche en matière de conception.

Si mon système principal et mon système de secours utilisent le même logiciel, reçoivent les mêmes mises à jour et dépendent du même réseau, dans quelle mesure sont-ils indépendants l’un de l’autre ? Le fait de déplacer l’un d’eux dans un autre bâtiment ne supprime pas un défaut dans le code. Un deuxième cloud peut toujours dépendre du même service d’identité ou de la même source de données.

On peut cloner un système et copier ses failles par la même occasion.

Si une même panne peut mettre hors service les deux systèmes, peut-on vraiment parler de solution de secours ?

Les incidents récents montrent pourquoi cette question revêt une telle importance.

Microsoft, les 12 et 13 novembre

Leur rapport préliminaire fait état d’un défaut logiciel caché, d’une augmentation du trafic au niveau des passerelles et d’une baisse de capacité. La redirection du trafic provenant des serveurs défaillants a contribué à propager la panne à d’autres serveurs présentant la même vulnérabilité. Microsoft disposait déjà de différentes architectures de passerelles, mais certains services, notamment Exchange Online, n’ont pas pu migrer vers la solution de secours à l’échelle requise. J’apprécie le niveau de détail fourni par Microsoft. My La conclusion à en tirer est que l’indépendance et la capacité doivent être testées conjointement. Je pense qu’une architecture alternative doit prendre le relais des tâches essentielles en tant que sauvegarde à chaud lorsque cela s’avère réellement nécessaire.

FAA, 13 novembre

La FAA a décrit une saturation du réseau survenue pendant une période de remplacement des routeurs. Le blocage de deux sites présumés à l’origine du problème a permis de stabiliser le réseau. Les contrôleurs aériens et les pilotes ont assuré la sécurité, mais les décollages ont été suspendus dans tout le pays. La cause profonde fait toujours l’objet d’une enquête, et la FAA précise que le système SMART (Strategic Management of Airspace, Routes and Trajectories) n’était pas en cause. La question qui se pose concernant l'architecture est de savoir comment un problème survenu dans un petit nombre de sites a pu se propager à une telle échelle, et quelles mesures supplémentaires d'isolation et de communications indépendantes auraient permis de préserver davantage d'opérations en toute sécurité. Cependant, ne devrions-nous pas également nous demander ce qui a provoqué l'effondrement de l'architecture existante, et comment le système SMART a-t-il été écarté ?

Amtrak, 13 novembre

Des problèmes de réservation sont apparus alors que les passagers aériens bloqués cherchaient des solutions alternatives. Amtrak a invoqué une mise à jour du système et une hausse de la demande, bien que la cause technique exacte reste incertaine. C’est un scénario que j’intégrerais dans n’importe quel exercice de reprise après sinistre : lorsqu’une partie de notre infrastructure tombe en panne, les usagers se tournent vers une autre. Le système de remplacement doit lui aussi disposer d’une capacité suffisante pour accueillir ces usagers.

United, 16 novembre

Reuters a rapporté qu’une panne avait affecté plusieurs applications destinées à l’équipage et empêché United de fournir les poids finaux des avions pour les vols au départ. La cause technique sous-jacente n’a pas encore été révélée. Réfléchissez-y : l’avion, l’équipage et les passagers peuvent tous être prêts, mais le vol ne peut pas décoller sans ces informations essentielles. Toute solution de remplacement doit disposer de données de chargement à jour et précises. La sauvegarde d’hier ne suffirait pas. Nous devons rétablir un système opérationnel avec des données à jour.

Chase, le 16 novembre.

Un bug logiciel interne a entraîné des retards dans les transactions, notamment les paiements impliquant d'autres banques. Dans ce cas, la reprise doit préserver l'historique financier. Une reprise rapide n'est utile que si les paiements sont bien comptabilisés, si les soldes sont corrects et si les transactions ne sont pas traitées deux fois. Cela doit être démontré avec un volume de transactions réaliste.

Il s'agit là d'incidents distincts, et nous devons rester prudents quant aux conclusions à en tirer tant que les enquêtes sont en cours. Mais ces éléments constituent déjà une source abondante de matière à réflexion pour nos propres discussions techniques.

Et aujourd'hui, nous intégrons l'IA aux systèmes dont nous dépendons.

La restauration d'une application classique peut déjà s'avérer difficile. Un système piloté par l'IA intègre un modèle, un environnement d'exécution, des lacs de données et des pipelines dont les relations peuvent être difficiles à démêler en cas de problème. Même lorsque le modèle reste inchangé, les données et le contexte d'exploitation peuvent évoluer. La restauration d'une version antérieure du code peut laisser des composants qui ne fonctionnent plus correctement ensemble.

Le logiciel peut fonctionner à nouveau alors que le système continue de proposer de mauvaises recommandations.

C'est pourquoi je considère un système d'IA comme un environnement opérationnel vivant. La récupération consiste à comprendre ce qui a changé, à restaurer les composants compatibles et à vérifier le comportement du système avant de s'y fier à nouveau.

Les usagers ont toujours besoin de ce service pendant la durée des travaux.

Pour nos fonctions les plus critiques, je pense que nous devrions envisager une implémentation distincte sur une autre architecture, déjà opérationnelle et prête à prendre le relais. Il pourrait s'agir d'une autre plateforme d'IA. Il pourrait s'agir d'un système conventionnel plus simple, capable d'assurer la continuité des opérations essentielles.

Cette indépendance doit s'étendre au-delà de l'application. D'autres logiciels situés sur le même réseau défaillant peuvent rester inaccessibles. Deux modèles différents utilisant les mêmes données corrompues peuvent tout de même produire des résultats erronés. Nous devons examiner l'ensemble du chemin sur lequel repose le service. Nous devons adopter la même approche que celle que j'ai décrite dans l'exemple de l'architecture du poste de pilotage d'Airbus.

Je sais que cela a un coût et ajoute de la complexité. La solution de secours n'a pas besoin de toutes les fonctionnalités du système principal. À l'instar de la batterie d'un avion, elle doit assurer les fonctions essentielles pendant une durée déterminée, en s'appuyant sur une architecture différente.

Commencez par déterminer ce qui doit continuer à fonctionner, à quel niveau de capacité et pendant combien de temps. Si l’exploitation ne peut tolérer qu’une interruption de quelques millisecondes ou secondes, cela devient une exigence technique que nous devons satisfaire. La remise en service de tout le reste peut prendre plus de temps.

Procédez ensuite à des tests de résistance du système dans des conditions contrôlées. Rendez l'IA indisponible. Déconnectez le réseau. Introduisez des données obsolètes, un correctif défectueux ou une cyberattaque. Testez le système lorsque la solution de secours a déjà perdu une partie de sa capacité. Observez ce qui se passe lorsque de vraies personnes doivent effectuer la transition, et évaluez si le service reste utilisable et fonctionne correctement.

Dans le cockpit, j'ai besoin de savoir ce qui fonctionne encore après une panne, combien de temps cela va durer et ce que je dois faire ensuite. J'ai besoin de ces réponses avant de décoller.

Les familles qui tentent de rentrer chez elles et les entreprises qui attendent d'être payées méritent que nous leur réservions la même attention.

Lors de votre prochaine réunion d'équipe de direction, posez la question suivante à vos collaborateurs : « Si notre système principal tombait en panne à l'instant, qu'est-ce qui continuerait de fonctionner, et cette même panne pourrait-elle également mettre fin à cela ? »

Examinez en détail la conception et l'architecture du système et essayez d'y trouver des failles. Pensez aux pannes de l'Server , aux coupures de communication, à un incident cybernétique. S'il s'agit d'un système d'IA comme SMART, étudiez ses composants. Partez du principe qu'il pourrait devenir incontrôlable, limitez la bande passante et prévoyez un deuxième système doté d'une architecture différente, prêt à prendre le relais en cas de panne totale du système.

Demandez-leur ensuite de vous montrer.

La prochaine panne ne devrait pas être l'occasion de découvrir pour la première fois si la sauvegarde fonctionne.

Restez à jour avec OPSWAT!

Inscrivez-vous dès aujourd'hui pour recevoir les dernières actualités de l'entreprise, des témoignages, des informations sur les événements et bien plus encore.