L'intelligence artificielle : Le prochain influenceur de la cybersécurité OT

L'IA est une arme à double tranchant lorsqu'il s'agit de faire face au paysage de la cybersécurité OT. Bien qu'elle permette aux organisations de détecter et de répondre aux menaces de manière proactive et qu'elle continue de repousser les limites de l'automatisation dans la technologie à laquelle on fait confiance pour sécuriser les données, les appareils et les réseaux essentiels, sa sensibilité aux attaques adverses et son potentiel d'utilisation abusive par des acteurs malveillants peuvent la transformer en une nouvelle surface d'attaque, posant un risque important pour les infrastructures critiques et les systèmes de technologie opérationnelle.

Les opérateurs humains jouent un rôle essentiel dans la cyberdéfense OT pilotée par l'IA. Si les systèmes d'IA excellent dans le traitement des données, ils ne disposent pas de la compréhension et du jugement nuancés des humains. Une collaboration efficace entre les analystes de sécurité humains et les systèmes d'IA est cruciale pour atteindre un niveau élevé de cyber-résilience.

Pour favoriser au mieux cette collaboration, les organisations doivent investir dans la formation et le perfectionnement de leur personnel. Les opérateurs humains peuvent exploiter les informations générées par l'IA pour prendre des décisions éclairées, tandis que l'IA automatise les tâches de routine et fournit des informations en temps réel à l'adresse threat intelligence. Cette synergie permet aux opérateurs humains de se concentrer sur des tâches plus stratégiques et de haut niveau, renforçant ainsi les capacités de défense de l'organisation.

L'autre aspect de l'élément humain dans cette symbiose est notre responsabilité de développer une compréhension approfondie de l'IA et d'avoir des réponses aux questions qui tourbillonnent autour de cette technologie en évolution rapide. Examinons quelques problèmes urgents liés à l'IA et à la cybersécurité :

L'IA dans la cybersécurité des OT peut être développée en interne ou personnalisée à l'aide des plateformes populaires du moment. Lorsqu'elles envisagent d'utiliser des plateformes d'IA externes, les organisations doivent évaluer avec soin la confidentialité et le partage des données. Il est essentiel de veiller à ce que les informations sensibles soient protégées de manière adéquate.

Le secteur des infrastructures critiques hésite à faire confiance aux systèmes d'IA. Compte tenu de la nature critique de la cybersécurité des OT, cette prudence est compréhensible. Toutefois, la confiance dans l'IA peut être renforcée par des tests rigoureux, une validation et une communication transparente sur les capacités et les limites de l'IA. Au fur et à mesure que les technologies de l'IA prouveront leur efficacité, la confiance dans leur rôle dans la cyberdéfense augmentera probablement. Il faut garder à l'esprit où et comment l'IA peut être efficace pour en accroître les avantages tout en conservant un contrôle total sur les systèmes et équipements de production clés. C'est essentiel pour maximiser le temps de fonctionnement.

Si l'IA renforce la sécurité, elle peut aussi devenir une surface d'attaque potentielle. Les adversaires peuvent tenter de manipuler les modèles d'IA ou leurs données d'entraînement pour tromper les systèmes de sécurité. Le risque que les prédictions de l'IA induisent intentionnellement des défaillances byzantines dans les processus de prise de décision est une préoccupation légitime. Cela souligne la nécessité d'une surveillance permanente et de défenses solides autour des systèmes d'IA pour les protéger contre l'exploitation.

Les modèles d'IA sont formés à partir de vastes ensembles de données, dont certains peuvent contenir des documents protégés par le droit d'auteur. Les organisations doivent relever ce défi en s'assurant qu'elles disposent des droits et autorisations nécessaires pour les données utilisées dans l'apprentissage de l'IA. Cela peut impliquer des accords de licence, l'anonymisation des données ou d'autres sources de données pour éviter les problèmes juridiques.

L'IA est sur le point d'améliorer considérablement les cyber-simulations Red Team/Blue Team en renforçant les capacités offensives et défensives. Du côté de l'équipe rouge, les simulations d'attaques alimentées par l'IA peuvent rendre les scénarios de menace plus sophistiqués et plus dynamiques, en imitant les tactiques évolutives des vrais attaquants. Les équipes bleues doivent donc améliorer leurs stratégies de détection et de réaction. Pour les équipes bleues, l'IA peut renforcer la détection des menaces et la réponse aux incidents en identifiant rapidement des modèles inhabituels, des vulnérabilités et des anomalies, améliorant ainsi les défenses et aidant à automatiser les tâches de routine. En outre, l'IA peut générer des informations précieuses en analysant de grandes quantités de données, ce qui permet une prise de décision plus efficace et des mesures de sécurité proactives.  

Les exercices sur table (TTX) menés au niveau de la salle d'opération sont très utiles pour améliorer la préparation aux cyberincidents réels. Ils aident les organisations à mettre en pratique leurs stratégies de réponse, à identifier les faiblesses de leurs plans de réponse aux incidents et à améliorer la communication et la coordination entre les membres de l'équipe. L'impact de l'IA sur les exercices TTX réside dans sa capacité à fournir des informations en temps réel threat intelligence, à analyser de vastes ensembles de données et à simuler des scénarios de cyberattaque réalistes, augmentant ainsi la sophistication et le réalisme de ces exercices.

Les boucles de rétroaction, où les réponses de sécurité pilotées par l'IA influencent le comportement du système qui, à son tour, a un impact sur les détections de l'IA, nécessitent une gestion prudente. Les organisations doivent mettre en œuvre des mesures de protection et des mécanismes de contrôle pour éviter les conséquences imprévues. Une évaluation et une adaptation régulières sont essentielles pour trouver le bon équilibre.

Se défendre contre les attaques par apprentissage automatique et les "deepfakes" dans un environnement où les systèmes d'intelligence artificielle évoluent en permanence représente un défi considérable. La frontière entre l'attaquant et le défenseur dans le domaine numérique s'estompe. C'est notamment pour cette raison que le gouvernement américain a publié un décret visant à répondre officiellement à ces préoccupations. Quoi qu'il en soit, les organisations doivent investir dans l'évolution de leurs défenses contre l'IA, mener des recherches continues et collaborer avec l'ensemble de la communauté de la cybersécurité pour garder une longueur d'avance sur les menaces émergentes.