IA et cybersécurité : du poison au remède

En matière de cybersécurité, l’intelligence artificielle présente deux visages. D’un côté, elle peut constituer une menace lorsqu’elle est exploitée pour identifier les vulnérabilités d’un système d’information. De l’autre, elle représente une opportunité afin de se prémunir des attaques informatiques.

L’intelligence artificielle (IA) est d’ores et déjà une réalité pour beaucoup d’entreprises. Selon une étude conjointe du Boston Consulting Group et du MIT Sloan Management Review datant de 2017, 20 % d’entre elles intègrent cette technologie dans leurs produits ou leurs processus, et 70 % des dirigeants la voient jouer un rôle important au sein de leur société dans les cinq prochaines années. Ce boom de l’IA s’accompagne d’un accroissement des risques en matière de cybersécurité. D’une part, des personnes malintentionnées peuvent tenter de manipuler les programmes d’intelligence artificielle d’une entreprise afin de provoquer des dommages importants — incluant blessures et décès dans le cas où l’IA contrôle un système physique. D’autre part, en raison de son potentiel, la technologie elle-même peut contribuer à renforcer l’arsenal des cybercriminels.

 

Une partie de la solution pour limiter les risques réside dans les pouvoirs de l’IA

 

La quasi-totalité des secteurs d’activité sont concernés par le premier risque. Fraude au crédit, atteinte à la réputation, insécurité médicale et environnementale, etc., constituent une liste non exhaustive de menaces pesant sur les organisations. Les systèmes de déduction et de décision basés sur des techniques d’apprentissage automatique sont particulièrement vulnérables aux manipulations de données. Détecter ces dernières est difficile en raison de la complexité des modèles, qui fonctionnent la plupart du temps comme des boîtes noires. En outre, les entreprises se désintéressent trop souvent des questions de cybersécurité. Quant au risque lié à l’utilisation de programmes d’IA à des fins malveillantes, il s’explique notamment par le caractère d’amélioration continue des systèmes de machine learning, que les hackers exploitent dans le but d’automatiser le repérage des vulnérabilités.

Paradoxalement, une partie de la solution pour limiter ces dangers et renforcer la sécurité des systèmes réside dans les pouvoirs de l’intelligence artificielle elle-même. Celle-ci permet d’abord d’améliorer les capacités de détection et de réponse aux attaques, par exemple en repérant les changements apparaissant anormaux et en procédant à des mises en quarantaine. Ensuite, à travers les techniques avancées d’apprentissage automatique, elle offre de nouvelles perspectives en matière de prévention et de protection. Enfin, l’IA contribue à réduire les inspections manuelles, à la fois complexes et coûteuses, et donc à rediriger la main d’œuvre vers des tâches de supervision et de résolution de problème. C’est la raison pour laquelle les entreprises qui investissent dans la technologie à moyen et long terme peuvent espérer d’importants gains d’efficacité opérationnelle et des économies substantielles sur les frais d’exploitation.

 

Lire l’article 

 

En complément :

un article au sujet des évolutions futures en matière de cybersécurité

et un autre à propos des investissements massifs de l’Union européenne dans l’intelligence artificielle