Agitateur de Neurones

Intelligence Artificielle & CyberSécurité

La cybersécurité (et la cyberdéfense) est devenue un axe majeur de préoccupation des entreprises. Attaques par déni de services (DDoS), extorsion de fonds et chantage (ransomware), vol de données privées, piratage d’objets connectés, il ne passe pas un jour sans qu’une entreprise fasse les titres des journaux.

Pourtant les technologies de défense et de protection n’ont pas dramatiquement évoluées depuis une bonne dizaine d’années. On retrouve toujours la liste magique :

  • pare-feux
  • scanners de vulnérabilités
  • sonde de détection (IDS) et/ou de prévention (IPS) d’intrusion
  • outils de contrôle de fuite de données (DLP)
  • pilotage des événements de sécurité (SIEM)

On trouve bien quelques outils de type Analytics mais ils sont pour la plupart assez basiques et intégrés dans les SIEMs.

Comment les technologies de l’Intelligence Artificielle pourraient-elles aider à améliorer la sécurité des entreprises et des particuliers (objets connectés…)

La première problématique, c’est que les outils de type machine learning ont besoin de corpus de données pour apprendre, que l’apprentissage soit automatisé ou assisté. Ce n’est pas vraiment possible à partir de flux de trafic réseaux car il faudrait un énorme travail d’identification des données/trames et de classification. Par contre, cela fonctionne assez bien avec le spam et la classification des malwares. Il est aussi possible de faire du data analytics sur des données forensiques (post-mortem..). Il existe aussi des outils d’adaptative learning qui peuvent détecter des attaques de type APT (Advanced Persistent Threats)

Pour le reste, cela tient plus dans le discours marketing que dans l’efficacité opérationnelle.

La seconde problématique est celle de la sécurisation même des objets (logiciels, services, terminaux) qui sont intrinsèquement ou extrinsèquement des IAs. Tout comme les IoTs, ces objets sont (déjà) et seront attaqués. Il faut profiter de leurs propres technologies pour les rendre résilients et adaptatifs en temps quasi réel aux attaques.

Un axe de développement actuel assez préoccupant est l’Adversarial Machine Learning qui propose des méthodes pour manipuler les algorithmes et compromettre leur sécurité.

Nous travaillons sur les deux aspects :

  • L’utilisation des technologies de l’IA pour améliorer la sécurité. Notre principal champ d’études est la mise en place dynamique de politiques de sécurité sur des systèmes critiques
  • La prise en compte, dès la conception (security by design) de la sécurité dans les services et/ou les objets qui contiennent ou utilisent de l’Intelligence Artificielle.