Agitateur de Neurones

Adversarial Machine Learning

You are here:
< Back

L’Adversarial Machine Learning est un ensemble d’outils et d’algorithmes d’Intelligence Artificielle de type Machine Learning qui visent à manipuler et à compromettre d’autres algorithmes d’IA.

Les techniques d’apprentissage automatique (machine learning) ont été conçues à l’origine pour des environnements dans lesquels les données d’apprentissage et de test sont supposées être connues et/ou maîtrisées. Des tiers malveillants peuvent toutefois contourner cette hypothèse et manipuler ces données d’entrée en exploitant des vulnérabilités spécifiques des algorithmes d’apprentissage pour compromettre la sécurité de l’ensemble du système.

Par exemple, en 2017, des chercheurs du MIT ont imprimé en 3D un jouet en forme de tortue avec une texture conçue pour duper la détection automatique d’objets de Google. Cet algorithme, pourtant extrêmement performant, a classé le jouet comme un fusil, peu importe l’angle de vue.

Next CBT – Cognitive-Behavioural Techniques