Adversarial Robustness Toolbox (ART) est une bibliothèque Python pour la sécurité de l'apprentissage automatique. ART fournit des outils qui permettent aux développeurs et aux chercheurs d'évaluer, de défendre, de certifier et de vérifier les modèles et applications d'apprentissage automatique contre les menaces contradictoires d'évasion, d'empoisonnement, d'extraction et d'inférence. ART prend en charge tous les frameworks d'apprentissage automatique populaires (TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost, GPy, etc.), tous les types de données (images, tableaux, audio, vidéo, etc.) et l'apprentissage automatique tâches (classification, détection d'objets, génération, certification, etc.).
DEEPSEC est le premier système d'évaluation et de sécurisation uniforme mis en œuvre pour les modèles d'apprentissage en profondeur, qui intègre de manière complète et systématique les attaques adverses de pointe, les défenses et les mesures d'utilité relative de ceux-ci.
Foolbox est une bibliothèque Python qui vous permet d'exécuter facilement des attaques contradictoires contre des modèles d'apprentissage automatique tels que les réseaux de neurones profonds. Il est construit sur EagerPy et fonctionne nativement avec des modèles dans PyTorch, TensorFlow et JAX.
CleverHans est une bibliothèque Python d'exemples contradictoires pour construire des attaques, construire des défenses et comparer les deux.
CleverHans permet de comparer la vulnérabilité des systèmes d'apprentissage automatique aux exemples contradictoires.
La bibliothèque CleverHans est en développement continu, accueillant toujours les contributions des dernières attaques et défenses.
Depuis la v4.0.0, CleverHans prend en charge 3 frameworks : JAX, PyTorch et TF2.
CleverHans accorde actuellement la priorité à la mise en œuvre d'attaques dans PyTorch cependant nous accueillons très favorablement les contributions pour les 3 frameworks.
La bibliothèque CleverHans se concentre sur la fourniture d'une implémentation de référence d'attaques contre des modèles d'apprentissage automatique pour faciliter l'analyse comparative des modèles par rapport à des exemples contradictoires.
Les attaques adverses sont une technique utilisée pour leurrer un algorithme d’intelligence artificielle.
L'opération demeure encore essentiellement un exercice de hacking éthique pour renforcer les algorithmes existants mais d'autres usages plus malveillants menacent.
Les algorithmes d’attaque adverse sont caractérisés par une architecture ciblée alliée à une stratégie d’attaque;
Le taux de perturbation, le taux de succès de l’attaque et les coûts de calcul sont également pris en compte.
Bienvenu, je m’appelle Eric Soupet et je suis l'administrateur du site elodees.com. elodees.com est un état de l'art de l'Intelligence Artificielle et se veut collaboratif, vous pouvez dès à présent proposer du contenu tels que des articles, des événements, des tutoriels, ... alors n'hésitez pas !
