Plus précisément, AI Defense est composé de quatre composants : AI Access, AI Cloud Visibility, AI Model & Application Validation et AI Runtime Protection.
AI Access offre une visibilité sur qui souhaite ou utilise une application d'IA, puis contrôle l'accès pour protéger et appliquer la prévention contre la perte de données et atténuer les menaces potentielles.
AI Cloud Visibility découvre automatiquement les actifs d'IA comprenant des applications d'IA personnalisées dans votre environnement distribué, y compris les charges de travail d'IA non autorisées. Cela fournit une vue unique de l’inventaire de l’IA, explique Cisco.
AI Defence découvre tous les différents modèles utilisés dans le développement de l'IA d'un client, ce qui est utile car il y a déjà eu une prolifération d'outils et de modèles d'IA, a déclaré Gillis. « Ensuite, nous découvrons qui utilise quoi, et nous laissons les clients former leurs propres modèles autour de leurs données afin de ne pas exposer les sectes de l'entreprise, etc. Ils peuvent donc créer une version locale d'un modèle et, au moment où ce modèle est construit, nous sommes en mesure de le valider », a déclaré Gillis.
Les développeurs téléchargent des modèles et des données à partir de référentiels publics, notamment Hugging Face et GitHub, exposant par inadvertance les organisations à des risques considérables. AI Validation Model & Application Validation analyse automatiquement les modèles, données et fichiers open source pour bloquer les menaces de la chaîne d'approvisionnement, telles que les fichiers de modèles malveillants qui peuvent permettre l'exécution de code arbitraire dans l'environnement. Lorsqu'un nouveau modèle est inscrit dans un registre, une évaluation peut être lancée à l'aide d'un simple appel API, explique Cisco.
AI Runtime inspecte chaque entrée et bloque automatiquement les charges utiles malveillantes avant qu'elles ne puissent causer des dommages, selon Cisco. « Les attaques courantes incluent l'injection rapide, l'extraction rapide, le déni de service (DoS) et l'exécution de commandes. Le composant empêche également les données sensibles, telles que les informations personnelles identifiables (PII), d'atteindre les modèles clients », explique Cisco.