Une grande partie de la documentation est fournie sous forme de notebooks, ce qui vous permet de l'utiliser de manière interactive. Il s'agit d'une alternative intéressante à la documentation traditionnelle, prête à être utilisée localement ou sur GitHub.
Utiliser PyRIT pour tester votre IA générative
Le cœur de PyRIT réside dans ses orchestrateurs. C'est ainsi que vous liez les ensembles de données aux cibles, en construisant les attaques qu'un attaquant potentiel pourrait utiliser. L'outil propose une sélection d'orchestrateurs, des opérations d'invite simples aux opérations plus complexes qui mettent en œuvre des types d'attaques courants. Une fois que vous avez acquis de l'expérience sur le fonctionnement des orchestrateurs, vous pouvez créer les vôtres en expérimentant des attaques nouvelles et différentes. Les résultats sont notés, évaluant la façon dont l'IA et ses outils de sécurité répondent à une invite. L'a-t-elle rejetée ou a-t-elle fourni une réponse nuisible ?
Les orchestrateurs sont écrits en Python et utilisent des secrets stockés pour accéder aux points de terminaison. Vous pouvez considérer un orchestrateur comme un flux de travail, définissant des cibles et des invites, et rassemblant les sorties pour une analyse ultérieure. Une option intéressante est la possibilité de convertir les invites en différents formats, pour voir l'effet de l'utilisation, par exemple, d'un codage Base64 plutôt que d'une invite de texte standard.
GIPHY App Key not set. Please check settings