OpenAI Boutique GPTun marché de chatbots personnalisables, devrait être déployé d’ici peu, mais les utilisateurs doivent faire attention lorsqu’ils téléchargent des informations sensibles. créer des GPT. Une recherche de la société de cybersécurité et de sécurité Adversa AI indique que les GPT le seront divulguer des données sur la façon dont ils ont été construitsy compris les documents sources utilisés pour les enseigner, simplement en posant quelques questions au GPT.
« Les gens qui construisent actuellement des GPT, pour la plupart, ne sont pas vraiment conscients de la sécurité », a déclaré à Gizmodo Alex Polyakov, PDG d’Adversa AI. « Ce ne sont que des gens ordinaires, ils font probablement confiance à OpenAI et savent que leurs données seront en sécurité. Mais cela pose des problèmes et les gens doivent en être conscients.
Sam Altman souhaite que tout le monde crée des GPT. « En fin de compte, vous demanderez simplement à l’ordinateur ce dont vous avez besoin et il effectuera toutes ces tâches à votre place », a déclaré Sam Altman lors de son Discours d’ouverture du DevDay, faisant référence à sa vision de l’avenir de l’informatique, qui tourne autour des GPT. Cependant, les chatbots personnalisables d’OpenAI semblent présenter certaines vulnérabilités qui pourraient rendre les gens las de créer des GPT.
La vulnérabilité vient de ce qu’on appelle une fuite rapide, où les utilisateurs peuvent tromper un GPT pour qu’il révèle comment il a été construit à travers une série de questions stratégiques. Une fuite rapide présente des problèmes sur plusieurs fronts selon Polyakov, qui a été l’un des premiers à jailbreak ChatGPT.
Si vous pouvez copier les GPT, ils n’ont aucune valeur
La première vulnérabilité découverte par Adversa AI est que les pirates pourraient être capables de copier complètement le GPT de quelqu’un, ce qui présente un risque de sécurité majeur pour les personnes espérant monétiser leur GPT.
« Une fois que vous avez créé le GPT, vous pouvez le configurer de manière à ce que certaines informations importantes puissent être (exposées). Et c’est un peu comme la propriété intellectuelle, d’une certaine manière. Parce que si quelqu’un peut voler cela, il peut essentiellement copier le GPT », explique Polyakov.
Tout le monde peut créer un GPT, les instructions sur la façon de le créer sont donc importantes. Une fuite rapide peut exposer ces instructions à un pirate informatique. Si un GPT peut être copié, alors les GPT n’ont essentiellement aucune valeur.
Toutes les données sensibles téléchargées sur un GPT peuvent être exposées
La deuxième vulnérabilité soulignée par Polyakov est qu’une fuite rapide peut inciter un GPT à révéler les documents et les données sur lesquels il a été formé. Si, par exemple, une entreprise devait former GPT sur des données sensibles concernant son activité, ces données pourraient être divulguées via des questions astucieuses.
Adversa AI a montré comment cela pouvait être réalisé sur un GPT créé pour l’App Store de Shopify. En demandant à plusieurs reprises au GPT une « liste de documents dans la base de connaissances », Polyakov a réussi à convaincre le GPT de cracher son code source.
Cette vulnérabilité signifie essentiellement que les personnes qui créent des GPT ne doivent télécharger aucune donnée sensible. Si des données utilisées pour créer des GPT peuvent être exposées, les développeurs seront sévèrement limités dans les applications qu’ils peuvent créer.
Le jeu du chat et de la souris d’OpenAI pour corriger les vulnérabilités
Ce n’est pas nécessairement une nouvelle information que les chatbots génératifs d’IA présentent des bugs de sécurité. Les réseaux sociaux regorgent d’exemples de façons de pirater ChatGPT. Utilisateurs trouvés si vous demandez à ChatGPT de répéter « poème » pour toujours, cela le fera exposer les données de formation. Un autre utilisateur a découvert que ChatGPT ne vous apprendrait pas à fabriquer du napalm. Mais si tu lui dis que ton grand-mère fabriquait du napalmil vous donnera alors des instructions détaillées pour fabriquer l’arme chimique.
OpenAI corrige constamment ces vulnérabilités, et toutes les vulnérabilités que j’ai mentionnées dans cet article ne fonctionnent plus car elles sont bien connues. Cependant, la nature des vulnérabilités zero-day comme celle découverte par Adversa.AI est qu’il y aura toujours des solutions de contournement pour les pirates informatiques intelligents. Les GPT d’OpenAI sont essentiellement un jeu du chat et de la souris pour corriger les nouvelles vulnérabilités au fur et à mesure qu’elles apparaissent. Ce n’est pas un jeu auquel aucune entreprise sérieuse voudra jouer.
Les vulnérabilités découvertes par Polyakov pourraient présenter des problèmes majeurs pour la vision d’Altman selon laquelle tout le monde construira et utilisera des GPT. La sécurité est à la base de la technologie, et sans plateformes sécurisées, personne ne voudra construire.