Amazon annonce le générateur d’images Titan AI

Est-il difficile de vérifier si une image est un deepfake IA ou non ? Eh bien, Amazon prétend avoir une sorte de réponse avec son propre système de filigrane pour Titan, le nouveau générateur d’art IA annoncé aujourd’hui. Bien sûr, ce n’est pas si simple. Chaque entreprise qui utilise ce modèle devra expliquer comment les utilisateurs peuvent vérifier si l’image qu’ils ont trouvée en ligne n’était en réalité qu’un autre deepfake de l’IA.

Amazon n’en proposait pas beaucoup – ou vraiment aucun –détails à propos celui de Titan capacités, sans parler de ses données de formation. Swami Sivasubramanian, vice-président d’Amazon Web Services pour l’apprentissage automatique, a déclaré aux participants à la conférence re:Invent de l’entreprise qu’il pouvait créer une image « réaliste » d’un iguane, modifier l’arrière-plan de l’image et utiliser un outil de type de remplissage génératif pour élargir les bordures de l’image. . Ce n’est rien que nous n’ayons vu auparavant, mais le modèle est limité aux clients AWS via le Substrat rocheux plate-forme. Il s’agit d’un modèle fondamental que les entreprises peuvent intégrer dans leurs propres plateformes.

Le géant des services cloud, comme beaucoup d’autres entreprises, impose aux utilisateurs individuels de déterminer si une image a été créée par l’IA ou non. La société a déclaré que ce nouveau générateur d’images IA mettrait un « filigrane invisible » sur chaque image créée via le modèle. Ceci est « conçu pour aider à réduire la propagation de la désinformation en fournissant un mécanisme discret pour identifier les images générées par l’IA ».

De quel type de filigrane il s’agit ou comment les utilisateurs externes peuvent identifier l’image n’est pas immédiatement clair. D’autres sociétés comme Google DeepMind ont affirmé avoir trouvé des moyens de perturber les pixels d’une image générée par l’IA afin de créer un filigrane inaltérable. Gizmodo a contacté Amazon pour obtenir des éclaircissements, mais nous n’avons pas immédiatement reçu de réponse.

Vasi Philomin, vice-président d’AWS pour l’IA générative, a déclaré Le bord que le filigrane n’a pas d’impact sur la qualité de l’image, bien qu’il ne puisse pas être « recadré ou compressé ». Ce n’est apparemment pas non plus une simple balise de métadonnées. Adobe utilise des balises de métadonnées pour signifier si une image créée avec son modèle Firefly est une IA ou non. Cela nécessite que les utilisateurs se rendent sur un site distinct afin de savoir si une image contient ou non la balise de métadonnées.

Afin de déterminer si une image est une IA, les utilisateurs devront se connecter à une API distincte. Il appartiendra à chaque entreprise qui utilise le modèle d’indiquer aux utilisateurs comment accéder à cette technologie d’analyse IA.

En termes simples, il sera incroyablement ennuyeux de déterminer quelles images sont de l’IA, d’autant plus que chaque entreprise crée un système de filigrane distinct pour son IA.

Les modèles d’IA d’Amazon sont peut-être les plus fermés de toutes les grandes entreprises publiées jusqu’à présent. Mardi, la société a dévoilé « Q », un chatbot personnalisable conçu pour les entreprises, bien que nous n’ayons aucune idée de ses modèles sous-jacents ou de ses données de formation. Dans un article de blogle principal fabricant de puces IA, Nvidia, a déclaré qu’Amazon utilisait son Cadre NeMo pour entraîner le nouveau modèle. NeMo inclut des modèles pré-entraînés destinés à accélérer le développement d’une nouvelle IA, mais cela n’offre pas beaucoup d’indications sur le type de contenu utilisé dans le nouveau générateur d’art IA.

Il y a une raison pour laquelle l’entreprise ne voudrait pas parler beaucoup de ce qui se passe dans cette IA. De nombreux types d’artistes ont critiqué et même poursuivi en justice d’autres sociétés, alléguant que ceux qui fabriquaient des générateurs d’art en IA utilisaient leur travail sans autorisation pour une formation en IA. Amazon a déjà promis de protéger les entreprises qui utilisent le modèle de langage du géant de la technologie codant l’IA Chuchoteur de code si quelqu’un essaie de poursuivre. Mercredi, Sivasubramanian a déclaré aux participants que la politique d’indemnisation s’appliquerait également au modèle Titan.

AWS affirme que le modèle Titan dispose « d’un support intégré pour l’utilisation responsable de l’IA en détectant et en supprimant le contenu nuisible des données, en rejetant les entrées utilisateur inappropriées et en filtrant les sorties du modèle ». Ce que cela signifie est en l’air sans avoir la possibilité de le tester. Comme pour toutes les IA annoncées lors de la conférence re:Invent, le modèle est étroitement verrouillé, sauf pour les entreprises clientes payantes.