Google ouvre l'accès à 2 millions de fenêtres contextuelles de Gemini 1.5 Pro

Google a ouvert l'accès à la fenêtre contextuelle de 2 millions de jetons du modèle d'IA Gemini 1.5 Pro. L'entreprise donne également aux développeurs l'accès aux capacités d'exécution de code dans l'API Gemini et rend le modèle Gemma 2 disponible dans Google AI Studio.

Ces annonces ont été faites le 27 juin. La fenêtre contextuelle de 2 millions de jetons de Gemini 1.5 Pro, auparavant disponible via une liste d'attente, est désormais disponible pour tous les développeurs.

Google a noté qu'à mesure que la fenêtre contextuelle s'agrandit, le coût potentiel des intrants augmente également. Pour aider les développeurs à réduire les coûts des tâches qui utilisent les mêmes jetons dans plusieurs invites, Google a introduit la mise en cache contextuelle dans l'API Gemini pour Gemini 1.5 Pro et Gemini 1.5 Flash.

Pour permettre aux développeurs de bénéficier de capacités de raisonnement mathématique et de données, Google a également activé l'exécution de code dans Gemini 1.5 Pro et Gemini 1.5 Flash. La fonction d'exécution de code permet au modèle d'exécuter du code Python et d'apprendre de manière itérative à partir des résultats jusqu'à ce qu'une entrée finale souhaitée soit atteinte. Cela est considéré comme une première étape vers l'exécution de code en tant que capacité du modèle. Elle est disponible via l'API Gemini et dans Google AI Studio sous « paramètres avancés ».

Google a également déclaré avoir rendu le modèle Gemma 2 disponible dans Google AI Studio à des fins d'expérimentation et s'efforce de proposer le réglage de Gemini 1.5 Flash à tous les développeurs. Le réglage du texte dans Gemini 1.5 Flash est désormais prêt pour l'équipe rouge et sera déployé progressivement auprès de tous les développeurs. Tous les développeurs auront accès au réglage Flash de Gemini 1.5 via l'API Gemini et dans Google AI Studio d'ici la mi-juillet, a indiqué la société.