L'API ChatGPT & Whisper d'OpenAI est désormais disponible pour les développeurs

OpenAI a annoncé que ses modèles ChatGPT et Whisper sont désormais disponibles sur son API, offrant aux développeurs un accès aux capacités de langage et de synthèse vocale basées sur l'IA.

Grâce à des optimisations à l'échelle du système , OpenAI a réussi à réduire le coût de ChatGPT de 90 % depuis décembre, et il répercute maintenant ces économies sur les utilisateurs de l'API.

OpenAI pense que la meilleure façon de réaliser le plein potentiel de l'IA est de permettre tout le monde à construire avec.

Les changements annoncés aujourd'hui peuvent conduire à de nombreuses applications dont tout le monde peut bénéficier.

Davantage d'entreprises peuvent tirer parti du langage et des s d'OpenAI capacités peech-to-text pour développer des applications de nouvelle génération alimentées par ChatGPT et Whisper.

De plus, OpenAI a pris en compte les commentaires des développeurs et a apporté des modifications à ses conditions d'utilisation de l'API pour mieux répondre à leurs besoins.

API ChatGPT

OpenAI lance une nouvelle famille de modèles ChatGPT appelée gpt-3.5-turbo, au prix de 0,002 USD par 1 000 jetons, ce qui la rend dix fois moins chère que les modèles GPT-3.5 existants .

Ce modèle est idéal pour de nombreux cas d'utilisation hors chat et est le identique dans le produit ChatGPT.

Alors que les modèles GPT consomment traditionnellement du texte non structuré représenté par une séquence de tok Ens, les modèles ChatGPT consomment une séquence de messages avec des métadonnées.

Cependant, l'entrée est restituée au modèle sous la forme d'une séquence de jetons que le modèle doit consommer.

Le gpt-3.5 - Le modèle turbo utilise un nouveau format appelé Chat Markup Language (ChatML).

Mises à niveau de ChatGPT

OpenAI améliore continuellement ses modèles ChatGPT et vise à proposer ces mises à niveau aux développeurs.

Ceux qui utilisent le modèle gpt-3.5-turbo recevront toujours le modèle stable recommandé, tandis que toujours en mesure de choisir une version spécifique.

OpenAI lance une nouvelle version appelée gpt-3.5-turbo-0301, qui ive support jusqu'au 1er juin au moins, et une nouvelle version stable est attendue en avril.

Les développeurs peuvent trouver des mises à jour sur la page des modèles pour passer à la dernière version.

Instances dédiées< /h2>

OpenAI propose désormais des instances dédiées aux utilisateurs qui souhaitent davantage de contrôle sur les versions de leurs modèles et les performances du système.

< /div>

Par défaut, les demandes sont traitées sur une infrastructure de calcul partagée et les utilisateurs paient par demande.

Cependant, avec des instances dédiées, les développeurs paient une période de temps pour allouer l'infrastructure de calcul réservés exclusivement à leurs demandes.

Les développeurs disposent de c contrôle sur la charge de l'instance, l'option d'activer des limites de contexte plus longues et la possibilité d'épingler l'instantané du modèle.

Les instances dédiées peuvent être rentables pour les développeurs qui traitent au-delà d'environ 450 millions de jetons par jour.

API Whisper

OpenAI a introduit Whisper, un modèle de synthèse vocale, en tant qu'API open source en septembre 2022.

< div>

L'API Whisper a suscité des éloges considérables de la part de la communauté des développeurs. Cependant, son fonctionnement peut être difficile.

OpenAI met à disposition le modèle large-v2 via son API, offrant aux développeurs un accès pratique à la demande, au prix de 0,006 USD par minute.

De plus, la pile de service d'OpenAI garantit des performances plus rapides par rapport aux autres services. L'API Whisper est accessible via des transcriptions ou des points de terminaison de traduction, qui peuvent transcrire ou traduire la langue source en anglais.

OpenAI propose désormais des instances dédiées aux utilisateurs qui souhaitent davantage de contrôle sur les versions de leurs modèles et les performances du système.

Par défaut, les demandes sont traitées sur une infrastructure de calcul partagée et les utilisateurs paient par demande.

Cependant, avec des instances dédiées, les développeurs paient une période de temps pour allouer l'infrastructure de calcul réservés exclusivement à leurs demandes.

Les développeurs disposent de c contrôle sur la charge de l'instance, l'option d'activer des limites de contexte plus longues et la possibilité d'épingler l'instantané du modèle.

Les instances dédiées peuvent être rentables pour les développeurs qui traitent au-delà d'environ 450 millions de jetons par jour.

API Whisper

OpenAI a introduit Whisper, un modèle de synthèse vocale, en tant qu'API open source en septembre 2022.

L'API Whisper a suscité des éloges considérables de la part de la communauté des développeurs. Cependant, son fonctionnement peut être difficile.

OpenAI met à disposition le modèle large-v2 via son API, offrant aux développeurs un accès pratique à la demande, au prix de 0,006 USD par minute.

De plus, la pile de service d'OpenAI garantit des performances plus rapides par rapport aux autres services. L'API Whisper est accessible via des transcriptions ou des points de terminaison de traduction, qui peuvent transcrire ou traduire la langue source en anglais.

Concentration sur les développeurs

OpenAI a apporté des modifications spécifiques après avoir reçu les commentaires des développeurs. Voici des exemples de ces modifications :

• Ne pas utiliser les données soumises via l'API pour les améliorations de service, y compris la formation des modèles, à moins que l'organisation n'y consente.
• Établir une politique de conservation des données de 30 jours par défaut, avec l'option d'une conservation plus stricte en fonction des besoins de l'utilisateur.
• Améliorer sa documentation pour les développeurs.
• Simplifier ses conditions d'utilisation et ses politiques d'utilisation.

OpenAI reconnaît que fournir un service fiable est nécessaire pour garantir que l'IA profite à tous. À cette fin, OpenAI s'engage à améliorer sa disponibilité au cours des prochains mois.

Image en vedette : Shaheerrr/Shutterstock

Source : OpenAI