API compatible OpenAI : changez de client en trois lignes

Prérequis : Installer le SDK OpenAI

Avant d'effectuer des requêtes, assurez-vous que votre environnement de développement dispose du SDK OpenAI officiel installé pour votre langage préféré. C'est la méthode standard pour interagir avec une API compatible OpenAI, garantissant une typage cohérent et une gestion des erreurs. Pour Python, utilisez pip install openai. Pour Node.js, exécutez npm install openai. Ces bibliothèques gèrent les détails HTTP sous-jacents, vous permettant de vous concentrer sur le passage de prompts et la réception de sorties textuelles.

Configurer l'URL de base et la clé API

L'avantage principal de notre service est que vous n'avez besoin de mettre à jour que deux valeurs de configuration. Pointez votre client vers notre URL de base : https://api.openaicompatibleapi.com/v1. Ensuite, générez votre clé API sur la page d'inscription ; elle est affichée immédiatement après l'inscription sans besoin de carte bancaire. Définissez base_url et api_key dans l'initialisation de votre client. Cela fait de nous une alternative API GPT directe pour vos projets existants sans réécrire la logique.

Effectuer votre première requête

Envoyez une requête standard de complétion de chat en utilisant l'ID de modèle uncensored. Ce modèle est un modèle de langage à poids ouverts ajusté pour répondre sans refus de contenu pour un usage adulte légal. Ce n'est pas GPT, Claude ou tout autre modèle d'un autre fournisseur. Vous pouvez tester la connectivité immédiatement avec une simple invite textuelle. La réponse renverra le texte généré dans le champ content.

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Activer les réponses en streaming

Pour une meilleure expérience utilisateur, activez le streaming pour recevoir les tokens au fur et à mesure de leur génération. Définissez stream=True dans votre requête. Le SDK fournira des chunks à mesure de leur arrivée, vous permettant d'afficher les résultats partiels instantanément. Cela est particulièrement utile pour les fenêtres de contexte longues jusqu'à 100 000 tokens. Le streaming fonctionne de manière identique aux clients OpenAI standard, maintenant la compatibilité avec votre logique de gestion des erreurs existante.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Utiliser l'appel de fonctions (Function Calling)

Notre API prend en charge l'appel de fonctions structuré. Définissez vos fonctions dans le paramètre tools, et le modèle renverra des appels d'outils dans la réponse. Vous pouvez ensuite exécuter ces outils et renvoyer les résultats au modèle pour un raisonnement supplémentaire. Cette fonctionnalité fonctionne avec n'importe quel client compatible OpenAI qui prend en charge le format standard d'appel de fonctions. Elle est idéale pour créer des agents ou automatiser des workflows sans gérer un proxy LLM complexe.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Vérifier les modèles disponibles

Interrogez l'endpoint GET /v1/models pour vérifier les modèles disponibles. Vous verrez le modèle uncensored répertorié. Cela confirme que votre clé API et votre URL de base sont configurées correctement. Vous pouvez également utiliser cet endpoint pour déboguer les problèmes d'authentification. Si l'endpoint renvoie une liste, votre connexion à l'API IA pour développeurs est active. Aucun autre modèle n'est proposé, ce qui garde la configuration simple.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);