OpenAI-compatible API: wissel je client in drie regels

Vereisten: OpenAI SDK installeren

Zorg ervoor dat je ontwikkelomgeving de officiële OpenAI SDK heeft geïnstalleerd voor je voorkeurstaal voordat je verzoeken doet. Dit is de standaardmanier waarop ontwikkelaars communiceren met een openai compatible api, wat zorgt voor consistente typen en foutafhandeling. Voor Python gebruik je pip install openai. Voor Node.js voer je uit npm install openai. Deze bibliotheken verwerken de onderliggende HTTP-details, zodat jij je kunt concentreren op het doorgeven van prompts en het ontvangen van tekstuitvoer.

Base URL en API-sleutel configureren

Het voordeel is dat je slechts twee configuratiewaarden hoeft aan te passen. Wijs je client aan op onze base URL: https://api.openaicompatibleapi.com/v1. Genereer je API-sleutel op de aanmeldpagina; deze wordt direct na registratie getoond zonder creditcard. Stel de base_url en api_key in bij je clientinitialisatie. Dit maakt ons een directe gpt-api-alternatief voor je bestaande projecten zonder logica te herschrijven.

Maak je eerste verzoek

Stuur een standaard chat completion-verzoek met de model-ID uncensored. Dit model is een open-weight large language model dat is afgestemd op het geven van antwoorden zonder inhoudelijke weigeringen voor wettelijk volwassen gebruik. Het is geen GPT, Claude of een ander model van een andere leverancier. Je kunt de connectiviteit onmiddellijk testen met een eenvoudige tekstprompt. De respons retourneert de gegenereerde tekst in het veld content.

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Streaming responses inschakelen

Voor een betere gebruikerservaring kun je streaming inschakelen om tokens te ontvangen zodra ze worden gegenereerd. Stel stream=True in in je verzoek. De SDK zal chunks opleveren zodra ze aankomen, waardoor je partiële resultaten direct kunt weergeven. Dit is vooral nuttig voor lange contextvensters tot 100.000 tokens. Streaming werkt identiek aan standaard OpenAI-clients, waardoor compatibiliteit met je bestaande foutafhandelingslogica behouden blijft.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tool calling gebruiken (function calling)

Onze API ondersteunt gestructureerde tool calling. Definieer je functies in de parameter tools, en het model zal tool calls retourneren in de respons. Je kunt deze tools vervolgens uitvoeren en de resultaten terugsturen naar het model voor verder redeneren. Deze functie werkt met elke OpenAI-compatible client die de standaard tool calling-formaat ondersteunt. Het is ideaal voor het bouwen van agents of het automatiseren van workflows zonder een complexe llm proxy te beheren.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Beschikbare modellen controleren

Query het GET /v1/models endpoint om beschikbare modellen te controleren. Je ziet het uncensored model in de lijst staan. Dit bevestigt dat je API-sleutel en base URL correct zijn geconfigureerd. Je kunt dit endpoint ook gebruiken om authenticatieproblemen te debuggen. Als het endpoint een lijst teruggeeft, is je verbinding met de ai api voor ontwikkelaars actief. Er worden geen andere modellen aangeboden, wat de configuratie eenvoudig houdt.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);