OpenAI Uyumlu API: İstemcinizi üç satırda değiştirin

Önkoşullar: OpenAI SDK'yı Yükleyin

İstek göndermeden önce geliştirme ortamınızda tercih ettiğiniz dil için resmi OpenAI SDK'sının yüklü olduğundan emin olun. Bu, geliştiricilerin OpenAI uyumlu API ile etkileşime girmesinin standart yoludur ve tutarlı yazım ile hata işleme sağlar. Python için pip install openai kullanın. Node.js için npm install openai çalıştırın. Bu kütüphaneler altta yatan HTTP ayrıntılarını yönetir, böylece istemleri iletmek ve metin çıktıları almak üzerine odaklanabilirsiniz.

Temel URL'yi ve API Anahtarını Yapılandırın

Hizmetimizin temel avantajı, yalnızca iki yapılandırma değerini güncellemeniz gerektiğidir. İstemcinizi temel URL'mize yönlendirin: https://api.openaicompatibleapi.com/v1. Ardından kayıt sayfasında API anahtarınızı oluşturun; kredi kartı gerekmeden hemen gösterilir. İstemci başlatmasında base_url ve api_key değerlerini ayarlayın. Bu, mantığı yeniden yazmadan mevcut projeleriniz için doğrudan GPT API alternatifi olmamızı sağlar.

İlk İsteğinizi Gönderin

uncensored model kimliğini kullanarak standart bir sohbet tamamlama isteği gönderin. Bu model, yasal yetişkin kullanım için içerik reddi olmadan yanıt vermeye ayarlanmış açık ağırlıklı bir büyük dil modelidir. GPT, Claude veya başka bir satıcının modeli değildir. Basit bir metin istemiyle bağlantıyı hemen test edebilirsiniz. Yanıt, oluşturulan metni content alanında döndürür.

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Akış Yanıtlarını Etkinleştirin

Daha iyi kullanıcı deneyimi için, tokenlar oluşturulurken almak üzere akışı etkinleştirin. İsteğinizde stream=True ayarlayın. SDK, parçalar geldiğinde bunları verecektir, böylece kısmi sonuçları anında görüntüleyebilirsiniz. Bu, 100.000 tokena kadar uzun bağlam pencereleri için özellikle yararlıdır. Akış, standart OpenAI istemcileriyle aynı şekilde çalışır ve mevcut hata işleme mantığınızla uyumluluğu korur.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Araç Çağırma (Fonksiyon Çağırma) Kullanın

API'miz yapılandırılmış araç çağırma destekler. İşlevlerinizi tools parametresinde tanımlayın ve model yanıtta araç çağrıları döndürür. Ardından bu araçları çalıştırabilir ve sonuçları modelin daha fazla muhakeme yapması için modele gönderebilirsiniz. Bu özellik, standart araç çağırma formatını destekleyen herhangi bir OpenAI uyumlu istemci ile çalışır. Karmaşık bir LLM proxy'si yönetmeden ajanlar oluşturmak veya iş akışlarını otomatikleştirmek için idealdir.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mevcut Modelleri Kontrol Edin

Mevcut modelleri doğrulamak için GET /v1/models uç noktasını sorgulayın. uncensored modelinin listelendiğini göreceksiniz. Bu, API anahtarınızın ve temel URL'nizin doğru yapılandırıldığını doğrular. Bu uç noktayı kimlik doğrulama sorunlarını hata ayıklamak için de kullanabilirsiniz. Uç nokta bir liste döndürürse, geliştiriciler için ai api bağlantınız etkindir. Diğer hiçbir model sunulmaz, bu da yapılandırmayı basit tutar.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);