API Kompatibel OpenAI: Alihkan klien Anda dalam tiga baris

Prasyarat: Instal OpenAI SDK

Sebelum membuat permintaan, pastikan lingkungan pengembangan Anda memiliki OpenAI SDK resmi yang terinstal untuk bahasa pilihan Anda. Ini adalah cara standar pengembang berinteraksi dengan api openai compatible, memastikan Anda mendapatkan pengetikan dan penanganan kesalahan yang konsisten. Untuk Python, gunakan pip install openai. Untuk Node.js, jalankan npm install openai. Perpustakaan ini menangani detail HTTP di bawahnya, sehingga Anda dapat fokus pada pengiriman prompt dan menerima output teks.

Konfigurasikan URL Dasar dan Kunci API

Keuntungan utama layanan kami adalah Anda hanya perlu memperbarui dua nilai konfigurasi. Arahkan klien Anda ke URL dasar kami: https://api.openaicompatibleapi.com/v1. Kemudian, buat kunci API Anda di halaman pendaftaran; kunci ini ditampilkan segera setelah pendaftaran tanpa memerlukan kartu kredit. Tetapkan base_url dan api_key dalam inisialisasi klien Anda. Ini menjadikan kami alternatif api gpt langsung untuk proyek Anda yang ada tanpa menulis ulang logika.

Buat Permintaan Pertama Anda

Kirimkan permintaan penyelesaian chat standar menggunakan ID model uncensored. Model ini adalah model bahasa besar bobot terbuka yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan GPT, Claude, atau model vendor lain. Anda dapat menguji konektivitas segera dengan prompt teks sederhana. Respons akan mengembalikan teks yang dihasilkan di bidang content.

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Aktifkan Respons Streaming

Untuk pengalaman pengguna yang lebih baik, aktifkan streaming untuk menerima token saat token tersebut dihasilkan. Tetapkan stream=True dalam permintaan Anda. SDK akan menghasilkan potongan saat potongan tersebut tiba, memungkinkan Anda menampilkan hasil parsial secara instan. Ini sangat berguna untuk jendela konteks panjang hingga 100.000 token. Streaming bekerja secara identik dengan klien OpenAI standar, mempertahankan kompatibilitas dengan logika penanganan kesalahan Anda yang ada.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gunakan Pemanggilan Alat (Pemanggilan Fungsi)

API kami mendukung pemanggilan alat terstruktur. Definisikan fungsi Anda dalam parameter tools, dan model akan mengembalikan panggilan alat dalam respons. Anda kemudian dapat menjalankan alat tersebut dan mengirimkan hasilnya kembali ke model untuk penalaran lebih lanjut. Fitur ini bekerja dengan klien openai compatible apa pun yang mendukung format pemanggilan alat standar. Ini ideal untuk membangun agen atau mengotomatisasi alur kerja tanpa mengelola proxy llm yang kompleks.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Periksa Model yang Tersedia

Kueri endpoint GET /v1/models untuk memverifikasi model yang tersedia. Anda akan melihat model uncensored tercantum. Ini mengonfirmasi kunci API dan URL dasar Anda dikonfigurasi dengan benar. Anda juga dapat menggunakan endpoint ini untuk mendebug masalah autentikasi. Jika endpoint mengembalikan daftar, koneksi Anda ke api ai untuk pengembang aktif. Tidak ada model lain yang ditawarkan, menjaga konfigurasi tetap sederhana.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);