OpenAI-संगत API: तीन पंक्तियों में अपना क्लाइंट बदलें

पूर्वशर्त: OpenAI SDK इंस्टॉल करें

अनुरोध करने से पहले, सुनिश्चित करें कि आपके विकास वातावरण में आपकी पसंदीदा भाषा के लिए आधिकारिक OpenAI SDK स्थापित है। यह डेवलपर्स के लिए एक openai compatible api के साथ इंटरैक्ट करने का मानक तरीका है, जो आपको स्थिर टाइपिंग और त्रुटि हैंडलिंग सुनिश्चित करता है। Python के लिए, pip install openai का उपयोग करें। Node.js के लिए, npm install openai चलाएं। ये लाइब्रेरी अंतर्निहित HTTP विवरण हैंडल करती हैं, इसलिए आप प्रॉम्प्ट भेजने और टेक्स्ट आउटपुट प्राप्त करने पर ध्यान केंद्रित कर सकते हैं।

बेस URL और API कुंजी कॉन्फ़िगर करें

हमारे सेवा का मुख्य लाभ यह है कि आपको केवल दो कॉन्फ़िगरेशन मान अपडेट करने की आवश्यकता है। अपने क्लाइंट को हमारे बेस URL की ओर इशारा करें: https://api.openaicompatibleapi.com/v1। फिर, साइनअप पेज पर अपनी API कुंजी जनरेट करें; यह पंजीकरण के तुरंत बाद दिखाई देता है, बिना किसी क्रेडिट कार्ड की आवश्यकता के। अपने क्लाइंट इनिशियलाइजेशन में base_url और api_key सेट करें। यह आपके मौजूदा प्रोजेक्ट्स के लिए बिना लॉजिक लिखे एक सीधा GPT API विकल्प बनाता है।

अपना पहला अनुरोध भेजें

मॉडल ID uncensored का उपयोग करके एक मानक चैट कंप्लीशन अनुरोध भेजें। यह मॉडल एक ओपन-वेट लार्ज लैंगुएज मॉडल है जिसे कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड किया गया है। यह GPT, क्लॉड या किसी अन्य विक्रेता का मॉडल नहीं है। आप एक सरल टेक्स्ट प्रॉम्प्ट के साथ तुरंत कनेक्टिविटी का परीक्षण कर सकते हैं। प्रतिक्रिया content फ़ील्ड में जनरेटेड टेक्स्ट लौटाएगी।

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

स्ट्रीमिंग प्रतिक्रियाएँ सक्षम करें

बेहतर उपयोगकर्ता अनुभव के लिए, स्ट्रीमिंग सक्षम करें ताकि टोकन जनरेट होने पर प्राप्त हों। अपने अनुरोध में stream=True सेट करें। SDK चंक को आने पर देगा, जिससे आप आंशिक परिणाम तुरंत प्रदर्शित कर सकते हैं। यह 100,000 टोकन तक लंबे कॉन्टेक्स्ट विंडो के लिए विशेष रूप से उपयोगी है। स्ट्रीमिंग मानक OpenAI क्लाइंट्स की तरह ही काम करती है, आपके मौजूदा त्रुटि हैंडलिंग लॉजिक के साथ संगतता बनाए रखती है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

टूल कॉलिंग (फ़ंक्शन कॉलिंग) का उपयोग करें

हमारी API संरचित टूल कॉलिंग का समर्थन करती है। अपने tools पैरामीटर में फ़ंक्शन परिभाषित करें, और मॉडल प्रतिक्रिया में टूल कॉल लौटाएगा। आप फिर उन टूल्स को निष्पादित कर सकते हैं और आगे के तर्क के लिए परिणाम मॉडल को भेज सकते हैं। यह सुविधा किसी भी OpenAI-संगत क्लाइंट के साथ काम करती है जो मानक टूल कॉलिंग फॉर्मेट का समर्थन करती है। यह एजेंट्स बनाने या जटिल llm प्रॉक्सी प्रबंधित किए बिना वर्कफ़्लो को स्वचालित करने के लिए आदर्श है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

उपलब्ध मॉडल जाँचें

उपलब्ध मॉडल की जाँच करने के लिए GET /v1/models एंडपॉइंट पर क्वेरी करें। आपको uncensored मॉडल सूचीबद्ध दिखाई देगा। इससे पुष्टि होती है कि आपकी API कुंजी और बेस URL सही से कॉन्फ़िगर हैं। आप इस एंडपॉइंट का उपयोग प्रमाणीकरण समस्याओं को डिबग करने के लिए भी कर सकते हैं। यदि एंडपॉइंट एक सूची लौटाता है, तो आपका डेवलपर्स के लिए AI API से कनेक्शन सक्रिय है। अन्य कोई मॉडल प्रदान नहीं किया जाता है, जिससे कॉन्फ़िगरेशन सरल रहता है।

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);