OpenAI 호환 API: 세 줄로 클라이언트 전환

사전 준비: OpenAI SDK 설치

요청을 보내기 전에 선호하는 언어에 대한 공식 OpenAI SDK가 개발 환경에 설치되어 있는지 확인하세요. 이는 개발자가 OpenAI 호환 API와 상호 작용하는 표준 방식이며, 일관된 타입과 오류 처리를 보장합니다. Python의 경우 pip install openai를 사용하세요. Node.js의 경우 npm install openai을 실행하세요. 이러한 라이브러리는 하위 HTTP 세부 사항을 처리하므로 프롬프트 전달과 텍스트 출력 수신에 집중할 수 있습니다.

기본 URL 및 API 키 구성

서비스의 핵심 장점은 두 가지 구성 값만 업데이트하면 된다는 것입니다. 클라이언트를 다음 기본 URL로 지정하십시오: https://api.openaicompatibleapi.com/v1. 그런 다음 가입 페이지에서 API 키를 생성하십시오. 등록 직후에 표시되며 신용카드가 필요하지 않습니다. 클라이언트 초기화 시 base_url 및 api_key을 설정하십시오. 이는 기존 로직을 다시 작성하지 않고 기존 프로젝트에 대한 직접적인 GPT API 대체제가 됩니다.

첫 번째 요청 보내기

모델 ID uncensored를 사용하여 표준 채팅 완료 요청을 보내세요. 이 모델은 합법적인 성인 사용에 대한 콘텐츠 거부 없이 답변하도록 튜닝된 오픈 웨이트 대형 언어 모델입니다. GPT, Claude 또는 기타 벤더의 모델이 아닙니다. 간단한 텍스트 프롬프트로 즉시 연결성을 테스트할 수 있습니다. 응답은 content 필드에 생성된 텍스트를 반환합니다.

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

스트리밍 응답 활성화

더 나은 사용자 경험을 위해 스트리밍을 활성화하여 생성되는 토큰을 받으십시오. 요청에 stream=True을 설정하십시오. SDK는 도착하는 대로 청크를 제공하므로 부분 결과를 즉시 표시할 수 있습니다. 이는 최대 100,000 토큰의 긴 컨텍스트 창에 특히 유용합니다. 스트리밍은 표준 OpenAI 클라이언트와 동일하게 작동하여 기존 오류 처리 로직과의 호환성을 유지합니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

도구 호출(함수 호출) 사용

당사의 API는 구조화된 함수 호출을 지원합니다. tools 매개변수에 함수를 정의하면 모델이 응답에서 함수 호출을 반환합니다. 그런 다음 해당 함수를 실행하고 결과를 모델에 다시 보내 추가 추론을 수행할 수 있습니다. 이 기능은 표준 함수 호출 형식을 지원하는 모든 OpenAI 호환 클라이언트와 함께 작동합니다. 복잡한 LLM 프록시를 관리하지 않고 에이전트를 구축하거나 워크플로우를 자동화하는 데 이상적입니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

사용 가능한 모델 확인

사용 가능한 모델을 확인하려면 GET /v1/models 엔드포인트를 쿼리하세요. uncensored 모델이 나열됩니다. 이는 API 키와 베이스 URL이 올바르게 구성되었음을 확인합니다. 이 엔드포인트를 사용하여 인증 문제를 디버깅할 수도 있습니다. 엔드포인트가 목록을 반환하면 개발자를 위한 AI API에 대한 연결이 활성화된 것입니다. 다른 모델은 제공되지 않으므로 구성이 단순하게 유지됩니다.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);