API compatível com OpenAI: altere seu cliente em três linhas

Pré-requisitos: Instale o SDK OpenAI

Antes de fazer requisições, certifique-se de que seu ambiente de desenvolvimento tenha o OpenAI SDK oficial instalado para sua linguagem preferida. Esta é a maneira padrão como os desenvolvedores interagem com uma api compatível com openai, garantindo tipagem consistente e tratamento de erros. Para Python, use pip install openai. Para Node.js, execute npm install openai. Essas bibliotecas lidam com os detalhes HTTP subjacentes, então você pode focar em passar prompts e receber saídas de texto.

Configure URL Base e Chave de API

A principal vantagem do nosso serviço é que você só precisa atualizar dois valores de configuração. Aponte seu cliente para nossa URL base: https://api.openaicompatibleapi.com/v1. Em seguida, gere sua chave de API na página de cadastro; ela é exibida imediatamente após o registro, sem necessidade de cartão de crédito. Defina o base_url e o api_key na inicialização do seu cliente. Isso nos torna uma alternativa direta à api gpt para seus projetos existentes sem reescrever a lógica.

Faça sua primeira requisição

Envie uma solicitação padrão de conclusão de chat usando o ID do modelo uncensored. Este modelo é um grande modelo de linguagem de pesos abertos ajustado para responder sem recusas de conteúdo para uso adulto lícito. Não é GPT, Claude ou qualquer outro modelo de fornecedor. Você pode testar a conectividade imediatamente com um prompt de texto simples. A resposta retornará o texto gerado no campo content.

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Ative respostas em streaming

Para uma melhor experiência do usuário, ative o streaming para receber tokens conforme são gerados. Defina stream=True na sua requisição. O SDK entregará os blocos conforme chegam, permitindo que você exiba resultados parciais instantaneamente. Isso é particularmente útil para janelas de contexto longas de até 100.000 tokens. O streaming funciona de forma idêntica aos clientes padrão da OpenAI, mantendo a compatibilidade com sua lógica de tratamento de erros existente.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Use chamada de funções (Function Calling)

Nossa API suporta chamada estruturada de ferramentas. Defina suas funções no parâmetro tools, e o modelo retornará chamadas de ferramentas na resposta. Você pode então executar essas ferramentas e enviar os resultados de volta ao modelo para raciocínio adicional. Este recurso funciona com qualquer cliente compatível com OpenAI que suporte o formato padrão de chamada de ferramentas. É ideal para construir agentes ou automatizar fluxos de trabalho sem gerenciar um proxy llm complexo.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Verifique os modelos disponíveis

Consulte o endpoint GET /v1/models para verificar os modelos disponíveis. Você verá o modelo uncensored listado. Isso confirma que sua chave de API e URL base estão configuradas corretamente. Você também pode usar este endpoint para depurar problemas de autenticação. Se o endpoint retornar uma lista, sua conexão com a api de ia para desenvolvedores está ativa. Nenhum outro modelo é oferecido, mantendo a configuração simples.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);