API compatible con OpenAI: Cambia tu cliente en tres líneas

Prerrequisitos: Instalar OpenAI SDK

Antes de realizar peticiones, asegúrate de que tu entorno de desarrollo tenga instalado el SDK oficial de OpenAI para tu lenguaje preferido. Esta es la forma estándar en que los desarrolladores interactúan con una api compatible con openai, asegurando tipado consistente y manejo de errores. Para Python, usa pip install openai. Para Node.js, ejecuta npm install openai. Estas bibliotecas manejan los detalles HTTP subyacentes, así que puedes centrarte en pasar prompts y recibir salidas de texto.

Configurar URL base y clave de API

La ventaja principal de nuestro servicio es que solo necesitas actualizar dos valores de configuración. Apunta tu cliente a nuestra URL base: https://api.openaicompatibleapi.com/v1. Luego, genera tu clave de API en la página de registro; se muestra inmediatamente después del registro sin necesidad de tarjeta de crédito. Establece base_url y api_key en la inicialización de tu cliente. Esto nos convierte en una alternativa directa de api gpt para tus proyectos existentes sin reescribir la lógica.

Realiza tu primera petición

Envía una petición estándar de finalización de chat usando el ID de modelo uncensored. Este modelo es un modelo de lenguaje grande de pesos abiertos ajustado para responder sin rechazos de contenido para uso adulto lícito. No es GPT, Claude ni ningún otro modelo de proveedor. Puedes probar la conectividad inmediatamente con un prompt de texto simple. La respuesta devolverá el texto generado en el campo content.

Copycurl https://api.openaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Habilitar respuestas en streaming

Para una mejor experiencia de usuario, habilita el streaming para recibir tokens a medida que se generan. Establece stream=True en tu petición. El SDK generará fragmentos a medida que lleguen, permitiéndote mostrar resultados parciales al instante. Esto es particularmente útil para ventanas de contexto largas de hasta 100.000 tokens. El streaming funciona idénticamente a los clientes estándar de OpenAI, manteniendo la compatibilidad con tu lógica existente de manejo de errores.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Usar llamadas a funciones (llamadas a funciones)

Nuestra API admite llamadas a funciones estructuradas. Define tus funciones en el parámetro tools, y el modelo devolverá llamadas a funciones en la respuesta. Luego puedes ejecutar esas herramientas y enviar los resultados de vuelta al modelo para un razonamiento adicional. Esta función funciona con cualquier cliente compatible con OpenAI que admita el formato estándar de llamadas a funciones. Es ideal para construir agentes o automatizar flujos de trabajo sin gestionar un proxy de llm complejo.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Verificar modelos disponibles

Consulta el endpoint GET /v1/models para verificar los modelos disponibles. Verás el modelo uncensored listado. Esto confirma que tu clave de API y URL base están configuradas correctamente. También puedes usar este endpoint para depurar problemas de autenticación. Si el endpoint devuelve una lista, tu conexión a la api de ia para desarrolladores está activa. No se ofrecen otros modelos, manteniendo la configuración simple.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);