OpenAI-kompatibelt endepunkt hurtigstartsguide

Forudsætninger: Python eller Node.js

Installer den officielle openai pakke til dit runtime-miljø, før du fortsætter.

Python-brugere har brug for version 1.0.0 eller nyere. Node-udviklere kræver version 4.0.0 eller nyere. Begge versioner understøtter den standard chat-completions-struktur.

Ingen ekstra afhængigheder er påkrævet. SDK'et håndterer JSON-serialisering og HTTP-transport automatisk.

Konfigurér base_url og API-nøgle

Peg din SDK-klient til vores base URL, og angiv din genererede nøgle.

Brug https://api.openaicompatibleendpoint.com/v1 som base URL. Indstil API-nøglen til den værdi, der vises på dit dashboard.

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

Denne konfiguration fungerer med ethvert OpenAI SDK-kompatibelt klient. Der er ingen kodeændringer nødvendige for resten af din logik.

Send din første chat-completion

Lav en POST-anmodning til /v1/chat/completions med dine system- og brugerbeskeder.

Model-ID'et er uncensored. Denne model svarer uden at afvise lovligt voksen- eller kontroversielt indhold.

• Kontekstvinduet: 100.000 tokens i alt.
• Maks. output: 16.000 tokens.

Send din prompt og modtag tekstoutput med det samme. Fejl og afvisninger er gratis. Kun reel tokenforbrug tæller mod din forudbetalte kredit.

Aktivér streaming og function calling

Aktivér streaming ved at indstille stream: true i dine request-parametre.

Tokenforbrug er inkluderet i den sidste chunk af streamet. Dette giver dig mulighed for at spore omkostninger i realtid.

Function calling understøttes fuldt ud. Brug tools parameter til at definere dit schema. Modellen returnerer strukturerede tool-kald, som du kan eksekvere i din applikationslogik. JSON-tilstand er også tilgængelig via response_format.

Håndter fejl og tokengrænser

API'en returnerer standard HTTP-statuskoder til almindelige problemer.

• 401: Ugyldig API-nøgle. Tjek dit dashboard.
• 402: Utilstrækkelig kredit. Genoplad med USDT eller USDC.
• 429: Hastighedsbegrænsning overskredet. Du må sende 300 anmodninger i minuttet.

Hvis du overskrider output-grænsen på 16.000 tokens, vil svaret blive afkortet. Kontekstvinduet omfatter både prompt- og completion-tokens.

Pris og grænser

Betaling kun for det, du bruger. Input-tokens koster $0.15 per 1M. Output-tokens koster $0.50 per 1M.

Forudbet kredit udløber aldrig. Refunderinger udstedes ikke, men dobbeltopkrævninger rettes via Support.

Top op med krypto kun. Acceptable valutaer er USDT (TRC20) og USDC (Base). Minimumsindbetaling er $20. Bonuskredit varierer fra +5% til +15% afhængigt af beløb.

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)