Průvodce rychlým startem koncového bodu kompatibilního s OpenAI

Požadavky: Python nebo Node.js

Nainstalujte oficiální openai balíček pro vaše běhové prostředí před pokračováním.

Uživatelé Pythonu potřebují verzi 1.0.0 nebo novější. Vývojáři Node potřebují verzi 4.0.0 nebo novější. Obě verze podporují standardní strukturu chat-completions.

Žádné další závislosti nejsou vyžadovány. SDK automaticky řeší serializaci JSON a síťový přenos.

Nastavte base_url a API klíč

Nasměrujte klienta svého SDK na naši základní URL a zadejte svůj vygenerovaný klíč.

Použít https://api.openaicompatibleendpoint.com/v1 jako základní URL. Nastavte API klíč na hodnotu zobrazenou na vašem dashboardu.

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

Tato konfigurace funguje s jakýmkoli klientem kompatibilním se SDK OpenAI. Pro zbytek vaší logiky nejsou nutné žádné změny kódu.

Odeslat své první dokončení chatu

Provést POST požadavek na /v1/chat/completions vašimi systémovými a uživatelskými zprávami.

ID modelu je uncensored. Tento model odpovídá bez odmítnutí zákonného obsahu pro dospělé nebo kontroverzních témat.

• Kontextové okno: celkem 100 000 tokenů.
• Maximální výstup: 16 000 tokenů.

Pošlete svůj podnět a okamžitě získejte textový výstup. Chyby a odmítnutí jsou zdarma. Pouze skutečné využití tokenů se započítává do vašeho předplaceného kreditu.

Povolte streamování a volání funkcí

Povolte streamování nastavením stream: true v parametrech požadavku.

Spotřeba tokenů je zahrnuta v posledním bloku streamu. To vám umožňuje sledovat náklady v reálném čase.

Volání funkcí je plně podporováno. Použijte tools parametr pro definování vašeho schématu. Model vrací strukturované volání nástrojů, které můžete vykonat v logice vaší aplikace. Režim JSON je také k dispozici přes response_format.

Zvládněte chyby a limity tokenů

API vrací standardní HTTP stavové kódy pro běžné problémy.

• 401: Neplatný API klíč. Zkontrolujte svůj ovládací panel.
• 402: Nedostatek kreditu. Dobijte pomocí USDT nebo USDC.
• 429: Překročen limit rychlosti. Máte povoleno 300 požadavků za minutu.

Pokud překročíte limit výstupu 16 000 tokenů, bude odpověď zkrácena. Kontextové okno zahrnuje jak tokeny promptu, tak tokeny dokončení.

Ceny a limity

Platíte pouze za to, co skutečně využijete. Vstupní tokeny stojí $0.15 za 1M. Výstupní tokeny stojí $0.50 za 1M.

Předplacený kredit nevyprší. Refundace nejsou vydávány, ale dvojnásobná účtování se opravují prostřednictvím Podpory.

Doplňte pouze kryptem. Přijatelné měny jsou USDT (TRC20) a USDC (Base). Minimální vklad je 20 USD. Bonusový kredit se pohybuje od +5 % do +15 % v závislosti na částce.

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)