Przewodnik szybkiego startu punktu końcowego kompatybilnego z OpenAI

Wymagania wstępne: Python lub Node.js

Zainstaluj oficjalny openai pakiet dla środowiska wykonawczego przed kontynuowaniem.

Użytkownicy Pythona potrzebują wersji 1.0.0 lub nowszej. Deweloperzy Node wymagają wersji 4.0.0 lub nowszej. Obie wersje obsługują standardową strukturę chat-completions.

Brak dodatkowych zależności jest wymaganych. SDK automatycznie obsługuje serializację JSON i transport HTTP.

Skonfiguruj base_url i klucz API

Wskaż klienta swojego SDK na nasz podstawowy adres URL i podaj swój wygenerowany klucz.

Użyj https://api.openaicompatibleendpoint.com/v1 jako adres URL bazowy. Ustaw klucz API na wartość pokazaną na Twoim panelu.

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

Ta konfiguracja działa z dowolnym klientem kompatybilnym z SDK OpenAI. Nie są potrzebne zmiany w reszcie Twojej logiki.

Wyślij swoje pierwsze uzupełnienie czatu

Wykonaj żądanie POST do /v1/chat/completions z Twoimi wiadomościami systemowymi i użytkownika.

ID modelu to uncensored. Ten model odpowiada bez odrzucenia prawnej treści dla dorosłych lub kontrowersyjnych tematów.

• Okno kontekstowe: 100 000 tokenów łącznie.
• Maksymalna długość wyjściowa: 16 000 tokenów.

Wyślij swój prompt i otrzymaj natychmiastowe wyjście tekstowe. Błędy i odmowy są darmowe. Tylko rzeczywiste zużycie tokenów obciąża Twój kredyt z góry.

Włącz strumieniowanie i wywoływanie funkcji

Włącz strumieniowanie, ustawiając stream: true w parametrach żądania.

Użycie tokenów jest uwzględnione w ostatnim kawałku strumienia. Pozwala to na śledzenie kosztów w czasie rzeczywistym.

Wywoływanie funkcji jest w pełni obsługiwane. Użyj tools parametr definiujący Twój schemat. Model zwraca strukturalne wywołania narzędzi, które możesz zrealizować w logice swojej aplikacji. Tryb JSON jest również dostępny poprzez response_format.

Obsłuż błędy i limity tokenów

API zwraca standardowe kody statusu HTTP dla powszechnych problemów.

• 401: Nieprawidłowy klucz API. Sprawdź swój panel.
• 402: Niewystarczający kredyt. Doładuj za pomocą USDT lub USDC.
• 429: Przekroczono limit szybkości. Masz do dyspozycji 300 żądań na minutę.

Jeśli przekroczysz limit 16,000 tokenów dla odpowiedzi, odpowiedź zostanie ucięta. Okno kontekstu obejmuje zarówno tokeny promptu, jak i uzupełnienia.

Cena i limity

Płać tylko za to, czego używasz. Tokeny wejściowe kosztują $0.15 za 1M. Tokeny wyjściowe kosztują $0.50 za 1M.

Prepaidny kredyt nie wygasa. Zwrotów nie wystawiamy, ale potrójne naliczenia są korygowane przez Wsparcie.

Doładuj tylko kryptowalutą. Akceptowane waluty to USDT (TRC20) i USDC (Base). Minimalne doładowanie to $20. Zakres kredytów bonusowych wynosi od +5% do +15% w zależności od kwoty.

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)