Punct final compatibil cu OpenAI: Ghid de introducere

Precondiții: Python sau Node.js

Instalează oficial openai pachet pentru mediul tău de execuție înainte de a continua.

Utilizatorii Python au nevoie de versiunea 1.0.0 sau ulterioară. Dezvoltatorii Node necesită versiunea 4.0.0 sau mai nouă. Ambele versiuni suportă structura standard chat-completions.

Nu sunt necesare dependențe suplimentare. SDK-ul gestionează automat serializarea JSON și transportul HTTP.

Configurează base_url și cheia API

Indreptați clientul SDK către URL-ul nostru de bază și furnizează cheia generată.

Utilizare https://api.openaicompatibleendpoint.com/v1 ca URL-ul de bază. Setează cheia API la valoarea afișată în panoul tău de control.

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

Această configurație funcționează cu orice client compatibil cu SDK-ul OpenAI. Nu sunt necesare modificări de cod pentru restul logicii tale.

Trimite prima ta completare de chat

Fă o cerere POST către /v1/chat/completions cu mesajele de sistem și de utilizator.

ID-ul modelului este uncensored. Acest model răspunde fără a refuza subiecte adulte sau controversate legale.

• Fereastră de context: 100.000 de tokeni în total.
• Ieșire maximă: 16,000 de tokeni.

Trimiteți promptul și primiți ieșiri text imediat. Erorile și refuzurile sunt gratuite. Numai utilizarea reală a tokenilor se scade din creditul preplătit.

Activați streaming-ul și apelarea de funcții

Activați streaming-ul setând stream: true în parametrii solicitării.

Utilizarea tokenilor este inclusă în ultimul fragment al fluxului. Acest lucru îți permite să urmărești costurile în timp real.

Funcționarea prin apeluri de funcții este complet suportată. Utilizați tools parametru pentru a-ți defini schema. Modelul returnează apeluri de instrumente structurate pe care le poți executa în logica aplicației tale. Modul JSON este, de asemenea, disponibil prin response_format.

Gestionați erorile și limitele de tokeni

API returnează coduri standard de stare HTTP pentru probleme comune.

• 401: Cheie API nevalidă. Verificați-vă panoul de control.
• 402: Credit insuficient. Reîncarcă cu USDT sau USDC.
• 429: Limita de rată depășită. Ai voie la 300 de cereri pe minut.

Dacă depășiți limita de 16,000 de tokeni pentru răspuns, răspunsul va fi trunchiat. Fereastra de context include atât tokenii de prompt, cât și pe cei de completari.

Prețuri și limite

Plătește doar pentru ceea ce folosești. Tokenii de intrare costă $0.15 per 1M. Tokenii de ieșire costă $0.50 per 1M.

Creditul preplătit nu expiră niciodată. Rambursările nu sunt emise, dar dublele taxări sunt remediate prin Suport.

Reîncarcă doar cu criptomonede. Monedele acceptate sunt USDT (TRC20) și USDC (Base). Depozitul minim este de 20 $. Creditele bonus variază de la +5% la +15% în funcție de sumă.

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)