Посібник зі швидкого старту для точки доступу, сумісної з OpenAI

Передумови: Python або Node.js

Встановіть офіційний openai пакет для вашого середовища виконання перед продовженням.

Користувачам Python потрібна версія 1.0.0 або новіша. Розробникам Node потрібна версія 4.0.0 або новіша. Обидві версії підтримують стандартну структуру chat-completions.

Не потрібні додаткові залежності. SDK автоматично обробляє серіалізацію JSON та HTTP-транспорт.

Налаштуйте base_url та API-ключ

Направте клієнт вашого SDK на нашу базову URL-адресу і вкажіть згенерований ключ.

Використовувати https://api.openaicompatibleendpoint.com/v1 як базовий URL. Встановіть API ключ на значення, показане на вашій панелі керування.

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

Ця конфігурація працює з будь-яким клієнтом, сумісним з SDK OpenAI. Для решти вашої логіки не потрібно змінювати код.

Надішліть своє перше завершення чату

Зробіть POST-запит до /v1/chat/completions з вашими системними та користувацькими повідомленнями.

Ідентифікатор моделі uncensored. Ця модель відповідає без відмов для законного дорослого або суперечливого контенту.

• Контекстне вікно: 100,000 токенів загалом.
• Максимальний вивід: 16 000 токенів.

Надішліть свій промпт і миттєво отримайте текстовий вивід. Помилки та відмови безкоштовні. Тільки реальне використання токенів зараховується проти вашого попередньо оплаченого кредиту.

Увімкніть потокову передачу та виклик функцій

Увімкніть потокову передачу, встановивши stream: true у параметрах запиту.

Використання токенів включено в останній чанк потоку. Це дозволяє відстежувати витрати в реальному часі.

Виклик функцій повністю підтримується. Використовуйте tools параметр для визначення вашої схеми. Модель повертає структуровані виклики інструментів, які ви можете виконати в логіці вашої програми. Режим JSON також доступний через response_format.

Обробляйте помилки та ліміти токенів

API повертає стандартні коди стану HTTP для поширених проблем.

• 401: Недійсний API-ключ. Перевірте свою панель керування.
• 402: Недостатньо коштів. Поповніть через USDT або USDC.
• 429: Перевищено ліміт швидкості. Вам дозволено 300 запитів на хвилину.

Якщо ви перевищите ліміт виведення в 16,000 токенів, відповідь буде обрізано. Контекстне вікно включає як токени промпта, так і токени завершення.

Ціна та ліміти

Платіть лише за те, що використовуєте. Вхідні токени коштують $0.15 за 1M. Вихідні токени коштують $0.50 за 1M.

Попередньо оплачений кредит не має терміну дії. Повернення коштів не здійснюється, але подвійні списання виправляються через Підтримку.

Поповнюйте рахунок лише криптою. Прийнятні валюти: USDT (TRC20) та USDC (Base). Мінімальне поповнення — $20. Бонусний кредит варіюється від +5% до +15% залежно від суми.

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)