OpenAI互換エンドポイントのクイックスタートガイド
既存のOpenAIクライアントコードをこの無制限エンドポイントに差し替えるだけで、コンテンツ拒否なしの生推論結果が得られます。
前提条件:PythonまたはNode.js
公式の openai 実行環境向けのパッケージを設定してから続行してください。
Python ユーザーはバージョン 1.0.0 以降が必要です。Node 開発者はバージョン 4.0.0 以降が必要です。両方のバージョンは標準的な chat-completions 構造をサポートしています。
追加の依存関係は不要です。SDKがJSONシリアライゼーションとHTTPトランスポートを自動的に処理します。
base_urlとAPIキーを設定
SDK クライアントを当社のベース URL に指向させ、生成されたキーを入力してください。
使用 https://api.openaicompatibleendpoint.com/v1 ベースURLとして設定し、APIキーをダッシュボードに表示されている値に設定します。
- Python:
base_url="https://api.openaicompatibleendpoint.com/v1" - Node:
baseURL: "https://api.openaicompatibleendpoint.com/v1"
この設定は、OpenAI SDK互換のクライアントであればすべて動作します。ロジックの他の部分に変更は必要ありません。
最初のチャット完了
次のURLにPOSTリクエストを送信する /v1/chat/completions システムメッセージとユーザーメッセージを使用します。
モデルIDは uncensored. このモデルは法的な大人向けや論争のあるトピックを拒否しない。
- コンテキストウィンドウ:合計100,000トークン。
- 最大出力:16,000トークン。
プロンプトを送信してすぐにテキスト出力を受け取ります。エラーと拒否は無料です。実際のトークン使用量のみがプリペイドクレジットから差し引かれます。
ストリーミングと関数呼び出しを有効にする
streamをtrueに設定してストリーミングを有効にする stream: true リクエストパラメータに指定します。
トークン使用量はストリームの最後のチャンクに含まれます。これにより、リアルタイムでコストを追跡できます。
関数呼び出しは完全にサポートされています。使用 tools スキーマを定義するパラメータ。モデルはアプリケーションロジックで実行できる構造化されたツール呼び出しを返します。JSONモードは response_format.
エラーとトークン制限を処理
APIは一般的な問題に対して標準的なHTTPステータスコードを返します。
- 401:無効なAPIキー。ダッシュボードを確認してください。
- 402:クレジットが不足しています。USDTまたはUSDCで追加してください。
- 429:レートリミット超過。1分あたり300リクエストが許可されています。
16,000トークンの出力制限を超えると、レスポンスは切り捨てられます。コンテキストウィンドウにはプロンプトトークンと補完トークンの両方が含まれます。
価格と制限
使用した分だけお支払いください。入力の1Mトークンあたり$0.15、出力の1Mトークンあたり$0.50。
プリペイドクレジットは期限切れになりません。返金は発行されませんが、二重請求はサポートを通じて修正されます。
暗号通貨のみでチャージ。受け付けられる通貨はUSDT (TRC20)とUSDC (Base)。最小チャージ額は20ドル。ボーナスクレジットは金額に応じて+5%から+15%の範囲で適用されます。
cURL
curl https://api.openaicompatibleendpoint.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return list of supported file formats"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);ストリーミング
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)よくある質問
これは公式のOpenAI APIですか?
いいえ。私たちは独立したプロバイダーであり、OpenAI互換のエンドポイントを提供しています。当社のモデルはGPT-4やその他のベンダーモデルではありません。独自のサーバーでホストされている別個の無制限LLMです。
コンテキストウィンドウのサイズはいくらですか?
プロンプトと補完を合わせたコンテキストウィンドウは100,000トークンです。リクエストごとに最大16,000トークンの出力をリクエストできます。
クレジットを追加するにはどうすればよいですか?
暗号通貨のみご利用ください。TRC20ネットワーク上のUSDTとBaseネットワーク上のUSDCを受け付けています。チャージ額は$20〜$500です。ボーナスクレジットはチャージ額に応じて自動的に付与されます。
APIキーをアンロック
サインアップしてキーをコピーし、ベースURLを更新するだけです。シンプルです。
試用キーを取得