OpenAI-संगत एंडपॉइंट त्वरित प्रारंभ गाइड

आवश्यकताएँ: Python या Node.js

आधिकारिक openai रनटाइम वातावरण के लिए पैकेज से पहले आगे बढ़ें।

Python उपयोगकर्ताओं को संस्करण 1.0.0 या उससे अधिक की आवश्यकता है। Node डेवलपर्स को संस्करण 4.0.0 या उससे अधिक की आवश्यकता है। दोनों संस्करण मानक chat-completions संरचना का समर्थन करते हैं।

कोई अतिरिक्त निर्भरताओं की आवश्यकता नहीं है। SDK स्वचालित रूप से JSON सीरियलाइज़ेशन और HTTP ट्रांसपोर्ट संभालता है।

base_url और API कुंजी कॉन्फ़िगर करें

अपने SDK क्लाइंट को हमारे बेस यूआरएल की ओर निर्देशित करें और अपनी जनरेट की गई कुंजी प्रदान करें।

उपयोग करें https://api.openaicompatibleendpoint.com/v1 बेस यूआरएल के रूप में। API कुंजी को अपने डैशबोर्ड पर दिखाए गए मान पर सेट करें।

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

यह कॉन्फ़िगरेशन किसी भी ओपनएआई-SDK संगत क्लाइंट के साथ काम करता है। आपकी लॉजिक के बाकी हिस्से में कोई कोड बदलाव की आवश्यकता नहीं है।

अपना पहला चैट कंप्लीशन

एक POST अनुरोध करें /v1/chat/completions अपने सिस्टम और उपयोगकर्ता संदेशों के साथ।

मॉडल ID है uncensored. यह मॉडल कानूनी वयस्क या विवादास्पद विषयों को अस्वीकार नहीं करता है।

• संदर्भ विंडो: 100,000 टोकन कुल.
• अधिकतम आउटपुट: 16,000 टोकन।

अपना प्रॉम्प्ट भेजें और तुरंत टेक्स्ट आउटपुट प्राप्त करें। त्रुटियाँ और अस्वीकृतियाँ मुफ्त हैं। केवल असली टोकन उपयोग आपके प्रीपेड क्रेडिट के खिलाफ गिना जाता है।

स्ट्रीमिंग और फंक्शन कॉलिंग सक्षम करें

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true अपने अनुरोध पैरामीटर में।

टोकन उपयोग स्ट्रीम के अंतिम चंक में शामिल है। इससे आपको रियल-टाइम में लागत ट्रैक करने की सुविधा मिलती है।

फंक्शन कॉलिंग पूरी तरह समर्थित है। उपयोग करें tools अपनी स्कीमा परिभाषित करने के लिए पैरामीटर। मॉडल संरचित टूल कॉल लौटाता है जिन्हें आप अपने ऐप लॉजिक में निष्पादित कर सकते हैं। JSON मोड भी response_format.

त्रुटियों और टोकन सीमाओं को हैंडल करें

API सामान्य समस्याओं के लिए मानक HTTP स्टेटस कोड लौटाता है।

• 401: अमान्य API कुंजी। अपने डैशबोर्ड की जांच करें।
• 402: अपर्याप्त क्रेडिट। USDT या USDC के साथ रिचार्ज करें।
• 429: रेट लिमिट पार हो गया। आपको प्रति मिनट 300 अनुरोध की अनुमति है।

यदि आप 16,000 टोकन आउटपुट सीमा से अधिक हो जाते हैं, तो प्रतिक्रिया ट्रंकेट हो जाएगी। संदर्भ विंडो में प्रॉम्प्ट और पूर्णता दोनों टोकन शामिल होते हैं।

मूल्य निर्धारण और सीमाएं

केवल वही भुगतान करें जिसका उपयोग आप करते हैं। इनपुट टोकन की लागत $0.15 प्रति 1M है। आउटपुट टोकन की लागत $0.50 प्रति 1M है।

प्रीपेड क्रेडिट कभी समाप्त नहीं होता है। रिफंड जारी नहीं किए जाते हैं, लेकिन डबल चार्ज सपोर्ट के माध्यम से ठीक किए जाते हैं।

केवल क्रिप्टो से टॉप अप करें। स्वीकार्य मुद्राएँ USDT (TRC20) और USDC (Base) हैं। न्यूनतम टॉप-अप $20 है। बोनस क्रेडिट राशि के आधार पर +5% से +15% के बीच होता है।

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)