คู่มือเริ่มต้นใช้งานเอนด์พอยต์ที่เข้ากันได้กับ OpenAI

ข้อกำหนดเบื้องต้น: Python หรือ Node.js

ติดตั้งทางการ openai แพ็กเกจสำหรับสภาพแวดล้อมรันไทม์ของคุณก่อนดำเนินการต่อ

ผู้ใช้ Python ต้องการเวอร์ชัน 1.0.0 ขึ้นไป นักพัฒนา Node ต้องการเวอร์ชัน 4.0.0 ขึ้นไป ทั้งสองเวอร์ชันรองรับโครงสร้าง chat-completions มาตรฐาน

ไม่ต้องพึ่งพาไลบรารีอื่น SDK จัดการการ serialize JSON และการส่ง HTTP ให้โดยอัตโนมัติ

กำหนดค่า base_url และคีย์ API

ชี้ SDK client ของคุณไปที่ base URL ของเราและระบุคีย์ที่สร้างของคุณ

ใช้ https://api.openaicompatibleendpoint.com/v1 as base URL ตั้งค่า API key เป็นค่าที่แสดงบน dashboard ของคุณ

• Python: base_url="https://api.openaicompatibleendpoint.com/v1"
• Node: baseURL: "https://api.openaicompatibleendpoint.com/v1"

การกำหนดค่านี้ใช้งานได้กับไคลเอนต์ที่เข้ากันได้กับ SDK ของ OpenAI ทุกประเภท ไม่ต้องแก้ไขโค้ดในส่วนอื่นของตรรกะของคุณ

ส่งการเติมข้อความแชทครั้งแรกของคุณ

ทำการร้องขอ POST ไปยัง /v1/chat/completions พร้อมข้อความระบบและข้อความผู้ใช้ของคุณ

รหัสโมเดลคือ uncensored. โมเดลนี้ตอบกลับโดยไม่ปฏิเสธเนื้อหาผู้ใหญ่หรือหัวข้อที่ถกเถียงที่ถูกต้องกฎหมาย

• context window: 100,000 tokens รวม
• จำนวนโทเค็นสูงสุด: 16,000 โทเค็น

ส่งพรอมต์ของคุณและรับเอาต์พุตข้อความทันที ข้อผิดพลาดและการปฏิเสธไม่มีค่าใช้จ่าย มีเพียงการใช้โทเค็นจริงเท่านั้นที่หักจากเครดิตที่ชำระเงินล่วงหน้าของคุณ

เปิดใช้งานการสตรีมและการเรียกใช้ฟังก์ชัน

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true ในพารามิเตอร์ของคำขอของคุณ

การใช้โทเค็นรวมอยู่ในชิ้นสุดท้ายของสตรีม สิ่งนี้ช่วยให้คุณติดตามต้นทุนแบบเรียลไทม์

รองรับ Function Calling อย่างเต็มที่ ใช้ tools พารามิเตอร์เพื่อกำหนด schema ของคุณ โมเดลส่งกลับ tool calls ที่มีโครงสร้างที่คุณสามารถดำเนินการในตรรกะแอปพลิเคชันของคุณ โหมด JSON ก็พร้อมใช้งานผ่าน response_format.

จัดการข้อผิดพลาดและขีดจำกัด tokens

API ส่งรหัสสถานะ HTTP มาตรฐานสำหรับปัญหาทั่วไป

• 401: API key ไม่ถูกต้อง ตรวจสอบแดชบอร์ดของคุณ
• 402: เครดิตไม่เพียงพอ เติมด้วย USDT หรือ USDC
• 429: เกินอัตราจำกัด คุณได้รับอนุญาต 300 คำขอต่อนาที

หากคุณเกินขีดจำกัดเอาต์พุต 16,000 โทเค็น การตอบกลับจะถูกตัดทอน หน้าต่างบริบทรวมถึงโทเค็นทั้งในส่วนของพรอมต์และการตอบกลับ

ราคาและขีดจำกัด

จ่ายเฉพาะสิ่งที่ใช้จริง โทเค็นอินพุตมีราคา $0.15 ต่อ 1M โทเค็น โทเค็นเอาต์พุตมีราคา $0.50 ต่อ 1M โทเค็น

เครดิตแบบเติมเงินไม่มีวันหมดอายุ ไม่มีการออกเครดิตคืน แต่การชาร์จซ้ำจะแก้ไขผ่าน Support

เติมเงินด้วยคริปโตเท่านั้น สกุลเงินที่ยอมรับคือ USDT (TRC20) และ USDC (Base) การเติมเงินขั้นต่ำคือ $20 เครดิตโบนัสอยู่ในช่วง +5% ถึง +15% ขึ้นอยู่กับจำนวน

cURL

Copycurl https://api.openaicompatibleendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return list of supported file formats"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)