Dolphin ai model คู่มือเริ่มต้นใช้งาน API

ติดตั้ง SDK ที่คุณต้องการ

เริ่มต้นด้วยการติดตั้งไลบรารีสำหรับภาษาของคุณ แพ็คเกจนี้จัดการการทำให้เป็นมาตรฐานและการตรวจสอบสิทธิ์โดยอัตโนมัติ

จำลองคำสั่งสำหรับสภาพแวดล้อมของคุณ มันเพิ่มดีเพนเดนซีที่จำเป็นให้กับโปรเจกต์ของคุณ

• Python: pip install openai
• Node.js: npm install openai

SDK เหล่านี้รองรับอินเทอร์เฟซเดียวกันกับผู้ให้บริการรายใหญ่ คุณจะได้รับประเภทข้อผิดพลาดและวัตถุการตอบสนองมาตรฐาน

กำหนดค่า URL พื้นฐานและคีย์

ชี้ไคลเอนต์ของคุณไปยัง endpoint ที่โฮสต์ของเรา เปลี่ยน URL เริ่มต้นด้วยที่อยู่ base เฉพาะของเรา

• Base URL: https://api.dolphinaimodel.com/v1
• ID โมเดล: uncensored

ตั้งค่าคีย์ API ของคุณในตัวแปรสภาพแวดล้อม OPENAI_API_KEY. SDK อ่านค่านี้โดยอัตโนมัติ การตรวจสอบสิทธิ์ใช้ส่วนหัว bearer token มาตรฐาน ไม่จำเป็นต้องใช้ส่วนหัวพิเศษ

การตั้งค่านี้ใช้งานได้กับไคลเอนต์ที่เข้ากันได้กับ OpenAI ทุกตัว คุณหลีกเลี่ยงความซับซ้อนของ proxy โดยใช้อินเทอร์เฟซมาตรฐานโดยตรง

ส่งการเติมข้อความครั้งแรกของคุณ

ทำการร้องขอ POST ไปยัง /v1/chat/completions. โมเดลตอบอย่างอิสระสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย มันไม่ปฏิเสธหัวข้อที่ถกเถียงได้หรือชัดเจนโดยค่าเริ่มต้น

ส่งพรอมต์ของคุณในอาร์เรย์ messages คำตอบประกอบด้วยข้อความที่สร้างในฟิลด์ content คุณสามารถปรับอุณหภูมิและ top_p เพื่อควบคุม

เอนด์พอยต์นี้จัดการการสร้างข้อความเท่านั้น ไม่รองรับการสร้าง embedding หรือรูปภาพ รักษาให้คำขอของคุณเรียบง่ายเพื่อให้ได้ผลลัพธ์ที่ดีที่สุด

ข้อผิดพลาดส่งรหัสสถานะ HTTP มาตรฐานกลับมา ตรวจสอบเนื้อหาการตอบกลับเพื่อรับรายละเอียดเกี่ยวกับความล้มเหลว

จัดการการตอบกลับแบบสตรีม

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true. เซิร์ฟเวอร์ส่งชิ้นส่วนข้อมูลผ่าน Server-Sent Events (SSE) แต่ละชิ้นส่วนประกอบด้วยข้อความบางส่วน

ประมวลผลแต่ละช่วงทันทีที่ได้รับ ซึ่งช่วยลดความล่าช้าที่รับรู้สำหรับการตอบกลับที่ยาวนาน ช่วงสุดท้ายรวมถึงสถิติการใช้โทเค็น

การสตรีมทำงานกับพารามิเตอร์ทั้งหมด คุณสามารถหยุดกลางทางได้หากจำเป็น การเชื่อมต่อจะปิดลงอย่างเรียบร้อยหลังจากเสร็จสิ้น

ใช้สิ่งนี้สำหรับแอปพลิเคชันแบบโต้ตอบ มันให้ข้อมูลป้อนกลับทันทีแก่ผู้ใช้โดยไม่ต้องรอการสร้างข้อมูลเต็มรูปแบบ

ใช้เครื่องมือและโหมด JSON

กำหนดคำจำกัดความฟังก์ชันในคำขอ โมเดลสามารถเรียกใช้ฟังก์ชันเหล่านี้ตาม prompt ของคุณ ใช้ tool_choice เพื่อบังคับพฤติกรรมเฉพาะ

เปิดใช้งานโหมด JSON พร้อม response_format. ผลลัพธ์จะถูกจัดรูปแบบเป็นวัตถุ JSON อย่างเคร่งครัด ซึ่งช่วยให้การแยกวิเคราะห์ข้อมูลในโค้ดของคุณมีความน่าเชื่อถือ

ผสานเครื่องมือกับการสตรีมสำหรับเวิร์กโฟลที่ซับซ้อน คุณสามารถจัดการการเรียกใช้ฟังก์ชันหลายรายการในรอบเดียว โมเดลปฏิบัติตามสคีมาของคุณอย่างแม่นยำ

ทดสอบด้วยเครื่องมือง่ายๆ ก่อน ตรวจสอบโครงสร้างผลลัพธ์ก่อนรวมเข้ากับระบบการผลิต

จัดการขีดจำกัด token

ขนาดหน้าต่างบริบทคือ 100,000 tokens โดยรวม สิ่งนี้รวมถึง token input และ output วางแผน prompt ของคุณให้เหมาะสม

จำนวนโทเค็นสูงสุดคือ 16,000 โทเค็นต่อคำขอ หากไม่ได้ตั้งค่า max_tokens, ค่าเริ่มต้นคือ 2,048 ปรับพารามิเตอร์นี้สำหรับ responses ที่ยาวขึ้น

อัตราจำกัดการเรียกใช้คือ 300 ครั้งต่อนาที คุณสามารถเรียกใช้พร้อมกันได้ 8 ครั้งต่อคีย์ หากเกินอัตราจำกัดเหล่านี้ จะได้รับรหัสสถานะ 429

ตรวจสอบการใช้งานของคุณผ่าน response headers จำนวน token จะรวมอยู่ในทุก response สิ่งนี้ช่วยให้คุณอยู่ภายในขอบเขตเครดิตที่เติมไว้ล่วงหน้า

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)