התחלה מהירה למודל של Dolphin ai

התקן את ה-SDK המועדף עליך

התחל על ידי התקנת הספריה לשפה שלך. חבילה זו מטפלת בשרשור ואימות אוטומטית.

הפעל את הפקודה לסביבה שלך. היא מוסיפה את התלויות הנדרשות לפרויקט שלך.

• Python: pip install openai
• Node.js: npm install openai

SDKs אלו תומכים באותם ממשקים המשמשים ספקים גדולים. אתה מקבל סוגי שגיאות סטנדרטיים ואובייקטי תגובה.

הגדר את כתובת הבסיס והמפתח

כוון את הלקוח שלך לנקודת הקצה המאוחסנת שלנו. החלף את כתובת ה-URL המוגדרת כברירת מחדל בכתובת הבסיס הספציפית שלנו.

• כתובת בסיס: https://api.dolphinaimodel.com/v1
• מזהה מודל: uncensored

הגדר את מפתח ה-API שלך במשתנה הסביבה OPENAI_API_KEY. ה-SDK קורא את זה באופן אוטומטי. האימות משתמש בכותרות bearer token סטנדרטיות. אין צורך בכותרות מיוחדות.

התצורה הזו עובדת עם כל לקוח התואם ל-OpenAI. אתה נמנע ממורכבות Proxy על ידי שימוש בממשק הסטנדרטי ישירות.

שלח את ההשלמה הראשונה שלך

בצעו בקשת POST ל- /v1/chat/completions. המודל עונה בחופשיות לשימוש מבוגר חוקי. הוא לא מסרב לנושאים שנויים במחלוקת או מפורשים כברירת מחדל.

שלחו את הפרומפט שלכם במערך ה-messages. התשובה מכילה את הטקסט שנוצר בשדה content. אתם יכולים להתאים את הטמפרטורה ואת top_p לשליטה.

נקודת הקצה הזו מטפלת רק ביצירת טקסט. היא לא תומכת ב-embeddings או יצירת תמונות. שמרו על הבקשות שלכם פשוטות לתוצאות הטובות ביותר.

שגיאות מחזירות קודי סטטוס HTTP סטנדרטיים. בדוק את גוף התגובה לפרטים על כשלים.

טפול בתגובות סטרימינג

אפשרו זרימה על ידי הגדרת stream: true. השרת שולף חלקים דרך אירועים מוכוונים שרת (SSE). כל חלק מכיל טקסט חלקי.

עבדו כל חלק כפי שהוא מגיע. זה מפחית את תחוית העיכוב לתגובות ארוכות. החלק האחרון כולל סטטיסטיקות שימוש בטוקנים.

הזרם עובד עם כל הפרמטרים. ניתן לעצור את הזרם באמצע אם צריך. החיבור נסגר בצורה נקייה לאחר ההשלמה.

השתמשו בזה עבור אפליקציות אינטראקטיביות. הוא מספק משוב מיידי למשתמשים בלי לחכות להשלמת היצירה.

השתמש בכלים ובמצב JSON

הגדר הגדרות פונקציה בבקשה. המודל יכול לקרוא לפונקציות אלו בהתאם לפלט שלך. השתמש ב tool_choice כדי לכפות התנהגות ספציפית.

אפשרו מצב JSON עם response_format. הפלט מעוצב בקפידה כאובייקט JSON. זה מבטיח פיענוח אמין בקוד שלך.

שלבו כלים עם סטרימינג לזרימות עבודה מורכבות. ניתן לטפל במספר קריאות לפונקציות בסבב אחד. המודל עוקב אחר הסכמה שלכם במדויק.

בדקו עם כלים פשוטים תחילה. אמתו את מבנה הפלט לפני שמשלבים במערכות ייצור.

ניהול מגבלות טוקנים

חלון ההקשר הוא 100,000 טוקנים בסך הכל. זה כולל טוקני קלט ופלט. תכנן את הפרומפטים שלך בהתאם.

פלט מקסימלי הוא 16,000 טוקנים לכל בקשה. אם לא מגדירים max_tokens, ברירת המחדל למגבלה היא 2,048. התאימו פרמטר זה לתשובות ארוכות יותר.

מגבלות הקצב הן 300 בקשות לדקה. ניתן לבצע 8 בקשות מקבילות לכל מפתח. חריגה ממגבלות אלו מחזירה קוד סטטוס 429.

עקבו אחר השימוש שלכם דרך כותרות התגובה. ספירות טוקנים כלולות בכל תגובה. זה עוזר לכם להישאר בתוך מגבלות האשראי ששולמו מראש.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)