شروع سریع مدل Dolphin ai

نصب SDK مورد علاقه خود

ابتدا کتابخانه را برای زبان خود نصب کنید. این بسته سریال‌سازی و احراز هویت را به طور خودکار مدیریت می‌کند.

دستور را برای محیط خود اجرا کنید. وابستگی‌های ضروری را به پروژه شما اضافه می‌کند.

• پایتون: pip install openai
• Node.js: npm install openai

این SDKها از همان رابط‌هایی پشتیبانی می‌کنند که توسط ارائه‌دهندگان بزرگ استفاده می‌شود. شما انواع خطا و اشیاء پاسخ استاندارد را دریافت می‌کنید.

URL پایه و کلید را پیکربندی کنید

مشتری خود را به نقطه پایانی میزبانی‌شده ما هدایت کنید. URL پیش‌فرض را با آدرس پایه اختصاصی ما جایگزین کنید.

• URL پایه: https://api.dolphinaimodel.com/v1
• شناسه مدل: uncensored

کلید API خود را در متغیر محیطی OPENAI_API_KEY. SDK این مورد را به‌طور خودکار می‌خواند. احراز هویت از هدرهای توکن حامل استاندارد استفاده می‌کند. هدر خاصی مورد نیاز نیست.

این پیکربندی با هر کلاینت سازگار با OpenAI کار می‌کند. با استفاده مستقیم از رابط استاندارد، پیچیدگی پروکسی را دور می‌زنید.

اولین تکمیل

یک درخواست POST به /v1/chat/completionsمدل برای استفاده بزرگسالان قانونی آزادانه پاسخ می‌دهد. به‌طور پیش‌فرض موضوعات بحث‌برانگیز یا صریح را رد نمی‌کند.

پرامپت خود را در آرایه messages ارسال کنید. پاسخ شامل متن تولید شده در فیلد content است. می‌توانید دما و top_p را برای کنترل تنظیم کنید.

این اندپوینت، فقط تولید متن را مدیریت می‌کند. از embeddings یا تولید تصویر پشتیبانی نمی‌کند. درخواست‌های خود را برای بهترین نتایج ساده نگه دارید.

خطاها کدهای وضعیت HTTP استاندارد را برمی‌گردانند. برای جزئیات خطاها به بدنه پاسخ مراجعه کنید.

پاسخ‌های استریم

استریمینگ را با تنظیم stream: true. سرور قطعات را از طریق رویدادهای ارسالی سرور (SSE) ارسال می‌کند. هر قطعه شامل متن جزئی است.

هر قطعه را همان‌طور که دریافت می‌شود پردازش کنید. این کار تأخیر ادراک‌شده را برای پاسخ‌های طولانی کاهش می‌دهد. قطعه نهایی شامل آمار مصرف توکن است.

استریم با تمام پارامترها کار می‌کند. می‌توانید در میانه جریان اگر نیاز بود آن را متوقف کنید. اتصال پس از تکمیل به تمیزی بسته می‌شود.

از این گزینه برای برنامه‌های تعاملی استفاده کنید. این گزینه بازخورد فوری به کاربران ارائه می‌دهد و نیازی به انتظار برای تکمیل تولید نیست.

از ابزارها و حالت JSON استفاده کنید

تعاریف تابع را در درخواست تعریف کنید. مدل می‌تواند بر اساس پرامپت شما این توابع را فراخوانی کند. از tool_choice برای اجبار به رفتار خاص.

فعال‌سازی حالت JSON با response_format. خروجی دقیقاً به صورت یک شیء JSON قالب‌بندی شده است. این امر پردازش قابل اعتماد در کد شما را تضمین می‌کند.

ابزارها را با استریم برای کارهای پیچیده ترکیب کنید. می‌توانید چندین فراخوانی تابع را در یک نوبت مدیریت کنید. مدل دقیقاً از طرح شما پیروی می‌کند.

ابتدا با ابزارهای ساده تست کنید. ساختار خروجی را قبل از ادغام در سیستم‌های تولیدی بررسی کنید.

مدیریت محدودیت‌های توکن

پنجره زمینه ۱۰۰,۰۰۰ توکن به‌طور کلی است. این شامل هر دو توکن ورودی و خروجی است. متن‌های خود را به‌گونه‌ای برنامه‌ریزی کنید.

حداکثر خروجی در هر درخواست ۱۶,۰۰۰ توکن است. اگر تنظیم نکنید max_tokens, محدودیت به طور پیش‌فرض ۲,۰۴۸ است. این پارامتر را برای پاسخ‌های طولانی‌تر تنظیم کنید.

محدودیت نرخ ۳۰۰ درخواست در دقیقه است. می‌توانید ۸ درخواست همزمان به ازای هر کلید داشته باشید. تجاوز از این محدودیت‌ها کد وضعیت ۴۲۹ را برمی‌گرداند.

مصرف خود را از طریق هدرهای پاسخ مانیتور کنید. تعداد توکن‌ها در هر پاسخی گنجانده شده است. این به شما کمک می‌کند در محدودیت‌های اعتبار پیش‌پرداخت خود باقی بمانید.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)