Швидкий старт API моделі Dolphin ai

Встановіть ваш бажаний SDK

Почніть із встановлення бібліотеки для вашої мови. Цей пакет автоматично обробляє серіалізацію та автентифікацію.

Запустіть команду для вашого середовища. Вона додає необхідні залежності до вашого проекту.

• Python: pip install openai
• Node.js: npm install openai

Ці SDK підтримують ті ж інтерфейси, що й провідні постачальники. Ви отримуєте стандартні типи помилок та об'єкти відповідей.

Налаштуйте базовий URL та ключ

Направте клієнта на наш розміщений кінцевий пункт. Замініть стандартний URL на нашу специфічну базову адресу.

• Базовий URL: https://api.dolphinaimodel.com/v1
• Ідентифікатор моделі: uncensored

Встановіть свій API-ключ у змінній середовища OPENAI_API_KEY. SDK автоматично зчитує це. Автентифікація використовує стандартні заголовки bearer token. Спеціальні заголовки не потрібні.

Ця конфігурація працює з будь-яким клієнтом, сумісним з OpenAI. Ви уникаєте складності проксі, використовуючи стандартний інтерфейс напряму.

Надішліть своє перше завершення

Зробіть POST-запит до /v1/chat/completions. Модель відповідає вільно для законного дорослого використання. Вона не відхиляє суперечливі або відкриті теми за замовчуванням.

Надішліть свій промпт у масиві messages. Відповідь містить згенерований текст у полі content. Ви можете регулювати temperature та top_p для контролю.

Цей ендпоінт обробляє лише генерацію тексту. Він не підтримує вбудовування або генерацію зображень. Зберігайте запити простими для найкращих результатів.

Помилки повертають стандартні коди стану HTTP. Перевірте тіло відповіді для отримання деталей про невдачі.

Обробка потокових відповідей

Увімкніть потокову передачу, встановивши stream: true. Сервер надсилає фрагменти через події, надіслані сервером (SSE). Кожен фрагмент містить частковий текст.

Обробляйте кожен фрагмент по мірі надходження. Це зменшує сприйняту затримку для довгих відповідей. Останній фрагмент містить статистику використання токенів.

Потокова передача працює з усіма параметрами. Ви можете зупинити процес посеред потоку, якщо потрібно. З'єднання коректно закривається після завершення.

Використовуйте це для інтерактивних додатків. Воно надає миттєвий зворотний зв'язок користувачам без очікування повної генерації.

Використовуйте інструменти та режим JSON

Визначте визначення функцій у запиті. Модель може викликати ці функції на основі вашого промпту. Використовуйте tool_choice щоб примусово забезпечити конкретну поведінку.

Увімкнути режим JSON з response_format. Вивід строго форматований як об'єкт JSON. Це забезпечує надійний парсинг у вашому коді.

Поєднайте інструменти з потоковою передачею для складних робочих процесів. Ви можете обробляти кілька викликів функцій за один хід. Модель точно дотримується вашої схеми.

Протестуйте спочатку з простими інструментами. Перевірте структуру вихідних даних перед інтеграцією в продукційні системи.

Керування лімітами токенів

Розмір контекстного вікна становить 100 000 токенів загалом. Це включає як вхідні, так і вихідні токени. Плануйте свої запити відповідно.

Максимальний вивід становить 16 000 токенів за запит. Якщо ви не встановили max_tokens, ліміт за замовчуванням становить 2048. Відрегулюйте цей параметр для довших відповідей.

Ліміти швидкості становлять 300 запитів на хвилину. Ви можете мати 8 одночасних запитів на ключ. Перевищення цих лімітів повертає код стану 429.

Відстежуйте своє використання через заголовки відповіді. Кількість токенів включається в кожну відповідь. Це допомагає залишатися в межах лімітів передоплаченого кредиту.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)