Быстрый старт для модели Dolphin ai

Установите предпочитаемый SDK

Начните с установки библиотеки для вашего языка. Этот пакет автоматически обрабатывает сериализацию и аутентификацию.

Выполните команду для вашей среды. Она добавит необходимые зависимости в ваш проект.

• Python: pip install openai
• Node.js: npm install openai

Эти SDK поддерживают те же интерфейсы, что и у крупных провайдеров. Вы получаете стандартные типы ошибок и объекты ответов.

Настройте базовый URL и ключ

Направьте клиента на наш размещенный конечный пункт. Замените стандартный URL на наш конкретный базовый адрес.

• Базовый URL: https://api.dolphinaimodel.com/v1
• Идентификатор модели: uncensored

Установите API-ключ в переменной окружения OPENAI_API_KEY. SDK автоматически считывает это. Аутентификация использует стандартные заголовки с токеном Bearer. Дополнительные заголовки не требуются.

Эта конфигурация работает с любым клиентом, совместимым с OpenAI. Вы избегаете сложности прокси, используя стандартный интерфейс напрямую.

Отправьте свое первое завершение

Выполнить POST-запрос к /v1/chat/completions. Модель отвечает свободно для законного использования взрослыми. Она по умолчанию не отказывает в спорных или откровенных темах.

Передайте свой промпт в массив messages. Ответ содержит сгенерированный текст в поле content. Вы можете настроить temperature и top_p для управления.

Этот эндпоинт предназначен только для генерации текста. Он не поддерживает эмбеддинги или генерацию изображений. Для наилучших результатов держите запросы простыми.

Ошибки возвращают стандартные коды состояния HTTP. Проверьте тело ответа для получения подробностей о сбоях.

Обработка потоковых ответов

Включите потоковую передачу, установив stream: true. Сервер отправляет чанки через события Server-Sent Events (SSE). Каждый чанк содержит частичный текст.

Обрабатывайте каждый фрагмент по мере поступления. Это снижает воспринимаемую задержку для длинных ответов. Последний фрагмент содержит статистику использования токенов.

Стриминг работает со всеми параметрами. Вы можете прервать стриминг в любой момент. Соединение корректно закрывается после завершения.

Используйте это для интерактивных приложений. Оно предоставляет пользователям немедленную обратную связь без ожидания полной генерации.

Используйте инструменты и режим JSON

Определите определения функций в запросе. Модель может вызывать эти функции на основе вашего запроса. Используйте tool_choice чтобы принудительно задать конкретное поведение.

Включите режим JSON с response_format. Вывод строго форматируется как объект JSON. Это обеспечивает надёжный парсинг в вашем коде.

Сочетайте инструменты с потоковой передачей для сложных рабочих процессов. Вы можете обрабатывать несколько вызовов функций за один ход. Модель точно следует вашей схеме.

Протестируйте сначала с простыми инструментами. Проверьте структуру вывода перед интеграцией в производственные системы.

Управление лимитами токенов

Окно контекста составляет 100 000 токенов в общей сложности. Это включает токены ввода и вывода. Планируйте свои промпты соответственно.

Максимальный объем вывода составляет 16 000 токенов на запрос. Если не установить max_tokens, лимит по умолчанию составляет 2 048. Настройте этот параметр для более длинных ответов.

Лимиты составляют 300 запросов в минуту. Вы можете выполнять 8 одновременных запросов на ключ. Превышение этих лимитов возвращает код статуса 429.

Отслеживайте использование через заголовки ответа. Количество токенов включено в каждый ответ. Это помогает оставаться в пределах лимита предоплаченного кредита.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)