Rychlý start pro model Dolphin ai

Nainstalujte preferované SDK

Začněte instalací knihovny pro váš jazyk. Tento balíček automaticky řeší serializaci a autentizaci.

Spusťte příkaz pro vaše prostředí. Přidá potřebné závislosti do vašeho projektu.

• Python: pip install openai
• Node.js: npm install openai

Tyto SDK podporují stejná rozhraní, která používají hlavní poskytovatelé. Získáte standardní typy chyb a odpovědní objekty.

Nastavte základní URL a klíč

Nasměrujte klienta na naši hostovanou koncovou adresu. Nahraďte výchozí URL naší konkrétní základní adresou.

• Základní URL: https://api.dolphinaimodel.com/v1
• ID modelu: uncensored

Nastavte svůj klíč API v proměnné prostředí OPENAI_API_KEY. SDK toto čte automaticky. Ověřování používá standardní hlavičky bearer token. Není potřeba žádné speciální hlavičky.

Toto nastavení funguje s jakýmkoli klientem kompatibilním s OpenAI. Vyhněte se složitosti proxy přímým použitím standardního rozhraní.

Odeslat své první dokončení

Provést POST požadavek na /v1/chat/completions. Model odpovídá volně pro legální použití pro dospělé. Ve výchozím nastavení neodmítá kontroverzní nebo explicitní témata.

Pošlete svůj podnět do pole messages. Odpověď obsahuje vygenerovaný text v poli content. Můžete upravit teplotu a top_p pro kontrolu.

Tento endpoint zpracovává pouze generování textu. Nepodporuje vektory ani generování obrázků. Pro nejlepší výsledky udržujte své požadavky jednoduché.

Chyby vracejí standardní HTTP status kódy. Podrobnosti o selháních naleznete v těle odpovědi.

Zvládněte streamované odpovědi

Povolte streamování nastavením stream: true. Server odesílá chunky prostřednictvím Server-Sent Events (SSE). Každý chunk obsahuje částečný text.

Zpracovávejte každou částu, jak přichází. To snižuje vnímanou latenci u dlouhých odpovědí. Poslední částka obsahuje statistiky využití tokenů.

Streamování funguje se všemi parametry. Můžete přerušit streamování, pokud je to potřeba. Připojení se po dokončení čistě uzavře.

Použijte toto pro interaktivní aplikace. Poskytuje uživatelům okamžitou zpětnou vazbu bez čekání na dokončení generování.

Použijte nástroje a režim JSON

Definujte definice funkcí v požadavku. Model může tyto funkce volat na základě vašeho podnětu. Použijte tool_choice abyste vynutili konkrétní chování.

Povolit režim JSON s response_format. Výstup je striktně formátován jako objekt JSON. To zajišťuje spolehlivé parsování ve vašem kódu.

Kombinujte nástroje se streamováním pro složité pracovní postupy. Můžete zpracovat více volání funkcí v jednom tahu. Model přesně dodržuje vaši schému.

Otestujte nejdříve jednoduché nástroje. Ověřte strukturu výstupu před integrací do produkčních systémů.

Správa limitů tokenů

Okno kontextu má celkem 100 000 tokenů. To zahrnuje jak vstupní, tak výstupní tokeny. Plánujte své prompty odpovídajícím způsobem.

Maximální výstup je 16 000 tokenů na požadavek. Pokud nezadáte max_tokens, limit se výchozím způsobem rovná 2 048. Upravte tento parametr pro delší odpovědi.

Limity rychlosti jsou 300 požadavků za minutu. Můžete mít 8 současných požadavků na klíč. Překročení těchto limitů vrátí stavový kód 429.

Sledujte své využití prostřednictvím hlaviček odpovědi. Počty tokenů jsou zahrnuty v každé odpovědi. To vám pomáhá zůstat v mezích limitů předplaceného kreditu.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)