Dolphin ai modell API Gyors Kezdés

Telepítse a kívánt SDK-t

Kezdje a nyelvhez való könyvtár telepítésével. Ez a csomag automatikusan kezeli a szerializálást és a hitelesítést.

Futtasd a parancsot a környezetedhez. Ez hozzáadja a szükséges függőségeket a projektedhez.

• Python: pip install openai
• Node.js: npm install openai

Ezek az SDK-k ugyanazokat az interfészeket támogatják, amelyeket a nagy szolgáltatók használnak. Standard hibák és válaszobjektumokat kapsz.

Alap URL és kulcs konfigurálása

Irányítsd a kliensedet a hosztolt végpontunkra. Cseréld le az alapértelmezett URL-t a saját base címünkre.

• Base URL: https://api.dolphinaimodel.com/v1
• Modell ID: uncensored

Állítsd be az API-kulcsot a környezeti változóban OPENAI_API_KEY. Az SDK automatikusan beolvassa ezt. A hitelesítés szabványos bearer token fejléceket használ. Különleges fejlécekre nincs szükség.

Ez a beállítás működik bármely OpenAI-kompatibilis ügyfélprogrammal. Kerülheti a proxy bonyolultságát a szabványos felület közvetlen használatával.

Küldje el első kiegészítés

POST kérés készítése ide: /v1/chat/completions. A modell szabadon válaszol törvényes felnőtt tartalom esetén. Alapértelmezetten nem utasítja el a vitatott vagy explicit témákat.

Küldje el a promptját a messages tömbben. A válasz a generált szöveget tartalmazza a content mezőben. Beállíthatja a temperature és top_p paramétereket a vezérléshez.

Ez a végpont csak szöveggenerálást kezel. Nem támogat embeddéseket vagy képgenerálást. Tartsa egyszerűen a kéréseket a legjobb eredmények érdekében.

A hibák szabványos HTTP állapotkódokat adnak vissza. Ellenőrizd a választestet a hibák részleteiért.

Streamelő válaszok kezelése

Engedélyezze a streamelést úgy, hogy stream: true. A szerver darabokat küld Server-Sent Eventeken (SSE) keresztül. Minden darab részleges szöveget tartalmaz.

Feldolgozza minden darabot érkezésekor. Ez csökkenti a hosszú válaszok észlelt késleltetését. Az utolsó darab tokenfelhasználási statisztikákat tartalmaz.

A streamelés minden paraméterrel működik. Szükség esetén megszakíthatod a folyamatot. A kapcsolat tisztán lezáródik a befejezés után.

Használja ezt interaktív alkalmazásokhoz. Azonnali visszajelzést biztosít a felhasználóknak anélkül, hogy várnia kellene a teljes generálásra.

Használjon eszközöket és JSON módot

Definiálj függvénydefiníciókat a kérésben. A modell ezeket a függvényeket hívhatja a promptod alapján. Használd a tool_choice specifikus viselkedés kikényszerítéséhez.

JSON mód engedélyezése ezzel response_format. A kimenet szigorúan JSON objektum formátumban van formázva. Ez megbízható feldolgozást biztosít a kódodban.

Kombinálja az eszközöket a streameléssel komplex munkafolyamatokhoz. Kezelhet több függvényhívást egyetlen körben. A modell pontosan követi a sémáját.

Próbáld ki először az egyszerű eszközöket. Ellenőrizd a kimenet struktúráját a gyártási rendszerekbe való integrálás előtt.

Kezelje a tokenkorlátokat

A kontextusablak 100 000 token összesen. Ez magában foglalja a bemeneti és kimeneti tokeneket is. Tervezze meg a promptjait ennek megfelelően.

A maximális kimenet 16 000 token kérésenként. Ha nem állítja be max_tokens, a korlát alapértelmezett 2 048. Állítsa be ezt a paramétert hosszabb válaszokhoz.

A kérelemezési korlát percenként 300 kérelem. Kulcsonként 8 párhuzamos kérést indíthat. Ezeket a korlátokat túllépve 429-es státuskódot kap.

Az API válaszfejlézeiben nyomon követheted a felhasználást. Minden válasz tartalmazza a token számokat. Ez segít a előre fizetett kreditkorlátok betartásában.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)