Quickstart model Dolphin ai

Instalează SDK-ul tău preferat

Începeți prin a instala biblioteca pentru limbajul dvs. Acest pachet gestionează automat serializarea și autentificarea.

Execută comanda pentru mediul tău. Aceasta adaugă dependențele necesare proiectului tău.

• Python: pip install openai
• Node.js: npm install openai

Aceste SDK-uri suportă aceleași interfețe utilizate de principalii furnizori. Obțineți tipuri standard de erori și obiecte de răspuns.

Configurează URL-ul de bază și cheia

Indreptați clientul către punctul nostru de endpoint găzduit. Înlocuiți URL-ul implicit cu adresa noastră specifică de bază.

• URL de bază: https://api.dolphinaimodel.com/v1
• ID Model: uncensored

Configurați cheia API în variabila de mediu OPENAI_API_KEY. SDK-ul citește acest lucru automat. Autentificarea folosește anteturi standard de tip bearer token. Nu sunt necesare anteturi speciale.

Această configurare funcționează cu orice client compatibil cu OpenAI. Eviti complexitatea proxy-urilor utilizând interfața standard direct.

Trimite prima ta completare

Fă o cerere POST către /v1/chat/completions. Modelul răspunde liber pentru utilizarea adultă legală. Nu refuză subiectele controversate sau explicite în mod implicit.

Trimiteți promptul în array-ul messages. Răspunsul conține textul generat în câmpul content. Puteți ajusta temperatura și top_p pentru control.

Acest endpoint gestionează doar generarea de text. Nu suportă embedding-uri sau generare de imagini. Mențineți solicitările simple pentru cele mai bune rezultate.

Erorile returnează coduri de stare HTTP standard. Verifică corpul răspunsului pentru detalii despre eșecuri.

Gestionează răspunsurile de streaming

Activați streaming-ul setând stream: true. Serverul trimite fragmente prin Server-Sent Events (SSE). Fiecare fragment conține text parțial.

Procesează fiecare fragment pe măsură ce sosesc. Acest lucru reduce latența percepută pentru răspunsuri lungi. Fragmentul final include statistici de utilizare a tokenilor.

Streaming-ul funcționează cu toți parametrii. Poți opri fluxul în mijloc dacă este necesar. Conexiunea se închide curat după finalizare.

Folosește acest lucru pentru aplicații interactive. Oferă feedback imediat utilizatorilor fără a aștepta generarea completă.

Folosește instrumente și modul JSON

Definiți definiții de funcții în cerere. Modelul poate apela aceste funcții în funcție de promptul dvs. Utilizați tool_choice pentru a forța un comportament specific.

Activează modul JSON cu response_format. Ieșirea este formatată strict ca un obiect JSON. Acest lucru asigură o analiză fiabilă în codul tău.

Combină instrumentele cu streaming pentru fluxuri de lucru complexe. Poți gestiona mai multe apeluri de funcții într-un singur rând. Modelul urmează schema ta cu precizie.

Testați mai întâi cu instrumente simple. Verificați structura de output înainte de a integra în sistemele de producție.

Gestionează limitele de tokeni

Fereastra de context este de 100.000 de tokeni în total. Acesta include atât tokenii de intrare, cât și pe cei de ieșire. Planificați-vă prompturile în consecință.

Ieșirea maximă este de 16,000 de tokeni per solicitare. Dacă nu setezi max_tokens, limita implică 2.048. Ajustează acest parametru pentru răspunsuri mai lungi.

Limitările de rată sunt de 300 de cereri pe minut. Puteți avea 8 cereri concurente per cheie. Depășirea acestor limite returnează un cod de stare 429.

Monitorizați-vă utilizarea prin intermediul antetelor de răspuns. Numărul de tokeni este inclus în fiecare răspuns. Acest lucru vă ajută să rămâneți în limitele creditului preplătit.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)