Dolphin ai model API Quickstart

Asenna haluamasi SDK

Aloita kielen kirjaston asennus. Tämä paketti käsittelee serialisoinnin ja todentamisen automaattisesti.

Suorita komentoa ympäristöösi varten. Se lisää tarvittavat riippuvuudet projektiisi.

• Python: pip install openai
• Node.js: npm install openai

Nämä SDK:t tukevat samoja käyttöliittymiä, joita käyttävät suuret toimittajat. Saat standardit virhetilanteet ja vastauksen objektit.

Määritä base URL ja avain

Ohjaa asiakasohjelmistosi isännöityyn päätepisteeseemme. Korvaa oletus-URL-osoite omalla base URL -osoitteellasi.

• Base URL: https://api.dolphinaimodel.com/v1
• Mallin tunnus: uncensored

Aseta API-avaimesi ympäristömuuttujaan OPENAI_API_KEY. SDK lukee tämän automaattisesti. Autentikointi käyttää standardia bearer-token-otsikkoa. Erityisiä otsikoita ei tarvita.

Tämä konfigiraatio toimii minkä tahansa OpenAI-yhteensopivan asiakkaan kanssa. Vältät proxy-monimutkaisuuden käyttämällä standardiliittymää suoraan.

Lähetä ensimmäinen täydennys

Tee POST-pyyntö osoitteeseen /v1/chat/completions. Malli vastaa vapaasti lailliseen aikuisikäiseen käyttöön. Se ei kiistä kiistanalaisia tai eksplisiittisiä aiheita oletusarvoisesti.

Lähetä promptisi messages-taulukkoon. Vastaus sisältää luodun tekstin content-kentässä. Voit säätää temperature- ja top_p-arvoja hallitaksesi tulosta.

Tämä päätepiste tuottaa vain tekstiä. Se ei tue upotuksia tai kuvien tuottamista. Pidä pyyntösi yksinkertaisiksi parhaiden tulosten saamiseksi.

Virheet palauttavat standardit HTTP-tilakoodit. Tarkista vastauskehikko lisätietoja virheistä.

Käsittele streamausvastaukset

Ota streamaus käyttöön asettamalla stream: true. Palvelin lähettää lohkoja Server-Sent Events -tapahtumien (SSE) kautta. Jokainen lohko sisältää osittaista tekstiä.

Käsittele jokainen osa saapuessaan. Tämä vähentää havaittua viivettä pitkissä vastauksissa. Viimeinen osa sisältää token-käyttötilastot.

Streamaus toimii kaikkien parametrien kanssa. Voit keskeyttää streamauksen tarvittaessa. Yhteys sulkeutuu siististi valmistumisen jälkeen.

Käytä tätä interaktiivisiin sovelluksiin. Se tarjoaa välittömän palautteen käyttäjille odottamatta koko generointia.

Käytä työkaluja ja JSON-tilaa

Määritä funktiomäärittelyt pyynnössä. Malli voi kutsua näitä funktioita pyyntösi perusteella. Käytä tool_choice pakottaa tiettyä käyttäytymistä.

Ota käyttöön JSON-tila yhdellä response_format. Tuloste on tiukasti muotoiltu JSON-objektina. Tämä varmistaa luotettavan jäsentämisen koodissasi.

Yhdistä työkalut streamaukseen monimutkaisia työvuoroja varten. Voit käsitellä useita funktiokutsuja yhdessä vuorossa. Malli noudattaa skeemaasi tarkasti.

Testaa yksinkertaisilla työkaluilla ensin. Varmista tuoterakenne ennen integrointia tuotantojärjestelmiin.

Hallitse tunnistorajoja

Kontekstiikkoni on yhteensä 100 000 tokenia. Tämä sisältää sekä syötteet että tulokset. Suunnittele syötteet sen mukaisesti.

Maksimiteho on 16 000 tokenia pyyntöä kohden. Jos et aseta max_tokens, raja oletusarvo on 2 048. Säätä tätä parametria pidempiä vastauksia varten.

Pyyntörajoitukset ovat 300 pyyntöä minuutissa. Voit tehdä 8 samanaikaista pyyntöä avainta kohti. Näiden rajojen ylitys palauttaa virhekoodin 429.

Seuraa käyttöäsi vastausotsikoiden kautta. Token-laskurit sisällytetään jokaiseen vastaukseen. Tämä auttaa pysymään esimaksukrediittirajojesi sisällä.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)