Panduan Permulaan Model Dolphin ai

Pasang SDK pilihan anda

Mula dengan memasang perpustakaan untuk bahasa anda. Pakej ini mengendalikan pensuisan dan pengesahan secara automatik.

Jalankan arahan untuk persekitaran anda. Ia menambah kebergantungan yang diperlukan kepada projek anda.

• Python: pip install openai
• Node.js: npm install openai

SDK ini menyokong antara muka yang sama yang digunakan oleh penyedia utama. Anda mendapat jenis ralat dan objek respons piawai.

Konfigurkan URL asas dan kunci

Arahkan klien anda ke titik akhir yang dihoskan kami. Gantikan URL lalai dengan alamat asas khusus kami.

• URL Asas: https://api.dolphinaimodel.com/v1
• ID Model: uncensored

Tetapkan kunci API anda dalam pembolehubah persekitaran OPENAI_API_KEY. SDK membaca ini secara automatik. Pengesahan menggunakan kepala token pembawa piawai. Tiada kepala khas diperlukan.

Konfigurasi ini berfungsi dengan mana-mana klien serasi OpenAI. Anda mengelakkan kerumitan proxy dengan menggunakan antara muka piawai secara langsung.

Hantar penyelesaian pertama anda

Buat permintaan POST ke /v1/chat/completions. Model ini menjawab dengan bebas untuk penggunaan dewasa yang sah. Ia tidak menolak topik kontroversi atau eksplisit secara lalai.

Hantar arahan anda dalam array mesej. Respons mengandungi teks yang dijana dalam medan kandungan. Anda boleh menyesuaikan suhu dan top_p untuk kawalan.

Endpoint ini mengendalikan penjanaan teks sahaja. Ia tidak menyokong pengekodan semula (embeddings) atau penjanaan imej. Kekalkan permintaan anda untuk hasil terbaik.

Kesalahan memulangkan kod status HTTP piawai. Semak badan respons untuk butiran kegagalan.

Tangani respon aliran

Aktifkan aliran dengan menetapkan stream: true. Pelayan menghantar keping melalui Acara Dihantar Pelayan (SSE). Setiap keping mengandungi teks separa.

Proses setiap potongan sebagaimana ia tiba. Ini mengurangkan latensi yang dirasakan untuk respons panjang. Potongan akhir termasuk statistik penggunaan token.

Penstriman berfungsi dengan semua parameter. Anda boleh menghentikan aliran di tengah jalan jika diperlukan. Sambungan ditutup dengan kemas selepas penyelesaian.

Gunakan ini untuk aplikasi interaktif. Ia memberikan maklum balas segera kepada pengguna tanpa menunggu penjanaan penuh.

Gunakan alat dan mod JSON

Takrifkan definisi fungsi dalam permintaan. Model boleh memanggil fungsi ini berdasarkan permintaan anda. Gunakan tool_choice untuk memaksa tingkah laku khusus.

Aktifkan mod JSON dengan response_format. Output diformatkan secara ketat sebagai objek JSON. Ini memastikan penguraian yang boleh dipercayai dalam kod anda.

Gabungkan alat dengan aliran untuk aliran kerja kompleks. Anda boleh mengendalikan beberapa panggilan fungsi dalam satu giliran. Model mengikuti skema anda dengan tepat.

Uji dengan alat mudah dahulu. Sahkan struktur output sebelum diintegrasikan ke dalam sistem pengeluaran.

Urus had token

Jendela konteks ialah 100,000 token secara keseluruhan. Ini termasuk kedua-dua token input dan output. Rancang prompt anda dengan sewajarnya.

Output maksimum ialah 16,000 token setiap permintaan. Jika anda tidak menetapkan max_tokens, had ini lalai kepada 2,048. Laraskan parameter ini untuk respons yang lebih panjang.

Had kadar ialah 300 permintaan setiap minit. Anda boleh mempunyai 8 permintaan serentak setiap kunci. Melangkaui had ini akan memulangkan kod status 429.

Pantau penggunaan anda melalui header respons. Kiraan token disertakan dalam setiap respons. Ini membantu anda kekal dalam had kredit pra-dibayar anda.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)