Panduan Awal Model API Dolphin ai

Instal SDK pilihan Anda

Mulai dengan menginstal pustaka untuk bahasa Anda. Paket ini menangani serialisasi dan autentikasi secara otomatis.

Jalankan perintah untuk lingkungan Anda. Ini menambahkan dependensi yang diperlukan ke proyek Anda.

• Python: pip install openai
• Node.js: npm install openai

SDK ini mendukung antarmuka yang sama yang digunakan oleh penyedia utama. Anda mendapatkan tipe error dan objek respons standar.

Konfigurasi URL dasar dan kunci

Arahkan klien Anda ke endpoint yang dihosting kami. Ganti URL default dengan alamat dasar khusus kami.

• URL Dasar: https://api.dolphinaimodel.com/v1
• ID Model: uncensored

Atur kunci API Anda di variabel lingkungan OPENAI_API_KEY. SDK membaca ini secara otomatis. Autentikasi menggunakan header token bearer standar. Tidak ada header khusus yang diperlukan.

Konfigurasi ini berfungsi dengan klien yang kompatibel dengan OpenAI apa pun. Anda menghindari kerumitan proxy dengan menggunakan antarmuka standar secara langsung.

Kirim kelengkapan pertama Anda

Buat permintaan POST ke /v1/chat/completions. Model menjawab dengan bebas untuk penggunaan dewasa yang sah. Model tidak menolak topik kontroversial atau eksplisit secara default.

Kirimkan prompt Anda dalam array pesan. Respons berisi teks yang dihasilkan di bidang content. Anda dapat menyesuaikan suhu dan top_p untuk kontrol.

Endpoint ini hanya menangani generasi teks. Endpoint ini tidak mendukung embedding atau pembuatan gambar. Pertahankan permintaan Anda sederhana untuk hasil terbaik.

Kesalahan mengembalikan kode status HTTP standar. Periksa badan respons untuk detail kegagalan.

Tangani respons streaming

Aktifkan streaming dengan mengatur stream: true. Server mengirim bagian-bagian melalui Server-Sent Events (SSE). Setiap bagian berisi teks parsial.

Proses setiap potongan saat tiba. Ini mengurangi latensi yang dirasakan untuk respons panjang. Potongan terakhir mencakup statistik penggunaan token.

Streaming bekerja dengan semua parameter. Anda dapat menghentikan aliran di tengah jalan jika diperlukan. Koneksi ditutup dengan bersih setelah selesai.

Gunakan ini untuk aplikasi interaktif. Fitur ini memberikan umpan balik segera kepada pengguna tanpa menunggu generasi penuh.

Gunakan alat dan mode JSON

Tentukan definisi fungsi dalam permintaan. Model dapat memanggil fungsi-fungsi ini berdasarkan permintaan Anda. Gunakan tool_choice untuk memaksa perilaku tertentu.

Aktifkan mode JSON dengan response_format. Outputnya diformat secara ketat sebagai objek JSON. Ini memastikan pemarsingan yang andal dalam kode Anda.

Gabungkan alat dengan streaming untuk alur kerja kompleks. Anda dapat menangani beberapa panggilan fungsi dalam satu giliran. Model mengikuti skema Anda dengan tepat.

Uji dengan alat sederhana terlebih dahulu. Verifikasi struktur output sebelum mengintegrasikan ke dalam sistem produksi.

Kelola batas token

Jendela konteks adalah 100.000 token total. Ini mencakup token input dan output. Rencanakan prompt Anda dengan tepat.

Output maksimal adalah 16,000 token per permintaan. Jika Anda tidak mengatur max_tokens, batasnya secara default adalah 2.048. Sesuaikan parameter ini untuk respons yang lebih panjang.

Batas laju adalah 300 permintaan per menit. Anda dapat memiliki 8 permintaan simultan per kunci. Melebihi batas ini mengembalikan kode status 429.

Pantau penggunaan Anda melalui header respons. Jumlah token disertakan dalam setiap respons. Ini membantu Anda tetap berada dalam batas kredit pra-dibayar Anda.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)