Hướng dẫn bắt đầu nhanh mô hình Dolphin ai

Cài đặt SDK ưa thích của bạn

Bắt đầu bằng cách cài đặt thư viện cho ngôn ngữ của bạn. Gói này xử lý tuần tự hóa và xác thực tự động.

Chạy lệnh cho môi trường của bạn. Nó thêm các phụ thuộc cần thiết vào dự án của bạn.

• Python: pip install openai
• Node.js: npm install openai

Các SDK này hỗ trợ cùng các giao diện được sử dụng bởi các nhà cung cấp lớn. Bạn nhận được các loại lỗi và đối tượng phản hồi tiêu chuẩn.

Cấu hình URL cơ sở và khóa

Điểm client của bạn đến điểm cuối được lưu trữ của chúng tôi. Thay thế URL mặc định bằng địa chỉ cơ sở cụ thể của chúng tôi.

• Base URL: https://api.dolphinaimodel.com/v1
• ID Mô hình: uncensored

Thiết lập khóa API của bạn trong biến môi trường OPENAI_API_KEY. SDK tự động đọc điều này. Xác thực sử dụng tiêu đề token bearer tiêu chuẩn. Không cần tiêu đề đặc biệt.

Cấu hình này hoạt động với bất kỳ client tương thích OpenAI nào. Bạn tránh sự phức tạp của proxy bằng cách sử dụng giao diện tiêu chuẩn trực tiếp.

Gửi lần hoàn tất đầu tiên của bạn

Thực hiện yêu cầu POST đến /v1/chat/completions. Mô hình trả lời tự do cho mục đích người lớn hợp pháp. Nó không từ chối các chủ đề gây tranh cãi hoặc rõ ràng theo mặc định.

Gửi lời nhắc của bạn trong mảng messages. Phản hồi chứa văn bản đã tạo trong trường content. Bạn có thể điều chỉnh nhiệt độ và top_p để kiểm soát.

Điểm cuối này chỉ xử lý tạo văn bản. Nó không hỗ trợ embedding hoặc tạo hình ảnh. Hãy giữ các yêu cầu của bạn đơn giản để có kết quả tốt nhất.

Lỗi trả về các mã trạng thái HTTP tiêu chuẩn. Kiểm tra thân phản hồi để biết chi tiết về các lỗi.

Xử lý các phản hồi streaming

Bật phát trực tiếp bằng cách đặt stream: true. Máy chủ gửi các phần thông qua Các sự kiện được gửi bởi máy chủ (SSE). Mỗi phần chứa văn bản một phần.

Xử lý từng đoạn khi chúng đến. Điều này làm giảm độ trễ cảm nhận đối với các phản hồi dài. Đoạn cuối cùng bao gồm thống kê sử dụng token.

Streaming hoạt động với tất cả các tham số. Bạn có thể dừng giữa chừng nếu cần. Kết nối đóng sạch sẽ sau khi hoàn tất.

Sử dụng điều này cho các ứng dụng tương tác. Nó cung cấp phản hồi ngay lập tức cho người dùng mà không cần chờ đợi quá trình tạo đầy đủ.

Sử dụng công cụ và chế độ JSON

Xác định các định nghĩa hàm trong yêu cầu. Mô hình có thể gọi các hàm này dựa trên lời nhắc của bạn. Sử dụng tool_choice để bắt buộc hành vi cụ thể.

Bật chế độ JSON với response_format. Đầu ra được định dạng nghiêm ngặt dưới dạng một đối tượng JSON. Điều này đảm bảo việc phân tích đáng tin cậy trong mã của bạn.

Kết hợp công cụ với streaming cho các quy trình làm việc phức tạp. Bạn có thể xử lý nhiều lệnh gọi hàm trong một lượt. Mô hình tuân theo lược đồ của bạn một cách chính xác.

Thử nghiệm với các công cụ đơn giản trước. Xác minh cấu trúc đầu ra trước khi tích hợp vào các hệ thống sản xuất.

Quản lý giới hạn token

Kích thước cửa sổ ngữ cảnh là 100.000 token tổng cộng. Điều này bao gồm cả token đầu vào và đầu ra. Hãy lên kế hoạch cho các prompt của bạn phù hợp.

Đầu ra tối đa là 16.000 token mỗi yêu cầu. Nếu bạn không đặt max_tokens, giới hạn mặc định là 2.048. Điều chỉnh tham số này cho các phản hồi dài hơn.

Giới hạn tốc độ là 300 yêu cầu mỗi phút. Bạn có thể có 8 yêu cầu đồng thời mỗi khóa. Vượt quá giới hạn này sẽ trả về mã trạng thái 429.

Theo dõi mức sử dụng qua các tiêu đề phản hồi. Số lượng token được bao gồm trong mọi phản hồi. Điều này giúp bạn duy trì mức sử dụng trong giới hạn tín dụng trả trước.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)