Dolphin ai model API Quickstart

선호하는 SDK 설치

언어용 라이브러리를 설치하세요. 이 패키지는 직렬화 및 인증을 자동으로 처리합니다.

환경에 맞는 명령을 실행합니다. 프로젝트에 필요한 종속성을 추가합니다.

• Python: pip install openai
• Node.js: npm install openai npm install openai

이 SDK들은 주요 벤더들이 사용하는 것과 동일한 인터페이스를 지원합니다. 표준 오류 유형과 응답 개체를 얻습니다.

베이스 URL 및 키 구성

클라이언트를 저희 호스팅 엔드포인트로 연결하세요. 기본 URL을 저희 특정 베이스 주소로 교체하세요.

• Base URL: https://api.dolphinaimodel.com/v1
• 모델 ID: uncensored

환경 변수에 API 키를 설정하세요 OPENAI_API_KEY. SDK는 이를 자동으로 읽습니다. 인증은 표준 베어러 토큰 헤더를 사용합니다. 특수 헤더가 필요하지 않습니다.

이러한 구성은 모든 OpenAI 호환 클라이언트와 작동합니다. 표준 인터페이스를 직접 사용함으로써 프록시 복잡성을 피할 수 있습니다.

첫 번째 완성 보내기

/v1/chat/completions으로 POST 요청을 보내세요. /v1/chat/completions. 모델은 합법적인 성인 사용에 대해 자유롭게 답변합니다. 기본적으로 논쟁적이거나 노골적인 주제를 거부하지 않습니다.

messages 배열에 프롬프트를 전송하세요. 응답에는 content 필드에 생성된 텍스트가 포함됩니다. 제어력을 위해 temperature와 top_p를 조정할 수 있습니다.

이 엔드포인트는 텍스트 생성만 처리합니다. 임베딩 또는 이미지 생성은 지원되지 않습니다. 최상의 결과를 위해 요청을 단순하게 유지하세요.

에러는 표준 HTTP 상태 코드를 반환합니다. 실패에 대한 세부 정보는 응답 본문에서 확인하세요.

스트리밍 응답 처리

stream을 true로 설정하여 스트리밍 활성화 stream: true. 서버는 서버 전송 이벤트(SSE)를 통해 청크를 보냅니다. 각 청크에는 부분 텍스트가 포함됩니다.

도착하는 각 청크를 처리합니다. 이는 긴 응답에 대한 지각된 지연 시간을 줄입니다. 마지막 청크에는 토큰 사용량 통계가 포함됩니다.

스트리밍은 모든 매개변수와 함께 작동합니다. 필요한 경우 스트림 중간에 중단할 수 있습니다. 완료 후 연결이 깔끔하게 종료됩니다.

대화형 애플리케이션에 이 기능을 사용하세요. 전체 생성을 기다리지 않고 사용자에게 즉각적인 피드백을 제공합니다.

도구와 JSON 모드 사용

요청에 함수 정의를 정의하십시오. 모델은 프롬프트에 따라 이러한 함수를 호출할 수 있습니다. 사용하십시오 tool_choice 특정 동작을 강제합니다.

다음과 함께 JSON 모드 활성화 response_format. 출력은 JSON 객체로 엄격하게 포맷됩니다. 이를 통해 코드에서 신뢰할 수 있는 파싱이 보장됩니다.

복잡한 워크플로우를 위해 도구와 스트리밍을 결합하세요. 단일 턴에서 여러 함수 호출을 처리할 수 있습니다. 모델은 스키마를 정확하게 따릅니다.

먼저 간단한 도구로 테스트하세요. 프로덕션 시스템에 통합하기 전에 출력 구조를 확인하세요.

토큰 제한 관리

컨텍스트 윈도우는 총 100,000 토큰입니다. 여기에는 입력 및 출력 토큰이 모두 포함됩니다. 프롬프트를 적절히 계획하세요.

최대 출력은 요청당 16,000 토큰입니다. 설정하지 않을 경우 max_tokens, 제한은 기본값이 2,048입니다. 더 긴 응답을 위해 이 매개변수를 조정하세요.

속도 제한은 분당 300회입니다. 키당 8개의 동시 요청을 가질 수 있습니다. 이 제한을 초과하면 429 상태 코드가 반환됩니다.

응답 헤드를 통해 사용량을 모니터링하세요. 모든 응답에는 토큰 수가 포함됩니다. 이는 선불 크레딧 제한 내에 머무르는 데 도움이 됩니다.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)