Szybki start modelu Dolphin ai

Zainstaluj preferowany SDK

Zacznij od zainstalowania biblioteki dla swojego języka. Ten pakiet automatycznie obsługuje serializację i uwierzytelnianie.

Uruchamiaj polecenie dla swojego środowiska. Dodaje ono niezbędne zależności do Twojego projektu.

• Python: pip install openai
• Node.js: npm install openai

Te SDK obsługują te same interfejsy, które są używane przez głównych dostawców. Otrzymujesz standardowe typy błędów i obiekty odpowiedzi.

Skonfiguruj adres URL bazowy i klucz

Wskaż klienta na nasz hostowany punkt końcowy. Zmień domyślny adres URL na nasz konkretny adres bazowy.

• URL bazowy: https://api.dolphinaimodel.com/v1
• ID modelu: uncensored

Skonfiguruj swój klucz API w zmiennej środowiskowej OPENAI_API_KEY. SDK odczytuje to automatycznie. Uwierzytelnianie wykorzystuje standardowe nagłówki tokena nośnika. Nie są wymagane żadne specjalne nagłówki.

To rozwiązanie działa z dowolnym klientem kompatybilnym z OpenAI. Unikasz złożoności proxy, używając standardowego interfejsu bezpośrednio.

Wyślij swoje pierwsze uzupełnienie

Wykonaj żądanie POST do /v1/chat/completions. Model odpowiada swobodnie dla dorosłych użytkowników w zakresie treści prawnych. Nie odrzuca domyślnie tematów kontrowersyjnych lub eksplicytnych.

Wyślij swój prompt w tablicy messages. Odpowiedź zawiera wygenerowany tekst w polu content. Możesz dostosować temperaturę i top_p dla kontroli.

Ten punkt końcowy obsługuje wyłącznie generację tekstu. Nie obsługuje embeddingów ani generowania obrazów. Utrzymuj proste żądania dla najlepszych rezultatów.

Błędy zwracają standardowe kody statusu HTTP. Sprawdź ciało odpowiedzi, aby uzyskać szczegóły dotyczące niepowodzeń.

Obsługa odpowiedzi strumieniowych

Włącz strumieniowanie, ustawiając stream: true. Serwer wysyła fragmenty za pośrednictwem zdarzeń wysyłanych przez serwer (SSE). Każdy fragment zawiera częściowy tekst.

Przetwarzaj każdy fragment w miarę jego napływania. Zmniejsza to postrzeganą latencję dla długich odpowiedzi. Ostatni fragment zawiera statystyki użycia tokenów.

Strumieniowanie działa ze wszystkimi parametrami. Możesz przerwać strumień w razie potrzeby. Połączenie zamyka się poprawnie po zakończeniu.

Użyj tego dla aplikacji interaktywnych. Zapewnia natychmiastową informację zwrotną użytkownikom bez oczekiwania na pełne wygenerowanie.

Używaj narzędzi i trybu JSON

Zdefiniuj definicje funkcji w żądaniu. Model może wywoływać te funkcje na podstawie Twojego promptu. Użyj tool_choice aby wymusić konkretne zachowanie.

Włącz tryb JSON z response_format. Wynik jest ściśle sformatowany jako obiekt JSON. Zapewnia to niezawodne parsowanie w Twoim kodzie.

Połącz narzędzia ze strumieniowaniem dla złożonych przepływów pracy. Możesz obsłużyć wiele wywołań funkcji w jednej turze. Model dokładnie podąża za Twoim schematem.

Przetestuj najpierw proste narzędzia. Zweryfikuj strukturę wyjściową przed integracją w systemach produkcyjnych.

Zarządzaj limitami tokenów

Okno kontekstowe wynosi łącznie 100 000 tokenów. Obejmuje to tokeny wejściowe i wyjściowe. Zaplanuj swoje prompty odpowiednio.

Maksymalna długość wyjściowa wynosi 16 000 tokenów na żądanie. Jeśli nie ustawisz max_tokens, limit domyślnie wynosi 2 048. Dostosuj ten parametr dla dłuższych odpowiedzi.

Limity szybkości to 300 żądań na minutę. Możesz wysyłać 8 żądań współbieżnych na klucz. Przekroczenie tych limitów zwraca kod statusu 429.

Monitoruj swoje zużycie poprzez nagłówki odpowiedzi. Liczba tokenów jest uwzględniana w każdej odpowiedzi. Pomaga to utrzymać się w limitach wcześniej opłaconych środków.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)