Démarrage rapide modèle Dolphin ai

Installez votre SDK préféré

Commencez par installer la bibliothèque pour votre langage. Ce package gère automatiquement la sérialisation et l'authentification.

Exécutez la commande pour votre environnement. Elle ajoute les dépendances nécessaires à votre projet.

• Python : pip install openai
• Node.js : npm install openai

Ces SDKs prennent en charge les mêmes interfaces utilisées par les principaux fournisseurs. Vous bénéficiez des types d’erreur et des objets de réponse standards.

Configurer l'URL de base et la clé

Pointez votre client vers notre point de terminaison hébergé. Remplacez l'URL par défaut par notre adresse de base spécifique.

• URL de base : https://api.dolphinaimodel.com/v1
• ID du modèle : uncensored

Définissez votre clé API dans la variable d'environnement OPENAI_API_KEY. Le SDK lit cela automatiquement. L'authentification utilise des en-têtes de jeton porteur standard. Aucun en-tête spécial n'est requis.

Cette configuration fonctionne avec n'importe quel client compatible OpenAI. Vous évitez la complexité des proxy en utilisant l'interface standard directement.

Envoyez votre première complétion

Effectuer une requête POST à /v1/chat/completions. Le modèle répond librement pour une utilisation adulte légale. Il ne refuse pas par défaut les sujets controversés ou explicites.

Envoyez votre prompt dans le tableau messages. La réponse contient le texte généré dans le champ content. Vous pouvez ajuster temperature et top_p pour le contrôle.

Ce point de terminaison gère uniquement la génération de texte. Il ne prend pas en charge les embeddings ou la génération d'images. Gardez vos requêtes simples pour de meilleurs résultats.

Les erreurs renvoient des codes de statut HTTP standard. Consultez le corps de la réponse pour plus de détails sur les échecs.

Gérer les réponses en streaming

Activez le streaming en définissant stream: true. Le serveur envoie des fragments via des événements envoyés par le serveur (SSE). Chaque fragment contient du texte partiel.

Traitez chaque chunk à mesure qu'il arrive. Cela réduit la latence perçue pour les réponses longues. Le dernier chunk inclut les statistiques d'utilisation des jetons.

Le streaming fonctionne avec tous les paramètres. Vous pouvez interrompre le flux en cours si nécessaire. La connexion se ferme proprement après la complétion.

Utilisez ceci pour les applications interactives. Il fournit un retour immédiat aux utilisateurs sans attendre la génération complète.

Utilisez les outils et le mode JSON

Définissez des définitions de fonctions dans la requête. Le modèle peut appeler ces fonctions en fonction de votre invite. Utilisez tool_choice pour forcer un comportement spécifique.

Activer le mode JSON avec response_format. La sortie est strictement formatée sous forme d'objet JSON. Cela garantit une analyse fiable dans votre code.

Combinez les outils avec le streaming pour des workflows complexes. Vous pouvez gérer plusieurs appels de fonctions en un seul tour. Le modèle suit votre schéma avec précision.

Testez d'abord avec des outils simples. Vérifiez la structure de la sortie avant de l'intégrer dans les systèmes de production.

Gérer les limites de tokens

La fenêtre de contexte est de 100 000 tokens au total. Cela inclut à la fois les tokens d'entrée et de sortie. Adaptez vos invites en conséquence.

La sortie maximale est de 16 000 tokens par requête. Si vous ne définissez pas max_tokens, la limite par défaut est de 2 048. Ajustez ce paramètre pour des réponses plus longues.

Les limites de débit sont de 300 requêtes par minute. Vous pouvez avoir 8 requêtes simultanées par clé. Le dépassement de ces limites renvoie un code d'état 429.

Surveillez votre consommation via les en-têtes de réponse. Les comptes de tokens sont inclus dans chaque réponse. Cela vous aide à rester dans les limites de votre crédit prépayé.

cURL

Copycurl https://api.dolphinaimodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 42"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinaimodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinaimodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)