Dolphin ai Troubleshooting: Common API Integration Mistakes

Υποθέτοντας ότι 'uncensored' σημαίνει 'χωρ καθόλου φίλτρα'

Το «χωρίς λογοκρισία» δεν σημαίνει ότι το μοντέλο δεν έχει καθόλου όρια. Σημαίνει συγκεκριμένα ότι το μοντέλο δεν θα απορρίψει νόμιμα θέματα ενήλικων, αμφιλεγόμενα ή δημιουργικά θέματα που τα τυπικά μοντέλα μπορεί να μπλοκάρουν. Το LLM μας χωρίς λογοκρισία δέχεται οποιοδήποτε ερέθισμα χωρίς ηθικολογία, αλλά εξακολουθεί να επιβάλλει ένα αυστηρό όριο περιεχομένου σχετικά με ανηλίκους.

Για παράδειγμα, αν ζητήσετε σεξουαλικό περιεχόμενο που αφορά ανηλίκους, η API θα επιστρέψει μια απόρριψη ανεξάρτητα από τη ρύθμιση uncensored. Αυτό είναι μια αυστηρή κανόνας που εφαρμόζεται στο στρώμα inference. Όλο το άλλο νόμιμο περιεχόμενο για ενήλικες, συμπεριλαμβανομένης της ρητής μυθοπλασίας ή της λεπτομερούς συζήτησης, περνάει χωρίς φίλτρα μαλάκωσης.

Σύγχυση Παραθύρου Συγνομένου με Μέγιστους Τόκους Εξόδου

Το παράθυρο συμφραζομένων είναι 100.000 tokens, αλλά η μέγιστη έξοδος ανά αίτημα είναι 16.000 tokens. Αυτή η διάκριση είναι κρίσιμη για τη δημιουργία μεγάλων εγγράφων. Αν στείλετε εντολή 90k tokens και ζητήσετε 30k tokens, το αίτημα αποτυγχάνει ή περικόπτεται απροσδόκητα.

• Μέγιστο context: 100,000 tokens (είσοδος + έξοδος συνδυαστικά).
• Μέγιστη έξοδος: 16.000 tokens ανά αίτημα.
• Προεπιλεγμένη έξοδος: 2,048 tokens αν το max_tokens δεν οριστεί.

Ορίστε ρητά το max_tokens στις κλήσεις API σας. Αυτό αποτρέπει την υπερβολική κατανάλωση tokens και διασφαλίζει προβλέψιμη χρέωση. Τα σφάλματα που υπερβαίνουν αυτά τα όρια δεν καταναλώνουν πιστωτικό υπόλοιπο, αλλά σπάνε τη λογική επεξεργασίας (parsing) σας.

Αμέλεια streaming απαντήσεων σε async περιβάλλοντα

Η API μας υποστηρίζει streaming μέσω Server-Sent Events (SSE). Εάν χρησιμοποιήσετε έναν συγχρονισμένο πελάτη για μια μακρά παραγωγή, θα συναντήσετε όρια χρόνου αναμονής. Οι ασύγχρονες περιβάλλοντες αναμένουν μια ροή μερικών chunk, όχι ένα μοναδικό τεράστιο payload.

Κάθε τμήμα περιέχει δεδομένα χρήσης tokens στο τελικό payload. Αυτό σας επιτρέπει να παρακολουθείτε τα κόστη σε πραγματικό χρόνο. Χωρίς streaming, το UI σας μπορεί να παγώσει για μερικά δευτερόλεπτα κατά τη διάρκεια έντονης παραγωγής. Χρησιμοποιήστε το

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

block για να δείτε τη σωστή διαχείριση στο client-side.

Ρύθμιση του λανθασμένου ID μοντέλου στο σώμα του αιτήματος

Πολλοί προγραμματιστές προεπιλέγουν "gpt-3.5-turbo" ή "gpt-4". Το API μας απαιτεί το model ID να είναι ακριβώς "uncensored". Η αποστολή οποιουδήποτε άλλου ID οδηγεί σε σφάλμα 404 ή μοντέλο-δεν-βρέθηκε. Αυτό δεν είναι ένα μοντέλο συγκεκριμένου κατασκευαστή όπως το GPT ή το Claude.

Είναι ένα μοντέλο ανοιχτού βάρους που εκτελείται στην υποδομή μας. Βεβαιωθείτε ότι η διαμόρφωση του SDK σας δείχνει στο HTTPS://api.dolphinmodelai.com/v1 και χρησιμοποιεί "uncensored" ως όνομα μοντέλου. Αυτό είναι το μόνο μοντέλο που παρέχουμε.

Λήθη διαχείρισης μορφών tool_choice και function calling

Η κλήση συναρτήσεων υποστηρίζεται, αλλά η μορφή πρέπει να ταιριάζει με τα πρότυπα του OpenAI. Πρέπει να καθορίσετε ρητά το tool_choice αν θέλετε επιβολή χρήσης εργαλείων. Το API δέχεται τα tools, το tool_choice και τις τυπικές μορφές μηνυμάτων.

Λάθος μορφοποιημένες ορισμοίες εργαλείων οδηγούν σε σφάλματα ανάλυσης στην πλευρά του πελάτη. Βεβαιωθείτε ότι τα JSON schemas σας είναι έγκυρα. Το μοντέλο επιστρέφει δομημένο JSON που ο κώδικάς σας πρέπει να αναλύσει. Χρησιμοποιήστε το

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

block για ένα παράδειγμα ορισμού εργαλείου.

Κατανόηση της διαφοράς στις τιμές εισόδου και εξόδου

Τα input tokens κοστίζουν $0.15 ανά 1M tokens. Τα output tokens κοστίζουν $0.50 ανά 1M tokens. Το output είναι τέσσερις φορές πιο ακριβό από το input. Αυτή η αναλογία είναι τυπική για τις περισσότερες LLM APIs, αλλά επηρεάζει σημαντικά τον προϋπολογισμό σας.

Το προπληρωμένο υπόλοιπο χρεώνεται βάσει της πραγματικής χρήσης tokens. Τα σφάλματα και οι απορρίψεις είναι δωρεάν. Αν στείλετε ένα prompt 10k tokens και λάβετε απάντηση 10k tokens, πληρώνετε και για τα δύο. Απαιτείται επαναφόρτωση με κρυπτονομίσματα. Μπορείτε να κάνετε επαναφόρτωση με USDT στο TRC20 ή USDC στο Base. Το ελάχιστο ποσό επαναφόρτωσης είναι $20. Ισχύουν bonus στα $50 (+5%), $100 (+10%) και $200 (+15%).

Έλεγχος μορφής απόκρισης για σφάλματα JSON mode

Η λειτουργία JSON απαιτεί να ορίσετε response_format σε {"type": "json_object"}. Χωρίς αυτό, το μοντέλο μπορεί να επιστρέψει markdown ή κείμενο που σπάει τον parser σας. Αυτό είναι μια συνηθισμένη πηγή αποτυχιών ενσωμάτωσης.

Βεβαιωθείτε ότι το schema σας είναι αυστηρό. Το μοντέλο δεν εγγυάται τέλειο JSON αν το schema είναι ασαφές. Χρησιμοποιήστε το

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

block για να δείτε πώς να επιβάλετε JSON output. Αυτό μειώνει το κόστος μετα-επεξεργασίας.

Υποθέτοντας ότι όλες οι παράμετροι του OpenAI SDK λειτουργούν ταυτόσημα

Παράμετροι όπως η θερμοκρασία, το top_p, το stop, το seed, το presence_penalty και το frequency_penalty λειτουργούν παρόμοια με την OpenAI. Ωστόσο, δεν υποστηρίζονται όλες οι παράμετροι ακραίων περιπτώσεων. Υποστηρίζουμε το βασικό σύνολο που απαιτείται για τις περισσότερες περιπτώσεις χρήσης.

Το streaming, η κλήση συναρτήσεων και η λειτουργία JSON υποστηρίζονται πλήρως. Ελέγξτε το

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

block για μια βασική αίτηση. Αποφύγετε την υπόθεση ότι οι μη υποστηριζόμενες παράμετροι θα αγνοηθούν ομαλά. Μπορεί να προκαλέσουν σφάλματα.

Παράλειψη του ορίου 8MB στο σώμα της αίτησης

Το μέγιστο μέγεθος σώματος αιτήματος είναι 8 MB. Αν στείλετε μεγάλα αρχεία ή εκτεταμένο πλαίσιο, ίσως ξεπεράσετε αυτό το όριο. Αυτός είναι ένας αυστηρός περιορισμός στο API gateway. Τα αιτήματα που υπερβαίνουν αυτό το μέγεμα απορρίπτονται άμεσα.

Βεβαιωθείτε ότι το payload σας είναι συμπιεσμένο ή περικομμένο. Χρησιμοποιήστε το

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

παράδειγμα για να δείτε πώς να χειριστείτε μεγάλα contexts αποδοτικά. Αυτό το όριο ισχύει για ολόκληρο το αίτημα, συμπεριλαμβανομένων των headers και του body.