Dolphin KI-Fehlerbehebung: Häufige Fehler bei der API-Integration

Unter der Annahme, dass 'uncensored' 'keine Filter überhaupt' bedeutet

Unzensiert bedeutet nicht, dass das Modell keine Grenzen hat. Es bedeutet speziell, dass das Modell rechtmäßige erwachsene, kontroverse oder kreative Themen, die Standardmodelle möglicherweise blockieren, nicht ablehnt. Unser unzensiertes LLM akzeptiert jede Eingabe ohne Moralismus, erzwingt jedoch weiterhin eine harte Content-Grenze in Bezug auf Minderjährige.

Wenn Sie beispielsweise sexuelle Inhalte mit Minderjährigen anfordern, lehnt die API dies unabhängig von der unzensierten Einstellung ab. Dies ist eine feste Regel, die auf der Inferenzebene angewendet wird. Alle anderen rechtlichen Erwachseneninhalte, einschließlich expliziter Fiktion oder nuancierter Debatten, werden ohne weiche Filter durchgelassen.

Context-Window mit maximalen Ausgabetokens verwechseln

Das Context-Window umfasst 100.000 Tokens, die maximale Ausgabe pro Anfrage beträgt jedoch 16.000 Tokens. Diese Unterscheidung ist entscheidend für die Generierung langer Dokumente. Wenn Sie einen 90k-Token-Prompt senden und nach 30k Tokens fragen, schlägt die Anfrage fehl oder wird unerwartet abgeschnitten.

• Max. Context: 100.000 Tokens (Input + Output kombiniert).
• Maximale Ausgabe: 16.000 Tokens pro Anfrage.
• Standardausgabe: 2.048 Tokens, wenn max_tokens nicht festgelegt ist.

Legen Sie max_tokens in Ihren API-Aufrufen explizit fest. Dies verhindert unkontrollierten Token-Verbrauch und gewährleistet eine vorhersehbare Abrechnung. Fehler, die diese Limits überschreiten, verbrauchen kein Guthaben, brechen jedoch Ihre Parsing-Logik.

Ignorieren von Streaming-Antworten in asynchronen Umgebungen

Unsere API unterstützt Streaming über Server-Sent Events (SSE). Wenn Sie einen synchronen Client für eine lange Generierung verwenden, stoßen Sie auf Zeitüberschreitungen. Asynchrone Umgebungen erwarten einen Strom von Teil-Chunks, nicht ein einzelnes massives Payload.

Jeder Chunk enthält Token-Nutzungsdaten im letzten Payload. Dies ermöglicht es Ihnen, Echtzeit-Kosten zu verfolgen. Ohne Streaming kann Ihre Benutzeroberfläche während intensiver Generierung mehrere Sekunden einfrieren. Verwenden Sie die

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

block, um die korrekte Client-seitige Verarbeitung zu sehen.

Die falsche Modell-ID im Anfragekörper festlegen

Viele Entwickler verwenden standardmäßig "gpt-3.5-turbo" oder "gpt-4". Unsere API erfordert, dass die Model-ID exakt "uncensored" lautet. Das Senden einer anderen ID führt zu einem 404- oder Model-Not-Found-Fehler. Dies ist kein herstellerspezifisches Modell wie GPT oder Claude.

Es ist ein Open-Weight-Modell, das auf unserer Infrastruktur läuft. Stellen Sie sicher, dass Ihre SDK-Konfiguration auf HTTPS://api.dolphinmodelai.com/v1 zeigt und "uncensored" als Modellname verwendet. Dies ist das einzige Modell, das wir bereitstellen.

Das Vergessen, tool_choice und Funktionsaufruf-Formate zu verarbeiten

Function Calling wird unterstützt, aber das Format muss den OpenAI-Standards entsprechen. Sie müssen tool_choice explizit angeben, wenn Sie eine erzwungene Tool-Nutzung wünschen. Die API akzeptiert tools, tool_choice und die Standard-Nachrichtenformate.

Falsch formatierte Tool-Definitionen führen auf Client-Seite zu Parsing-Fehlern. Stellen Sie sicher, dass Ihre JSON-Schemata gültig sind. Das Modell gibt strukturiertes JSON zurück, das Ihr Code analysieren muss. Verwenden Sie das

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Block für ein Beispiel einer Tool-Definition.

Fehlinterpretation des Unterschieds zwischen Eingabe- und Ausgabe-Preisen

Eingabetokens kosten $0,15 pro 1M Tokens. Ausgabetokens kosten $0,50 pro 1M Tokens. Ausgabe ist viermal teurer als Eingabe. Dieses Verhältnis ist für die meisten LLM-APIs Standard, wirkt sich jedoch erheblich auf Ihr Budget aus.

Prepaid-Guthaben wird basierend der tatsächlichen Token-Nutzung berechnet. Fehler und Ablehnungen sind kostenlos. Wenn Sie einen Prompt mit 10k Tokens senden und eine Antwort mit 10k Tokens erhalten, zahlen Sie für beides. Aufladungen mit Kryptowährungen sind erforderlich. Sie können mit USDT auf TRC20 oder USDC auf Base aufladen. Der Mindestbetrag für eine Aufladung beträgt $20. Bonuspunkte gelten bei $50 (+5 %), $100 (+10 %) und $200 (+15 %).

Keine Prüfung des Antwortformats auf JSON-Modus-Fehler

Der JSON-Modus erfordert, dass Sie response_format auf {"type": "json_object"} setzen. Ohne diese Einstellung gibt das Modell möglicherweise Markdown oder Text zurück, der Ihren Parser beschädigt. Dies ist eine häufige Quelle von Integrationsfehlern.

Stellen Sie sicher, dass Ihr Schema strikt ist. Das Modell garantiert keinen perfekten JSON, wenn das Schema mehrdeutig ist. Verwenden Sie den

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

block, um zu sehen, wie die JSON-Ausgabe erzwungen wird. Dies reduziert den Post-Processing-Overhead.

Unter der Annahme, dass alle OpenAI SDK-Parameter identisch funktionieren

Parameter wie Temperatur, top_p, Stop, Seed, Presence-Penalty und Frequency-Penalty funktionieren ähnlich wie bei OpenAI. Allerdings werden nicht alle Randfall-Parameter unterstützt. Wir unterstützen den Kernsatz, der für die meisten Anwendungsfälle erforderlich ist.

Streaming, Function Calling und JSON-Modus werden vollständig unterstützt. Prüfen Sie die

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

Block für eine einfache Anfrage. Gehen Sie nicht davon aus, dass nicht unterstützte Parameter ignoriert werden. Sie können Fehler verursachen.

Das Übersehen der 8MB-Grenze für den Anforderungstextkörper

Die maximale Größe des Anfragekörpers beträgt 8 MB. Wenn Sie große Dateien oder umfangreichen Kontext senden, können Sie dieses Limit überschreiten. Dies ist eine harte Einschränkung des API-Gateways. Anfragen, die dieses Limit überschreiten, werden sofort abgelehnt.

Stellen Sie sicher, dass Ihre Payload komprimiert oder abgeschnitten ist. Verwenden Sie die

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Beispiel, um zu sehen, wie große Kontexte effizient behandelt werden. Dieses Limit gilt für die gesamte Anfrage, einschließlich Header und Body.