Dolphin AI-felsökning: Vanliga API-integreringsfel

Anta att 'uncensored' betyder 'inga filter alls'

Oklassad innebär inte att modellen har inga gränser. Det innebär specifikt att modellen inte kommer att avvisa lagligt vuxet, kontroversiellt eller kreativt innehåll som standardmodeller kan blockera. Vår oklassade LLM accepterar alla prompter utan moraliserande, men den upprätthåller fortfarande en hård innehållsgräns gällande minderåriga.

Till exempel, om du begär sexuellt innehåll som involverar minderåriga kommer API:t att returnera en vägran oavsett okontrollerat läge. Detta är en fast regel som tillämpas på inferenslagret. Allt annat lagligt vuxeninnehåll, inklusive explicit skönlitteratur eller nyanserade debatter, passerar utan mjuka filter.

Förväxla context window med max output tokens

Kontextrutan är 100 000 tokens, men maximalt svar per begäran är 16 000 tokens. Denna åtskillnad är kritisk för generering av långa dokument. Om du skickar en prompt på 90k tokens och ber om 30k tokens misslyckas begäran eller klippas av oväntat.

• Max kontext: 100,000 tokens (inmatning + utdata tillsammans).
• Max output: 16 000 tokens per begäran.
• Standardutdata: 2 048 tokens om max_tokens inte är inställt.

Ställ in max_tokens explicit i dina API-anrop. Detta förhindrar att tokenanvändningen rinner iväg och säkerställer förutsägbar fakturering. Fel som överskrider dessa gränser förbrukar inte kredit, men de bryter din parsningslogik.

Att ignorera strömningsresponser i asynkrona miljöer

Vårt API stöder streaming via Server-sända händelser (SSE). Om du använder en synkron klient för en lång generering kommer du att träffas av timeout-gränser. Asynkrona miljöer förväntar sig en ström av delvis data, inte en enda massiv last.

Varje chunk innehåller tokenanvändningsdata i den sista payloaden. Detta gör att du kan spåra kostnader i realtid. Utan streaming kan ditt UI frysa i flera sekunder under tung generering. Använd

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

block för att se korrekt hantering på klient-sidan.

Att ange fel model-ID i begärans kropp

Många utvecklare använder standardvärdet "gpt-3.5-turbo" eller "gpt-4". Vårt API kräver att modell-ID:t är exakt "uncensored". Att skicka något annat ID resulterar i ett 404-fel eller modell-hittades-inte-fel. Detta är inte en leverantörspecifik modell som GPT eller Claude.

Det är en modell med öppna vikter som körs på vår infrastruktur. Se till att din SDK-konfiguration pekar på HTTPS://api.dolphinmodelai.com/v1 och använder "uncensored" som modellnamn. Detta är den enda modellen vi serverar.

Att glömma att hantera tool_choice- och function-calling-format

Function calling stöds, men formatet måste matcha OpenAI-standarden. Du måste specificera tool_choice explicit om du vill tvinga fram verktygsanvändning. API:et accepterar tools, tool_choice och standardmeddelandeformaterna.

Felaktigt formaterade verktygsdefinitioner leder till parserfel på klientidan. Se till att dina JSON-scheman är giltiga. Modellen returnerar strukturerad JSON som din kod måste parsas. Använd

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

block för ett exempel på verkdefinition."

Missförstått skillnaden mellan pris för indata och utdata

Inmatningstokens kostar $0,15 per 1M tokens. Utmatningstokens kostar $0,50 per 1M tokens. Utmatning är fyra gånger dyrare än inmatning. Denna kvot är standard för de flesta LLM-API:er men påverkar din budget avsevärt.

Förbetalt kredit debiteras baserat på faktisk tokenanvändning. Fel och avslag är gratis. Om du skickar en prompt på 10k tokens och får ett svar på 10k tokens betalar du för båda. Kryptoinbetalningar krävs. Du kan ladda upp med USDT på TRC20 eller USDC på Base. Minsta insättning är $20. Bonusar tillämpas vid $50 (+5%), $100 (+10%) och $200 (+15%).

Att inte kontrollera svarformatet för JSON-lägesfel

JSON-läget kräver att du ställer in response_format till {"type": "json_object"}. Utan detta kan modellen returnera markdown eller text som bryter din parsare. Detta är en vanlig källa till integrationsfel.

Se till att ditt schema är strikt. Modellen garanterar inte perfekt JSON om schemat är ambiguöst. Använd den

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

block för att se hur du tvingar fram JSON-utdata. Detta minskar överhead för efterbehandling.

Anta att alla OpenAI SDK-parametrar fungerar identiskt

Parametrar som temperatur, top_p, stop, seed, presence_penalty och frequency_penalty fungerar likt OpenAI. Men inte alla parametrar för kanfall stöds. Vi stödjer kärnsetet som krävs för de flesta användningsfall.

Streaming, funktionssamling och JSON-läge stöds fullt ut. Kontrollera

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

block för en grundläggande begäran. Antag inte att icke-stödda parametrar ignoreras smidigt. De kan orsaka fel.

Att förbise gränsen för begärans kropp på 8 MB

Den maximala storleken på begärans kropp är 8 MB. Om du skickar stora filer eller omfattande kontext kan du överskrida denna gräns. Detta är en hård begränsning på API-gatewayen. Begäranden som överskrider denna storlek avvisas omedelbart.

Se till att din payload är komprimerad eller trunkerad. Använd

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

exempel för att se hur man hanterar stora kontexter effektivt. Denna gräns gäller för hela begäran, inklusive rubriker och kropp.