Dolphin ai Fejlfinding: Almindelige API-integrationsfejl

Antagende 'uncensored' betyder 'ingen filtre overhovedet'

Uden censur betyder ikke, at modellen ingen grænser har. Det betyder specifikt, at modellen ikke vil afvile lovlige voksne, kontroversielle eller kreative emner, som standardmodeller måske blokerer. Vores uncensored LLM accepterer enhver prompt uden moralisering, men den håndhæver stadig en hard indholdsgrense vedrørende mindreårige.

For eksempel, hvis du anmoder om seksuelt indhold, der involverer mindreårige, vil API'et returnere en afvisning uanset den ucensurerede indstilling. Dette er en fast regel, der anvendes på inference-laget. Alt andet lovligt voksent indhold, inklusive eksplicit fiction eller nuanceret debat, passerer igennem uden blødgjorte filtre.

Forvirrede kontekstvindu med maks. output-tokens

Kontekstvinduet er på 100.000 tokens, men maksimum output pr. anmodning er 16.000 tokens. Denne forskel er kritisk for generering af lange dokumenter. Hvis du sender en prompt på 90k tokens og beder om 30k tokens, mislykkes anmodningen eller forkortes uventet.

• Max context: 100,000 tokens (input + output combined).
• Maks. output: 16.000 tokens pr. anmodning.
• Standard output: 2.048 tokens, hvis max_tokens ikke er indstillet.

Indstil altid max_tokens eksplicit i dine API-kald. Dette forhindrer løbende tokenforbrug og sikrer forudsigelig fakturering. Fejl, der overstiger disse grænser, forbruger ikke kredit, men de bryder din parseringslogik.

Ignorerer streaming-svar i async-miljøer

Vores API understøtter streaming via Server-Sent Events (SSE). Hvis du bruger en synchron klient til en lang generering, vil du ramme timeout-grænser. Async-miljøer forventer en strøm af delvise chunks, ikke en enkelt massiv payload.

Hver chunk indeholder tokenforbrugsdata i den sidste payload. Dette giver dig mulighed for at spore omkostninger i realtid. Uden streaming kan dit UI fryse i flere sekunder under tung generering. Brug

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

bloker for at se den korrekte håndtering på klientsiden.

Indstilling af den forkerte model-ID i request-body

Mange udviklere bruger standard "gpt-3.5-turbo" eller "gpt-4". Vores API kræver, at model-ID'et er præcis "uncensored". Sendes et andet ID, resulterer det i en 404- eller model-not-found-fejl. Dette er ikke en vendor-specifik model som GPT eller Claude.

Det er en open-weight model, der kører på vores infrastruktur. Sørg for, at din SDK-konfiguration peger på HTTPS://api.dolphinmodelai.com/v1 og bruger "uncensored" som modelnavn. Dette er den eneste model, vi leverer.

Glemsel af at håndtere tool_choice- og function calling-formater

Function calling understøttes, men formatet skal matche OpenAI-standarderne. Du skal angive tool_choice eksplicit, hvis du vil tvinge værktøjsbrug. API'et accepterer tools, tool_choice og de standard meddelelsesformater.

Unøjagtigt formaterede værktøjsdefinitioner fører til parsing-fejl på klientsiden. Sørg for, at dine JSON-skemaer er gyldige. Modellen returnerer struktureret JSON, som din kode skal parse. Brug

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

blok for et eksempel på værktigsdefinition."

Misforståelse af forskellen på input- og outputprissætning

Input-tokens koster $0,15 pr. 1M tokens. Output-tokens koster $0,50 pr. 1M tokens. Output er fire gange dyrere end input. Dette forhold er standard for de fleste LLM APIs, men påvirker dit budget betydeligt.

Forudbet kredit opkræves baseret på reel tokenbrug. Fejl og afvisninger er gratis. Hvis du sender en prompt på 10k tokens og får et svar på 10k tokens, betaler du for begge dele. Indbetalinger med krypto er påkrævet. Du kan indbetale med USDT på TRC20 eller USDC på Base. Minimumsindbetaling er $20. Bonusser gælder ved $50 (+5%), $100 (+10%) og $200 (+15%).

Tjekker ikke response-formatet for JSON mode-fejl

JSON-tilstand kræver, at du indstiller response_format til {"type": "json_object"}. Uden dette kan modellen returnere markdown eller tekst, der ødelægger din parser. Dette er en almindelig kilde til integrationsfejl.

Sørg for, at dit schema er streng. Modellen garanterer ikke perfekt JSON, hvis schemaet er tvetydigt. Brug den

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

bloker for at se, hvordan du håndhæver JSON-output. Dette reducerer overhead efter behandling.

Antagende, at alle OpenAI SDK-parametre fungerer identisk

Parametre som temperatur, top_p, stop, seed, presence_penalty og frequency_penalty fungerer på samme måde som hos OpenAI. Ikke alle randtilfælde-parametre understøttes dog. Vi understøtter den grundlæggende mængde, der kræves til de fleste anvendelser.

Streaming, funktionssamtale og JSON-tilstand understøttes fuldt ud. Tjek

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

blok for en basic request. Undgå at antage, at understøttede parametre ignoreres pænt. De kan forårsage fejl.

At overse grænsen for anmodningskrop på 8MB

Den maksimale størrelse af request-body er 8 MB. Hvis du sender store filer eller omfattende kontekst, kan du overskride denne grænse. Dette er en fast begrænsning på API-gatewayen. Anmodninger, der overskrider denne størrelse, afvises øjeblikkeligt.

Sørg for, at dit payload er komprimeret eller forkortet. Brug

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

eksempel for at se, hvordan man håndterer store kontekster effektivt. Denne grænse gælder for hele forespørgslen, inklusive headers og body.