Dolphin AI-probleemoplossing: Veelvoorkomende API-integratiefouten

Aannemend dat 'uncensored' betekent 'geen filters'

Uncensored betekent niet dat het model geen limieten heeft. Het betekent specifiek dat het model wettelijke volwassen, controversiële of creatieve onderwerpen niet zal weigeren die standaardmodellen zouden kunnen blokkeren. Onze uncensored LLM accepteert elke prompt zonder morele preken, maar handhaaft nog steeds een harde inhoudslimiet met betrekking tot minderjarigen.

Bijvoorbeeld, als je seksuele inhoud met minderjarigen aanvraagt, zal de API een weigering retourneren, ongeacht de ongecensureerde instelling. Dit is een harde regel die wordt toegepast op de inferentielaag. Alle andere wettelijke volwasseninhoud, inclusief expliciete fictie of genuanceerde debatten, passeert zonder zachte filters.

Context window verwarren met max. uitvoertokens

Het contextvenster is 100.000 tokens, maar de maximale output per verzoek is 16.000 tokens. Dit onderscheid is cruciaal voor het genereren van lange documenten. Als je een prompt van 90k tokens verstuurt en om 30k tokens vraagt, faalt het verzoek of wordt het onverwacht afgekapt.

• Max context: 100.000 tokens (invoer + uitvoer samen).
• Maximale uitvoer: 16.000 tokens per verzoek.
• Standaard output: 2.048 tokens als max_tokens niet is ingesteld.

Stel max_tokens altijd expliciet in bij je API-aanroepen. Dit voorkomt onbeperkt tokengebruik en zorgt voor voorspelbare facturatie. Fouten die deze limieten overschrijden verbruiken geen krediet, maar breken wel je parselogica.

Streaming-responses negeren in async-omgevingen

Onze API ondersteunt streaming via Server-Sent Events (SSE). Als je een synchronische client gebruikt voor een lange generatie, zul je time-outlimieten bereiken. Asynchrone omgevingen verwachten een stroom van gedeeltelijke chunks, niet een enkel massief payload.

Elke chunk bevat tokenverbruiksgegevens in de laatste payload. Hiermee kun je realtime kosten bijhouden. Zonder streamen kan je UI enkele seconden bevriezen tijdens zware generatie. Gebruik de

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

blokkeer om de juiste client-side afhandeling te zien.

Het verkeerde model-ID in het request body instellen

Veel ontwikkelaars gebruiken standaard "gpt-3.5-turbo" of "gpt-4". Onze API vereist dat de model-ID exact "uncensored" is. Het verzenden van een andere ID resulteert in een 404- of model-niet-gevonden-fout. Dit is geen vendor-specifiek model zoals GPT of Claude.

Het is een open-weight model dat op onze infrastructuur draait. Zorg dat je SDK-configuratie wijst naar HTTPS://api.dolphinmodelai.com/v1 en gebruik "uncensored" als modelnaam. Dit is het enige model dat we aanbieden.

Het vergeten van tool_choice en function calling-formaten te verwerken

Function calling wordt ondersteund, maar het formaat moet voldoen aan de OpenAI-standaarden. U moet tool_choice expliciet specificeren als u geforceerd toolgebruik wilt. De API accepteert tools, tool_choice en de standaardberichtformaten.

Onjuist opgemaakte tool-definities leiden tot parseringsfouten aan de clientkant. Zorg dat uw JSON-schemas geldig zijn. Het model retourneert gestructureerde JSON die uw code moet parseren. Gebruik de

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

blok voor een voorbeeld van tooldefinitie.

Misverstanden over het verschil in prijsstelling voor invoer en uitvoer

Invoertokens kosten $0,15 per 1M tokens. Uitvoertokens kosten $0,50 per 1M tokens. Uitvoer is vier keer zo duur als invoer. Deze verhouding is standaard voor de meeste LLM-API's, maar heeft een aanzienlijke invloed op je budget.

Prepaid tegoed wordt berekend op basis van daadwerkelijk tokengebruik. Fouten en weigeringen zijn gratis. Als je een prompt van 10k tokens verstuurt en een response van 10k tokens krijgt, betaal je voor beide. Crypto-opladingen zijn vereist. Je kunt opladen met USDT op TRC20 of USDC op Base. Het minimumbedrag voor opladen is $20. Bonussen gelden bij $50 (+5%), $100 (+10%) en $200 (+15%).

Niet controleren op JSON-modusfouten in het responsformaat

JSON-modus vereist dat je response_format instelt op {"type": "json_object"}. Zonder deze instelling retourneert het model mogelijk markdown of tekst die je parser verstoort. Dit is een veelvoorkomende bron van integratiefouten.

Zorg ervoor dat je schema strikt is. Het model garandeert geen perfecte JSON als het schema ambigu is. Gebruik de

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

blokkeer om te zien hoe je JSON-uitvoer afdwingt. Dit vermindert de overhead van nabewerking.

Aannemend dat alle OpenAI SDK-parameters identiek werken

Parameters zoals temperature, top_p, stop, seed, presence_penalty en frequency_penalty werken vergelijkbaar met OpenAI. Niet alle parameters voor randgevallen worden echter ondersteund. We ondersteunen de kernset die nodig is voor de meeste use cases.

Streaming, function calling en JSON-modus worden volledig ondersteund. Controleer de

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

blok voor een basisverzoek. Ga er niet van uit dat niet-ondersteunde parameters soepel worden genegeerd. Ze kunnen fouten veroorzaken.

De limiet van 8MB voor de request body over het hoofd zien

De maximale grootte van de request body is 8 MB. Als je grote bestanden of uitgebreide context verzendt, kun je deze limiet overschrijden. Dit is een harde beperking van de API-gateway. Verzoeken die deze grootte overschrijden, worden onmiddellijk afgewezen.

Zorg ervoor dat je payload gecomprimeerd of afgekapt is. Gebruik de

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

voorbeeld om te zien hoe je grote contexten efficiënt afhandelt. Deze limiet geldt voor het gehele verzoek, inclusief headers en body.