Dolphin AI Troubleshooting: Greșeli comune de integrare API

Presupunând că 'uncensored' înseamnă 'fără filtre deloc'

Fără cenzură nu înseamnă că modelul nu are limite. Înseamnă specific că modelul nu va refuta subiecte legale pentru adulți, controversate sau creative pe care modelele standard le-ar putea bloca. LLM-ul nostru fără cenzură acceptă orice prompt fără moralizare, dar impune totuși o limită strictă de conținut privind minorii.

De exemplu, dacă solicitați conținut sexual care implică minori, API-ul va returna un refuz indiferent de setarea necenzurată. Aceasta este o regulă strictă aplicată la nivelul inferenței. Tot celălalt conținut adult legal, inclusiv ficțiune explicită sau dezbatere nuanțată, trece fără filtre moi.

Confundarea ferestrei de context cu numărul maxim de tokeni de ieșire

Fereastra de context are 100.000 de tokeni, dar outputul maxim per solicitare este de 16.000 de tokeni. Această distincție este critică pentru generarea de documente lungi. Dacă trimiți un prompt de 90k tokeni și ceri 30k tokeni, solicitarea eșuează sau se trunchiază neașteptat.

• Context maxim: 100.000 de token-uri (input + output combinate).
• Ieșire maximă: 16,000 de tokeni per solicitare.
• Output implicit: 2.048 tokenuri dacă max_tokens nu este setat.

Setează întotdeauna max_tokens explicit în apelurile tale API. Acest lucru previne utilizarea necontrolată a tokenilor și asigură o facturare predictibilă. Erorile care depășesc aceste limite nu consumă credit, dar întrerup logica ta de analiză.

Ignorarea răspunsurilor de streaming în medii async

API-ul nostru suportă streaming prin Server-Sent Events (SSE). Dacă utilizezi un client sincron pentru o generare lungă, vei atinge limitele de timeout. Mediile asincrone așteaptă un flux de bucăți parțiale, nu un singur payload masiv.

Fiecare fragment conține date de utilizare a tokenilor în payload-ul final. Acest lucru îți permite să urmărești costurile în timp real. Fără streaming, interfața ta se poate bloca timp de câteva secunde în timpul generării grele. Folosește

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

bloc pentru a vedea gestionarea corectă pe partea de client.

Setarea ID-ului modelului greșit în corpul solicitării

Mulți dezvoltatori se bazează implicit pe "gpt-3.5-turbo" sau "gpt-4". API-ul nostru necesită ca ID-ul modelului să fie exact "uncensored". Trimiterea oricărui alt ID rezultă într-o eroare 404 sau model-negăsit. Acesta nu este un model specific unui furnizor precum GPT sau Claude.

Este un model cu ponderi deschise care rulează pe infrastructura noastră. Asigură-te că configurația SDK-ului tău pointează către HTTPS://api.dolphinmodelai.com/v1 și folosește "uncensored" ca nume de model. Acesta este singurul model pe care îl servim.

Uitarea gestionării formatelor tool_choice și function calling

Funcționarea prin apeluri de funcții este suportată, dar formatul trebuie să se potrivească cu standardele OpenAI. Trebuie să specificați explicit tool_choice dacă doriți utilizarea forțată a instrumentelor. API-ul acceptă tools, tool_choice și formatele standard de mesaje.

Incorrectly formatted tool definitions lead to parsing errors on the client side. Ensure your JSON schemas are valid. The model returns structured JSON that your code must parse. Use the

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

bloc pentru un exemplu de definiție a instrumentului.

Înțelegerea greșită a diferenței dintre prețurile pentru intrare și ieșire

Tokenii de intrare costă $0.15 per 1M tokeni. Tokenii de ieșire costă $0.50 per 1M tokeni. Ieșirea este de patru ori mai scumpă decât intrarea. Acest raport este standard pentru majoritatea API-urilor LLM, dar afectează bugetul tău semnificativ.

Creditul preplătit se încarcă în funcție de consumul real de tokeni. Erorile și refuzurile sunt gratuite. Dacă trimiți un prompt de 10k tokeni și primești un răspuns de 10k tokeni, plătești pentru ambele. Reîncărcările cu criptomonede sunt obligatorii. Poți reîncărca cu USDT pe TRC20 sau USDC pe Base. Reîncarcarea minimă este de $20. Bonusurile se aplică la $50 (+5%), $100 (+10%) și $200 (+15%).

Nu verificarea formatului de răspuns pentru erorile de mod JSON

Modul JSON necesită să setezi response_format la {"type": "json_object"}. Fără aceasta, modelul ar putea returna markdown sau text care rupe parserul tău. Aceasta este o sursă comună de eșecuri de integrare.

Asigură-te că schema este strictă. Modelul nu garantează un JSON perfect dacă schema este ambiguă. Folosește

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

bloc pentru a vedea cum să forțați ieșirea JSON. Acest lucru reduce suprasolicitarea post-procesării.

Presupunând că toți parametrii SDK OpenAI funcționează identic

Parametri precum temperatura, top_p, stop, seed, presence_penalty și frequency_penalty funcționează similar cu OpenAI. Cu toate acestea, nu toate parametrii de cazuri limită sunt suportate. Suportăm setul de bază necesar pentru majoritatea cazurilor de utilizare.

Streaming, apelarea de funcții și modul JSON sunt complet suportate. Verifică

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

bloc pentru o cerere de bază. Evită să presupui că parametrii nesuportați vor fi ignorați cu blândețe. Pot cauza erori.

Ignorarea limitei de 8MB pentru corpul cererii

Dimensiunea maximă a corpului solicitării este de 8 MB. Dacă trimiți fișiere mari sau context extensiv, poți depăși această limită. Aceasta este o constrângere strictă pe API gateway. Solicitățile care depășesc această dimensiune sunt respinse imediat.

Asigură-te că payload-ul este comprimat sau trunchiat. Folosește

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

exemplu pentru a vedea cum să gestionați eficient contextele mari. Această limită se aplică întregii cereri, inclusiv antetelor și corpului.