Dolphin Risoluzione dei problemi AI: Errori comuni di integrazione API

Presupponendo che 'uncensored' significhi 'nessun filtro'

Senza cures non significa che il modello non abbia limiti. Significa specificamente che il modello non rifiuterà argomenti legali per adulti, controversi o creativi che i modelli standard potrebbero bloccare. Il nostro LLM senza cures accetta qualsiasi prompt senza moralizzare, ma applica comunque un limite rigido di contenuto riguardo ai minori.

Ad esempio, se richiedi contenuti sessuali che coinvolgono minori, l'API restituirà un rifiuto indipendentemente dall'impostazione senza filtri. Questa è una regola rigida applicata a livello di inferenza. Tutti gli altri contenuti adulti legali, inclusa la narrativa esplicita o i dibattiti sfumati, passano senza filtri morbidi.

Confondere la finestra di contesto con i token di output massimi

La finestra di contesto è di 100.000 token, ma l'output massimo per richiesta è di 16.000 token. Questa distinzione è fondamentale per la generazione di documenti lunghi. Se invii un prompt di 90k token e richiedi 30k token, la richiesta fallisce o viene troncata in modo imprevisto.

• Contesto max: 100.000 token (input + output combinati).
• Output massimo: 16.000 token per richiesta.
• Output predefinito: 2.048 token se max_tokens non è impostato.

Imposta sempre max_tokens esplicitamente nelle tue chiamate API. Questo previene un utilizzo dei token fuori controllo e garantisce una fatturazione prevedibile. Gli errori che superano questi limiti non consumano credito, ma interrompono la tua logica di parsing.

Ignorare le risposte in streaming negli ambienti asincroni

La nostra API supporta lo streaming tramite Server-Sent Events (SSE). Se utilizzi un client sincrono per una generazione lunga, raggiungerai i limiti di timeout. Gli ambienti asincetti si aspettano un flusso di chunk parziali, non un unico payload massiccio.

Ogni chunk include dati sull'utilizzo dei token nel payload finale. Questo ti permette di monitorare i costi in tempo reale. Senza lo streaming, la tua UI potrebbe bloccarsi per diversi secondi durante una generazione intensa. Usa il

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

blocco per vedere la gestione corretta lato client.

Impostazione dell'ID modello errato nel corpo della richiesta

Molti sviluppatori impostano come predefinito "gpt-3.5-turbo" o "gpt-4". La nostra API richiede che l'ID del modello sia esattamente "uncensored". L'invio di qualsiasi altro ID risulta in un errore 404 o modello non trovato. Questo non è un modello proprietario come GPT o Claude.

È un modello a peso aperto in esecuzione sulla nostra infrastruttura. Assicurati che la configurazione del tuo SDK punti a HTTPS://api.dolphinmodelai.com/v1 e utilizzi "uncensored" come nome del modello. Questo è l'unico modello che serviamo.

Dimenticando di gestire i formati tool_choice e function calling

Il function calling è supportato, ma il formato deve corrispondere agli standard OpenAI. Devi specificare esplicitamente tool_choice se vuoi un utilizzo forzato degli strumenti. L'API accetta tools, tool_choice e i formati di messaggio standard.

Definizioni degli strumenti formattate in modo errato causano errori di parsing lato client. Assicurati che gli schemi JSON siano validi. Il modello restituisce JSON strutturato che il tuo codice deve analizzare. Utilizza il

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

blocco per un esempio di definizione degli strumenti.

Incomprensione della differenza tra prezzi di input e output

I token di input costano $0.15 per 1M di token. I token di output costano $0.50 per 1M di token. L'output costa quattro volte tanto quanto l'input. Questo rapporto è standard per la maggior parte delle API LLM, ma influisce significativamente sul tuo budget.

Il credito prepagato viene addebitato in base all'utilizzo reale dei token. Errori e rifiuti sono gratuiti. Se invii un prompt da 10k token e ottieni una risposta da 10k token, paghi per entrambi. Sono richieste ricariche con criptovalute. Puoi ricaricare con USDT su TRC20 o USDC su Base. La ricarica minima è $20. I bonus si applicano a $50 (+5%), $100 (+10%) e $200 (+15%).

Non controllo il formato della risposta per gli errori in modalità JSON

La modalità JSON richiede di impostare response_format su {"type": "json_object"}. Senza questa impostazione, il modello potrebbe restituire markdown o testo che interrompe il parser. Questa è una fonte comune di fallimenti nell'integrazione.

Assicurati che il tuo schema sia rigoroso. Il modello non garantisce un JSON perfetto se lo schema è ambiguo. Utilizza il

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

blocco per vedere come forzare l'output JSON. Questo riduce il sovraccarico di post-elaborazione.

Presupponendo che tutti i parametri dell'SDK OpenAI funzionino in modo identico

Parametri come temperature, top_p, stop, seed, presence_penalty e frequency_penalty funzionano in modo simile a OpenAI. Tuttavia, non tutti i parametri per casi limite sono supportati. Supportiamo il set di base necessario per la maggior parte dei casi d'uso.

Streaming, function calling e modalità JSON sono completamente supportati. Consulta il

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

blocco per una richiesta di base. Evita di presupporre che i parametri non supportati vengano ignorati con grazia. Potrebbero causare errori.

Non aver considerato il limite del corpo della richiesta di 8MB

La dimensione massima del corpo della richiesta è di 8 MB. Se invii file grandi o contesto esteso, potresti superare questo limite. Questo è un vincolo rigido sul gateway API. Le richieste che superano questa dimensione vengono rifiutate immediatamente.

Assicurati che il tuo payload sia compresso o troncato. Usa il

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

esempio per vedere come gestire contesti grandi in modo efficiente. Questo limite si applica all'intera richiesta, inclusi header e corpo.