Dolphin AI Hibaelhárítás: Gyakori API integrációs hibák

Feltételezve, hogy az 'uncensored' jelentése 'nincs szűrés egyáltalán'

A cenzúrázatlan nem jelenti azt, hogy a modellnek nincsenek korlátai. Konkrétan azt jelenti, hogy a modell nem utasítja vissza a törvényes felnőtt, vitatott vagy kreatív témákat, amelyeket a szabványos modellek blokkolhatnának. Cenzúrázatlan LLM-ünk bármelyik promptot elfogad moralizálás nélkül, de továbbra is alkalmaz egy szigorú tartalmi korlátot a kiskorúakra vonatkozóan.

Például, ha olyan szexuális tartalmat kér, amely kiskorúakat érint, az API elutasítást ad vissza az uncenzúrázott beállítás ellenére is. Ez egy szigorú szabály, amely a következtetési rétegen érvényesül. Minden egyéb törvényes felnőtt tartalom, beleértve az explicit fikciót vagy a finomhangolt vitát, szűrők nélkül halad át.

Kontextusablak és max kimeneti tokenek összekeverése

A kontextusablak 100 000 token, de a kérésenkénti maximális kimenet 16 000 token. Ez a különbség kritikus a hosszú dokumentumok generálásánál. Ha 90k tokenes promptot küld, és 30k tokenes kimenetet kér, a kérés meghiúsul vagy váratlanul tördelődik.

• Max. kontextus: 100,000 token (bemenet + kimenet együtt).
• Maximális kimenet: 16 000 token kérésenként.
• Alapértelmezett kimenet: 2048 token, ha a max_tokens nincs beállítva.

Mindig állítsa be expliciten a max_tokens értéket az API hívásokban. Ez megakadályozza a futó tokenfelhasználást és biztosítja a kiszámítható számlázást. A hibák, amelyek túllépik ezeket a limitet, nem fogyasztanak hitelt, de megtörik a parsing logikát.

A streamelő válaszok figyelmen kívül hagyása aszinkron környezetben

Az API-nk SSE-n keresztül támogatja a streamelést. Ha szinkron klienst használsz hosszú generálás esetén, eléri a időkorlátokat. Az aszinkron környezetek a részleges darabok folyamát várják, nem egyetlen hatalmas payloadt.

Minden chunk tokenfelhasználási adatot tartalmaz a végső payload-ban. Ez lehetővé teszi a valós idejű költségek nyomon követését. Streamelés nélkül a felhasználói felület több másodpercre megfagyhat a nehéz generálás során. Használja a

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

blokk a helyes kliensoldali kezelés megtekintéséhez.

A kérés törzsében szereplő hibás modellazonosító beállítása

Sok fejlesztő alapértelmezetten a "gpt-3.5-turbo" vagy a "gpt-4" értéket használja. API-nk a modell azonosítót pontosan "uncensored" értékre állítja be. Bármely más azonosító küldése 404-es vagy modell nem található hibához vezet. Ez nem egy gyártó-specifikus modell, mint a GPT vagy a Claude.

Ez egy nyílt súlyozású modell, amely az infrastruktúránkon fut. Győződjön meg arról, hogy az SDK konfigurációja a HTTPS://api.dolphinmodelai.com/v1 URL-re mutat, és az "uncensored" szót használja modellnévként. Ez az egyetlen modell, amelyet kiszolgálunk.

A tool_choice és a function calling formátumok kezelésének elfelejtése

A function calling támogatott, de a formátumnak meg kell felelnie az OpenAI szabványoknak. Explicit módon meg kell adnia a tool_choice-t, ha kikényszerített eszközhasználatot szeretne. Az API elfogadja a tools, tool_choice és a szabványos üzenet formátumokat.

Helyesen formázott tool definíciók hiánya elemzési hibákhoz vezet az ügyféloldalon. Győződjön meg arról, hogy JSON sémái érvényesek. A modell strukturált JSON-t ad vissza, amelyet a kódnak fel kell dolgoznia. Használja a

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

blokk egy példa eszközdefinícióhoz.

Az input és output árazás közötti különbség félreértése

A bemeneti tokenek ára $0.15/1M token. A kimeneti tokeneké $0.50/1M token. A kimenet négyszer drágább, mint a bemenet. Ez az arány szabványos a legtöbb LLM API esetén, de jelentősen befolyásolja a költségvetését.

A feltöltött egyenleget a tényleges tokenfelhasználás alapján számítjuk fel. A hibák és a visszautasítások díjtalanok. Ha 10k tokenes promptot küldesz, és 10k tokenes választ kapsz, mindkettőért fizetsz. Kriptovalutás feltöltés szükséges. USDT TRC20-on vagy USDC Base-on töltheted fel. A minimális feltöltés 20 $. Bónuszok érvényesek 50 $ (+5%), 100 $ (+10%) és 200 $ (+15%) esetén.

A válasz formátumának ellenőrzése JSON mód hibákra

A JSON-ban be kell állítania a response_format-ot {"type": "json_object"} értékre. Enélkül a modell markdown vagy szöveget adhat vissza, ami megtöri a parserjét. Ez egy gyakori integrációs hibaforrás.

Győződjön meg arról, hogy a sémája szigorú. A modell nem garantálja a tökéletes JSON-t, ha a séma kétértelmű. Használja a

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

blokk a JSON-kimenet érvényesítésének megtekintéséhez. Ez csökkenti az utólagos feldolgozás terheit.

Feltételezve, hogy az összes OpenAI SDK paraméter azonosan működik

A hőmérséklet, top_p, stop, seed, presence_penalty és frequency_penalty paraméterek hasonlóan működnek az OpenAI-hoz. Azonban nem minden szélsőérték-paraméter támogatott. A legtöbb használati esethez szükséges alapvető paramétereket támogatjuk.

A streamelés, a függvényhívás és a JSON mód teljes mértékben támogatott. Ellenőrizd a

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

blokk egy alapvető kéréshez. Ne feltételezd, hogy a nem támogatott paraméterek zökkenőmentesen figyelmen kívül lesznek hagyva. Hibát okozhatnak.

Az 8MB-os kéretestület korlátjának figyelmen kívül hagyása

A maximális kérelemtörzs-méret 8 MB. Ha nagy fájlokat vagy kiterjedt kontextust küld, elérheti ezt a korlátot. Ez a API-kapu szigorú korlátja. A méretet meghaladó kéréseket azonnal elutasítják.

Győződjön meg arról, hogy a payload tömörített vagy levágott. Használja a

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

példa, hogy lássa, hogyan kezelhető hatékonyan a nagy kontextus. Ez a határ az egész kérésre vonatkozik, beleértve a fejléceket és a törzset.