Dolphin Řešení potíží AI: Časté chyby při integraci API

Předpokládaje, že 'uncensored' znamená 'žádné filtry vůbec'

Neomezené neznamená, že model nemá žádná omezení. Konkrétně to znamená, že model nebude odmítat zákonné dospělé, kontroverzní nebo kreativní témata, která by standardní modely mohly blokovat. Naše neomezená LLM přijme jakýkoli podnět bez morálního soudění, ale stále vynucuje přísný limit obsahu týkající se nezletilých.

Například pokud požádáte o sexuální obsah zahrnující nezletilé, API vrátí odmítnutí bez ohledu na nastavení bez cenzury. Jedná se o pevné pravidlo aplikované na vrstvě inference. Všechny ostatní zákonné dospělé obsahy, včetně explicitní fikce nebo nuanceované debaty, projdou bez měkkých filtrů.

Zaměňování kontextového okna s maximálním počtem výstupních tokenů

Okno kontextu má 100 000 tokenů, ale maximální výstup na požadavek je 16 000 tokenů. Toto rozlišení je kritické pro generování dlouhých dokumentů. Pokud odešlete prompt o 90 000 znacích a požadujete 30 000 tokenů, požadavek selže nebo bude neočekávaně oříznut.

• Max kontext: 100,000 tokenů (vstup + výstup dohromady).
• Maximální výstup: 16 000 tokenů na požadavek.
• Výchozí výstup: 2 048 tokenů, pokud není nastaveno max_tokens.

Vždy explicitně nastavte max_tokens ve vašich API voláních. To zabraňuje nekontrolovatelnému používání tokenů a zajišťuje předvídatelné fakturace. Chyby, které překročí tyto limity, nespotřebovávají kredit, ale přerušují vaši logiku parsování.

Ignorování streamovaných odpovědí v async prostředích

Naše API podporuje streamování prostřednictvím Server-Sent Events (SSE). Pokud použijete synchronního klienta pro dlouhou generaci, narazíte na limity časového limitu. Asynchronní prostředí očekávají proud částečných částí, nikoliv jediný masivní payload.

Každý chunk obsahuje data o využití tokenů v posledním payloadu. To vám umožňuje sledovat náklady v reálném čase. Bez streamování může uživatelské rozhraní na několik sekund zamrznout během intenzivní generace. Použijte

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

blokovat, abyste viděli správné zpracování na straně klienta.

Nastavení nesprávného ID modelu v těle požadavku

Mnoho vývojářů výchozím způsobem používá „gpt-3.5-turbo“ nebo „gpt-4“. Naše API vyžaduje, aby ID modelu bylo přesně „uncensored“. Odeslání jakéhokoli jiného ID vede k chybě 404 nebo modelu nenalezeno. Toto není model specifický pro výrobce jako GPT nebo Claude.

Jedná se o model s otevřenými váhami běžící na naší infrastruktuře. Ujistěte se, že konfigurace vašeho SDK ukazuje na HTTPS://api.dolphinmodelai.com/v1 a používá „uncensored“ jako název modelu. Toto je jediný model, který poskytujeme.

Zapomenutí zpracovat formáty tool_choice a volání funkcí

Volání funkcí je podporováno, ale formát musí odpovídat standardům OpenAI. Pokud chcete vynucené použití nástrojů, musíte explicitně specifikovat tool_choice. API přijímá tools, tool_choice a standardní formáty zpráv.

Nesprávně formátované definice nástrojů vedou k chybám při parsování na straně klienta. Ujistěte se, že jsou vaše JSON schémata platná. Model vrací strukturovaný JSON, který musí váš kód parsovat. Použijte

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

blok pro příklad definice nástroje.

Nepochopení rozdílu mezi cenami vstupních a výstupních dat

Vstupní tokeny stojí $0.15 za 1M tokenů. Výstupní tokeny stojí $0.50 za 1M tokenů. Výstup je čtyřikrát dražší než vstup. Tento poměr je standardní pro většinu API LLM, ale významně ovlivňuje váš rozpočet.

Předplacený kredit se účtuje na základě skutečného využití tokenů. Chyby a odmítnutí jsou zdarma. Pokud odešlete prompt o 10k tokenů a získáte odpověď o 10k tokenů, platíte za obě. Dobití kryptoměnami je vyžadováno. Můžete dobít USDT na TRC20 nebo USDC na Base. Minimální dobíjecí částka je $20. Bonusy platí při částkách $50 (+5 %), $100 (+10 %) a $200 (+15 %).

Neprověřování formátu odpovědi na chyby v režimu JSON

Režim JSON vyžaduje, abyste nastavili response_format na {"type": "json_object"}. Bez toho může model vrátit markdown nebo text, který rozbije váš parser. To je častý zdroj selhání integrace.

Ujistěte se, že vaše schéma je přísné. Model nezaručuje dokonalé JSON, pokud je schéma nejednoznačné. Použijte

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

blokovat, abyste viděli, jak vynutit výstup ve formátu JSON. To snižuje režii následného zpracování.

Předpokládaje, že všechny parametry SDK OpenAI fungují identicky

Parametry jako teplota, top_p, stop, seed, presence_penalty a frequency_penalty fungují podobně jako u OpenAI. Ne všechny parametry pro okrajové případy jsou však podporovány. Podporujeme základní sadu potřebnou pro většinu případů použití.

Streamování, volání funkcí a režim JSON jsou plně podporovány. Podívejte se na

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

blok pro základní požadavek. Vyhněte se předpokladu, že nepodporované parametry budou potichu ignorovány. Mohou způsobit chyby.

Přehlédnutí limitu těla požadavku 8 MB

Maximální velikost těla požadavku je 8 MB. Pokud odešlete velké soubory nebo rozsáhlý kontext, můžete tento limit překročit. Toto je pevné omezení na bráně API. Požadavky překračující tuto velik jsou okamžitě odmítnuty.

Ujistěte se, že je váš payload komprimovaný nebo zkrácený. Použijte

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

příklad, abyste viděli, jak efektivně zpracovávat dlouhá kontextová okna. Tento limit se vztahuje na celý požadavek, včetně hlaviček a těla.