Dolphin AI Troubleshooting: Kesalahan Integrasi API Umum

Mengasumsikan 'uncensored' berarti 'tidak ada filter sama sekali'

Tanpa sensor tidak berarti model tidak memiliki batas. Ini secara khusus berarti model tidak akan menolak topik dewasa hukum, kontroversial, atau kreatif yang mungkin diblokir oleh model standar. LLM tanpa sensor kami menerima prompt apa pun tanpa moralisasi, tetapi masih memberlakukan batas konten keras terkait anak di bawah umur.

Misalnya, jika Anda meminta konten seksual yang melibatkan anak di bawah umur, API akan mengembalikan penolakan terlepas dari pengaturan uncensored. Ini adalah aturan keras yang diterapkan di lapisan inferensi. Semua konten dewasa hukum lainnya, termasuk fiksi eksplisit atau debat bernuansa, akan dilewati tanpa filter lunak.

Membuat Kebingungan antara jendela konteks dengan token output maksimum

Jendela konteks adalah 100.000 token, tetapi output maksimum per permintaan adalah 16.000 token. Perbedaan ini kritis untuk generasi dokumen panjang. Jika Anda mengirim prompt 90k token dan meminta 30k token, permintaan gagal atau terpotong secara tidak terduga.

• Konteks maks: 100.000 token (input + output digabungkan).
• Output maksimal: 16,000 token per permintaan.
• Output default: 2.048 token jika max_tokens tidak diatur.

Selalu atur max_tokens secara eksplisit dalam panggilan API Anda. Ini mencegah penggunaan token yang melonjak dan memastikan penagihan yang dapat diprediksi. Kesalahan yang melebihi batas ini tidak mengonsumsi kredit, tetapi merusak logika parsing Anda.

Mengabaikan respons streaming di lingkungan async

API kami mendukung streaming melalui Server-Sent Events (SSE). Jika Anda menggunakan klien sinkron untuk generasi panjang, Anda akan mencapai batas waktu. Lingkungan asinkron mengharapkan aliran chunk parsial, bukan payload besar tunggal.

Setiap chunk mencakup data penggunaan token dalam payload akhir. Ini memungkinkan Anda melacak biaya secara waktu nyata. Tanpa streaming, UI Anda mungkin membeku selama beberapa detik selama generasi berat. Gunakan

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

memblokir untuk melihat penanganan sisi klien yang benar.

Mengatur ID model yang salah dalam tubuh permintaan

Banyak pengembang secara default menggunakan "gpt-3.5-turbo" atau "gpt-4". API kami memerlukan ID model tepat "uncensored". Mengirim ID lain akan menghasilkan kesalahan 404 atau model tidak ditemukan. Ini bukan model spesifik vendor seperti GPT atau Claude.

Ini adalah model dengan bobot terbuka yang berjalan di infrastruktur kami. Pastikan konfigurasi SDK Anda mengarah ke HTTPS://api.dolphinmodelai.com/v1 dan menggunakan "uncensored" sebagai nama model. Ini adalah satu-satunya model yang kami layani.

Melupakan menangani format tool_choice dan pemanggilan fungsi

Pemanggilan fungsi didukung, tetapi formatnya harus sesuai dengan standar OpenAI. Anda harus menentukan tool_choice secara eksplisit jika Anda ingin penggunaan alat yang dipaksa. API menerima tools, tool_choice, dan format pesan standar.

Definisi alat yang salah format menyebabkan error parsing di sisi klien. Pastikan skema JSON Anda valid. Model mengembalikan JSON terstruktur yang harus diuraikan oleh kode Anda. Gunakan

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

blok untuk contoh definisi alat.

Kesalahpahaman Tentang Perbedaan Harga Input dan Output

Token input berharga $0.15 per 1M token. Token output berharga $0.50 per 1M token. Output empat kali lebih mahal daripada input. Rasio ini standar untuk sebagian besar API LLM tetapi memengaruhi anggaran Anda secara signifikan.

Kredit prabayar dibebankan berdasarkan penggunaan token nyata. Kesalahan dan penolakan tidak dikenakan biaya. Jika Anda mengirim prompt 10k token dan mendapatkan respons 10k token, Anda membayar untuk keduanya. Isi ulang kripto diperlukan. Anda dapat mengisi ulang dengan USDT di TRC20 atau USDC di Base. Minimal isi ulang adalah $20. Bonus berlaku pada $50 (+5%), $100 (+10%), dan $200 (+15%).

Tidak memeriksa format respons untuk kesalahan mode JSON

Mode JSON mengharuskan Anda mengatur response_format menjadi {"type": "json_object"}. Tanpa ini, model mungkin mengembalikan markdown atau teks yang merusak parser Anda. Ini adalah sumber umum kegagalan integrasi.

Pastikan skema Anda ketat. Model tidak menjamin JSON sempurna jika skema ambigu. Gunakan

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

memblokir untuk melihat cara membatasi output JSON. Ini mengurangi beban pemrosesan pasca-kirim.

Mengasumsikan semua parameter SDK OpenAI bekerja secara identik

Parameter seperti temperature, top_p, stop, seed, presence_penalty, dan frequency_penalty bekerja mirip dengan OpenAI. Namun, tidak semua parameter edge-case didukung. Kami mendukung set inti yang diperlukan untuk sebagian besar kasus penggunaan.

Streaming, pemanggilan fungsi, dan mode JSON didukung sepenuhnya. Periksa

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

blok untuk permintaan dasar. Hindari mengasumsikan parameter yang tidak didukung akan diabaikan dengan lancar. Mereka dapat menyebabkan kesalahan.

Mengabaikan batas body permintaan 8MB

Ukuran badan permintaan maksimum adalah 8 MB. Jika Anda mengirim file besar atau konteks yang luas, Anda mungkin melebihi batas ini. Ini adalah kendala keras pada gateway API. Permintaan yang melebihi ukuran ini ditolak segera.

Pastikan payload Anda dikompresi atau dipangkas. Gunakan

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

contoh untuk melihat cara menangani konteks besar secara efisien. Batas ini berlaku untuk seluruh permintaan, termasuk header dan body.