Dolphin استكشاف أخطاء AI وإصلاحها: أخطاء تكامل API الشائعة

بافتراض أن 'غير الخاضع للرقابة' يعني 'بدون أي فلاتر'

عدم خضوع النموذج للرقابة لا يعني أن النموذج ليس لديه حدود. يعني تحديداً أن النموذج لن يرفض المواضيع البالغة القانونية، أو المثيرة للجدل، أو الإبداعية التي قد تحجبها النماذج القياسية. يقبل نموذج الذكاء الاصطناعي اللغوي غير الخاضع للرقابة لدينا أي توجيه بدون تحيز أخلاقي، لكنه لا يزال يفرض حداً صارماً للمحتوى فيما يتعلق بالقاصرين.

على سبيل المثال، إذا طلبت محتوى جنسيًا يتضمن قاصرين، فستعيد واجهة برمجة التطبيقات (API) رفضًا بغض النظر عن الإعداد غير الخاضع للرقابة. هذه قاعدة صارمة تُطبق على طبقة الاستدلال. كل المحتوى القانوني الآخر الموجه للبالغين، بما في ذلك الخيال الصريح أو النقاش الدقيق، يمر دون مرشحات ناعمة.

الخلط بين نافذة السياق وأقصى عدد من رموز الإخراج

سعة نافذة السياق هي 100,000 رمز، لكن الحد الأقصى للإخراج لكل طلب هو 16,000 رمز. هذا التمييز حاسم لتوليد المستندات طويلة الطول. إذا أرسلت نصًا توجيهيًا بحجم 90k رمز وطلبت 30k رمز، سيفشل الطلب أو يُقتطع بشكل غير متوقع.

• الحد الأقصى للسياق: 100,000 رمز مميز (الإدخال + الإخراج معًا).
• الإخراج الأقصى: 16,000 رمز لكل طلب.
• الإخراج الافتراضي: 2,048 رمزاً إذا لم يتم تعيين max_tokens.

قم دائمًا بتعيين max_tokens صراحةً في استدعاءات API الخاصة بك. يمنع هذا استهلاك الرموز المميزة الهارب ويضمن فوترة متوقعة. الأخطاء التي تتجاوز هذه الحدود لا تستهلك الرصيد، لكنها تكسر منطق التحليل الخاص بك.

تجاهل استجابات التدفق في البيئات غير المتزامنة

تدعم واجهة برمجة التطبيقات الخاصة بنا التدفق عبر أحداث الإرسال الخادمية (SSE). إذا استخدمت عميلاً متزامنًا لتوليد طويل، فستصل إلى حدود انتهاء المهلة. تتوقع البيئات غير المتزامنة تدفقًا للشجز الجزئية، وليس حمولة ضخمة واحدة.

يحتوي كل جزء على بيانات استخدام الرموز في الحمولة النهائية. يتيح لك ذلك تتبع التكاليف في الوقت الفعلي. بدون التدفق، قد تتجمد واجهة المستخدم لعدة ثوانٍ أثناء التوليد الثقيل. استخدم

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

حظر لمعرفة التعامل الصحيح من جانب العميل.

ضبط معرف النموذج الخاطئ في جسم الطلب

يفترض العديد من المطورين افتراضياً "gpt-3.5-turbo" أو "gpt-4". تتطلب واجهة برمجة التطبيقات الخاصة بنا أن يكون معرف النموذج بالضبط "uncensored". إرسال أي معرف آخر يؤدي إلى خطأ 404 أو خطأ عدم العثور على النموذج. هذا ليس نموذجاً خاصاً بالبائع مثل GPT أو Claude.

إنه نموذج مفتوح الأوزاء يعمل على بنيتنا التحتية. تأكد من أن تكوين SDK الخاص بك يشير إلى HTTPS://api.dolphinmodelai.com/v1 ويستخدم "uncensored" كاسم النموذج. هذا هو النموذج الوحيد الذي نقدمه.

نسيان التعامل مع تنسيقات tool_choice واستدعاء الوظائف

يدعم استدعاء الوظائف، ولكن يجب أن يتطابق التنسيق مع معايير OpenAI. يجب أن تحدد tool_choice صراحةً إذا كنت تريد استخدام الأدوات بشكل قسري. تقبل واجهة برمجة التطبيقات أدوات و tool_choice وتنسيقات الرسائل القياسية.

تؤدي تعريفات الأدوات غير المنسقة بشكل صحيح إلى أخطاء تحليل على جانب العميل. تأكد من أن مخططات JSON الخاصة بك صالحة. يعيد النموذج JSON مهيكل يجب على رمزك تحليله. استخدم

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

كتلة كمثال على تعريف الأداة.

سوء فهم الفرق بين تسعير الإدخال والإخراج

ت kostet tokens المدخلات $0.15 لكل مليون token. kostet tokens المخرجات $0.50 لكل مليون token. المخرجات أغلى بأربع مرات من المدخلات. هذا النسبة قياسية في معظم واجهات برمجة تطبيقات LLM لكنها تؤثر بشكل كبير على ميزانيتك.

يتم خصم الرصيد المدفوع مسبقاً بناءً على استهلاك الرموز الفعلية. الأخطاء والرفض مجانية. إذا أرسلت طلب مدخل بحجم 10k رمز وحصلت على إخراج بحجم 10k رمز، تدفع مقابل كليهما. الشحن بالعملات المشفرة مطلوب. يمكنك الشحن بـ USDT على TRC20 أو USDC على Base. الحد الأدنى للشحن هو $20. تنطبق المكافآت عند $50 (+5%)، و$100 (+10%)، و$200 (+15%).

عدم التحقق من تنسيق الاستجابة لأخطاء وضع JSON

يتطلب منك وضع JSON ضبط response_format على {"type": "json_object"}. بدون ذلك، قد يعيد النموذج Markdown أو نصًا يكسر المفسر الخاص بك. هذا مصدر شائع لفشل التكامل.

تأكد من أن المخطط الخاص بك صارم. لا يضمن النموذج صحة تنسيق JSON المثالي إذا كان المخطط غامضًا. استخدم

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

حظر لمعرفة كيفية فرض إخراج JSON. هذا يقلل من عبء المعالجة اللاحقة.

بافتراض أن جميع معلمات SDK لـ OpenAI تعمل بنفس الطريقة

تعمل المعلمات مثل درجة الحرارة وtop_p وstop والبذلة وpresence_penalty وfrequency_penalty بشكل مشابه لـ OpenAI. ومع ذلك، لا يتم دعم جميع المعلمات ذات الحالات الحدية. ندعم المجموعة الأساسية المطلوبة لمعظم حالات الاستخدام.

يتم دعم البث، واستدعاء الوظائف، ووضع JSON بالكامل. تحقق من

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

كتلة لطلب أساسي. تجنب افتراض أن المعلمات غير المدعومة سيتم تجاهلها بسلاسة. قد تسبب أخطاء.

تجاهل حد حجم طلب 8 ميجابايت

حجم جسم الطلب الأقصى هو 8 ميجابايت. إذا أرسلت ملفات كبيرة أو سياقًا موسعًا، فقد تتجاوز هذا الحد. هذا قيد صارم على بوابة واجهة الـ API. يتم رفض الطلبات التي تتجاوز هذا الحجم على الفور.

تأكد من ضغط حمولتك أو اقتطاعها. استخدم

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

مثال لرؤية كيفية التعامل مع السياقات الكبيرة بكفاءة. ينطبق هذا الحد على الطلب بأكمله، بما في ذلك الرؤوس والجسم.