Dolphin פתרון תקלות ב-AI: טעויות נפוצות בשילוב API

הנחה ש'ללא צנזורה' משמעו 'ללא מסננים כלל'

ללא צנזורה לא אומר שהמודל חסר מגבלות. זה ספציפית אומר שהמודל לא יסרב לנושאים חוקיים, למבוגרים, שנויים במחלוקת או יצירתיים שמודלים סטנדרטיים עשויים לחסום. ה-LLM הלא מצונזר שלנו מקבל כל פרומפט ללא מוסרנות, אבל הוא עדיין מכבד גבול תוכן קשה בנוגע לקטינים.

לדוגמה, אם תבקשו תוכן מיני העוסק בקטינים, ה-API יחזיר דחייה ללא קשר להגדרת uncensored. זהו כלל קשיח המיושם בשכבת ה-Inference. כל תוכן מבוגר חוקי אחר, כולל סיפורת עירומה או דיון עדין, יעבור ללא מסננים רכים.

בלבול בין חלון הקשר למקסימום טוקני פלט

חלון ההקשר הוא 100,000 טוקנים, אך ההפלט המרבי לכל בקשה הוא 16,000 טוקנים. הבדל זה קריטי ליצירת מסמכים ארוכים. אם תשלחו פלט (prompt) של 90k טוקנים ותבקשו 30k טוקנים, הבקשה תיכשל או תיקטע באופן בלתי צפוי.

• הקשר מקסימלי: 100,000 טוקנים (קלט + פלט משולבים).
• פלט מקסימלי: 16,000 טוקנים לכל בקשה.
• פלט ברירת מחדל: 2,048 אסימונים אם max_tokens לא מוגדר.

תמיד הגדר max_tokens במפורש בפקודות ה-API שלך. זה מונע שימוש טוקנים בורח ומבטיח חשבון צפוי. שגיאות שעוברות את המגבלות הללו לא צורכות אשראי, אך הן שוברות את לוגיקת הניתוח שלך.

התעלמות מתגובות סטרימינג בסביבות אסינכרוניות

ה-API שלנו תומך בזרימה באמצעות אירועים שנשלחו על ידי השרת (SSE). אם אתה משתמש בלקוח סינכרוני ליצירה ארוכה, תגיע למגבלות פסק זמן. סביבות אסינכרוניות מצפות לזרם של חלקים חלקיים, לא לפלט יחיד עצום.

כל מקטע כולל נתוני שימוש בסימונים במטען הסופי. זה מאפשר לכם לעקוב אחר עלויות בזמן אמת. ללא סטרימינג, הממשק שלכם עלול להיתקע למספר שניות במהלך יצירה כבדה. השתמשו ב

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

חסימה לראות את הטיפול הנכון בצד הלקוח.

הגדרת מזהה המודל הלא נכון בגוף הבקשה

מפתחים רבים מניחים כברירת מחדל "gpt-3.5-turbo" או "gpt-4". ה-API שלנו דורש את מזהה המודל להיות בדיוק "uncensored". שליחת כל מזהה אחר תגרום לשגיאת 404 או מודל לא נמצא. זה לא מודל ספציפי לספק כמו GPT או Claude.

זהו מודל בעל משקלים פתוח המופעל על התשתית שלנו. ודאו שהתצורה של ה-SDK שלכם מצביעה על HTTPS://api.dolphinmodelai.com/v1 ומשתמשת ב-"uncensored" כשם המודל. זהו המודל היחיד שאנו מגישים.

שכחת לטפל בפורמטים של tool_choice וקריאת פונקציות

תמיכה ב-Function calling נתמכת, אך הפורמט חייב להתאים לסטנדרטים של OpenAI. עליך לציין tool_choice במפורש אם ברצונך שימוש כפוי בכלים. ה-API מקבל את ה-tools, tool_choice, ופורמטים סטנדרטיים של הודעות.

הגדרות כלים בפורמט לא נכון מובילות לשגיאות פיענוח בצד הלקוח. ודא שהסכמות JSON שלך תקפות. המודל מחזיר JSON מבני שיש לנתח בקוד שלך. השתמש ב

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

בלוק לדוגמה להגדרת כלי.

הבנה שגויה של ההבדל בין תמחור קלט לפלט

אסימוני קלט עולים $0.15 לכל 1M אסימונים. אסימוני פלט עולים $0.50 לכל 1M אסימונים. הפלט יקר פי ארבעה מהקלט. יחס זה הוא סטנדרטי ברוב ממשקי ה-API של LLMs, אך משפיע משמעותית על התקציב שלך.

קרדיט מוקדם נגבה על פי שימוש אמיתי בטוקנים. שגיאות ודחיות ללא תשלום. אם אתה שולח פלט של 10k טוקנים ומקבל תגובה של 10k טוקנים, אתה משלם על שניהם. נדרשות העלאות יתרה באמצעות קריפטו. ניתן להעלות יתרה באמצעות USDT על TRC20 או USDC על Base. העלאת יתרה מינימלית היא $20. בונוסים חלים על $50 (+5%), $100 (+10%), ו-$200 (+15%).

אי-בדיקה של פורמט התגובה לשגיאות במצב JSON

מצב JSON דורש ממך להגדיר response_format ל-{"type": "json_object"}. ללא זה, המודל עשוי להחזיר Markdown או טקסט ששובר את המנתח שלך. זהו מקור נפוץ לכשלים בשילוב.

ודאו שהסקמה שלכם היא קפדנית. המודל לא מבטיח JSON מושלם אם הסקמה היא מעורפלת. השתמשו ב

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

חסימה לראות כיצף לאכוף פלט JSON. זה מפחית עלויות עיבוד לאחר מכן.

הנחה שכל פרמטרי SDK של OpenAI עובדים באותו אופן

פרמטרים כמו טמפרטורה, top_p, stop, seed, presence_penalty ו-frequency_penalty עובדים בצורה דומה ל-OpenAI. עם זאת, לא כל פרמטרי המקרה הקיצוני נתמנים. אנו תומכים בקבוצה הבסיסית הנדרשת לרוב מקרי השימוש.

זרימה, קריאת פונקציות ומצב JSON נתמנים במלואם. בדוק את

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

בלוק לבקשה בסיסית. הימנע מהנחה שפרמטרים לא נתמכים יתעלמו מהם בצורה חלקה. הם עלולים לגרום לשגיאות.

התעלמות ממגבלת גוף הבקשה של 8MB

גודל גוף הבקשה המקסימלי הוא 8 MB. אם אתה שולף קבצים גדולים או הקשר נרחב, ייתכן שתחרוג ממגבלה זו. זהו אילוץ קשיח על דלת ה-API. בקשות העולות על גודל זה נדחות מיד.

ודאו שהפלטודה דחוסה או מקוצרת. השתמשו ב-

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

דוגמה כדי לראות כיצד לטפל בהקשרים גדולים ביעילות. מגבלה זו חלה על הבקשה כולה, כולל כותרות וגוף.