Dolphin ai Устранение неполадок: Распространенные ошибки интеграции API

Предполагая, что 'uncensored' означает 'полное отсутствие фильтров'

Нецензурированный контент не означает, что у модели нет ограничений. Он конкретно означает, что модель не будет отказывать в законном взрослом, противоречивом или творческом контенте, который могут заблокировать стандартные модели. Наша нецензурированная LLM принимает любой запрос без морализаторства, но она все еще устанавливает жесткое ограничение по контенту, касающееся несовершеннолетних.

Например, если вы запрашиваете сексуальный контент с участием несовершеннолетних, API вернет отказ независимо от настройки без цензуры. Это жесткое правило, применяемое на уровне вывода. Весь остальной законный взрослый контент, включая откровенную прозу или нюансированные дебаты, проходит без мягких фильтров.

Путаница контекстного окна с максимальным количеством выходных токенов

Окно контекста составляет 100 000 токенов, но максимальный объем вывода за один запрос — 16 000 токенов. Это различие критично для генерации длинных документов. Если вы отправите промпт объемом 90 000 токенов и запросите 30 000 токенов, запрос завершится ошибкой или будет усечен неожиданным образом.

• Макс. контекст: 100 000 токенов (ввод + вывод вместе).
• Максимальный объем вывода: 16 000 токенов на запрос.
• Вывод по умолчанию: 2 048 токенов, если max_tokens не задано.

Всегда явно указывайте max_tokens в ваших API-вызовах. Это предотвращает неконтролируемое использование токенов и обеспечивает предсказуемое выставление счетов. Ошибки, превышающие эти лимиты, не потребляют кредит, но нарушают логику разбора.

Игнорирование потоковых ответов в асинхронных средах

Наш API поддерживает потоковую передачу данных через Server-Sent Events (SSE). Если вы используете синхронный клиент для длительной генерации, вы столкнетесь с ограничениями времени ожидания. Асинхронные среды ожидают поток частичных чанков, а не один огромный полезный груз.

Каждый чанк содержит данные об использовании токенов в конечном полезном грузе. Это позволяет отслеживать расходы в реальном времени. Без стриминга ваш интерфейс может зависать на несколько секунд во время интенсивной генерации. Используйте

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

блок, чтобы увидеть правильную обработку на стороне клиента.

Указание неверного ID модели в теле запроса

Многие разработчики по умолчанию выбирают «gpt-3.5-turbo» или «gpt-4». Наш API требует, чтобы идентификатор модели был точно «uncensored». Отправка любого другого ID приводит к ошибке 404 или «модель не найдена». Это не модель конкретного вендора, как GPT или Claude.

Это модель с открытыми весами, работающая на нашей инфраструктуре. Убедитесь, что конфигурация вашего SDK указывает на HTTPS://api.dolphinmodelai.com/v1 и использует "uncensored" в качестве имени модели. Это единственная модель, которую мы предоставляем.

Забыть обрабатывать форматы tool_choice и вызова функций

Вызов функций поддерживается, но формат должен соответствовать стандартам OpenAI. Вы должны явно указать tool_choice, если хотите принудительное использование инструментов. API принимает tools, tool_choice и стандартные форматы сообщений.

Неправильно отформатированные определения инструментов приводят к ошибкам парсинга на стороне клиента. Убедитесь, что ваши JSON-схемы действительны. Модель возвращает структурированный JSON, который ваш код должен распарсить. Используйте

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

блок для примера определения инструмента.

Непонимание разницы в ценообразовании ввода и вывода

Вводные токены стоят $0.15 за 1M токенов. Выходные токены стоят $0.50 за 1M токенов. Выходные данные в четыре раза дороже ввода. Это соотношение является стандартным для большинства LLM API, но существенно влияет на ваш бюджет.

Предоплаченный баланс списывается за реальное потребление токенов. Ошибки и отказы в обработке бесплатны. Если вы отправите промпт на 10k токенов и получите ответ на 10k токенов, вы заплатите за оба. Требуется пополнение криптовалютой. Вы можете пополнить баланс USDT в сети TRC20 или USDC в сети Base. Минимальная сумма пополнения — $20. Бонусы начисляются при пополнении на $50 (+5%), $100 (+10%) и $200 (+15%).

Непроверка формата ответа на ошибки режима JSON

Режим JSON требует, чтобы вы установили response_format в {"type": "json_object"}. Без этого модель может вернуть markdown или текст, который сломает ваш парсер. Это распространенная причина сбоев интеграции.

Убедитесь, что ваша схема строгая. Модель не гарантирует идеальный JSON, если схема неоднозначна. Используйте

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

блок, чтобы увидеть, как принудительно выводить JSON. Это снижает накладные расходы на постобработку.

Предполагая, что все параметры SDK OpenAI работают идентично

Параметры temperature, top_p, stop, seed, presence_penalty и frequency_penalty работают аналогично OpenAI. Однако поддерживаются не все параметры для крайних случаев. Мы поддерживаем базовый набор, необходимый для большинства сценариев использования.

Стриминг, вызов функций и JSON-режим полностью поддерживаются. Проверьте

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

блок для базового запроса. Не предполагайте, что неподдерживаемые параметры будут игнорироваться корректно. Они могут вызвать ошибки.

Игнорирование ограничения тела запроса в 8 МБ

Максимальный размер тела запроса составляет 8 МБ. Если вы отправляете большие файлы или обширный контекст, вы можете превысить это ограничение. Это жесткое ограничение шлюза API. Запросы, превышающие этот размер, отклоняются немедленно.

Убедитесь, что ваш пакет сжат или усечен. Используйте

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

пример, чтобы увидеть, как эффективно обрабатывать большие контексты. Этот лимит применяется ко всему запросу, включая заголовки и тело.