Dolphin Solución de problemas de IA: Errores comunes de integración API

Asumir que 'sin censura' significa 'sin filtros en absoluto'

Sin censura no significa que el modelo no tenga límites. Significa específicamente que el modelo no se negará a temas adultos lícitos, controvertidos o creativos que los modelos estándar podrían bloquear. Nuestro LLM sin censura acepta cualquier prompt sin moralizar, pero aún impone un límite estricto de contenido respecto a los menores.

Por ejemplo, si solicitas contenido sexual que involucra a menores, la API devolverá una negativa independientemente de la configuración sin censura. Esta es una regla estricta aplicada en la capa de inferencia. Todo el contenido adulto legal restante, incluida la ficción explícita o debates matizados, pasa sin filtros suaves.

Confundir ventana de contexto con tokens de salida máximos

La ventana de contexto es de 100.000 tokens, pero la salida máxima por solicitud es de 16.000 tokens. Esta distinción es crítica para la generación de documentos largos. Si envías un prompt de 90k tokens y solicitas 30k tokens, la solicitud falla o se trunca inesperadamente.

• Contexto máximo: 100,000 tokens (entrada + salida combinados).
• Salida máxima: 16.000 tokens por solicitud.
• Salida predeterminada: 2,048 tokens si max_tokens no está establecido.

Establece siempre max_tokens explícitamente en tus llamadas a la API. Esto evita el uso descontrolado de tokens y garantiza una facturación predecible. Los errores que excedan estos límites no consumen crédito, pero rompen tu lógica de análisis.

Ignorar respuestas en streaming en entornos asíncronos

Nuestra API admite streaming mediante Server-Sent Events (SSE). Si usas un cliente sincrónico para una generación larga, alcanzarás los límites de tiempo de espera. Los entornos asíncronos esperan un flujo de fragmentos parciales, no una única carga masiva.

Cada fragmento contiene datos de uso de tokens en la carga útil final. Esto te permite rastrear los costos en tiempo real. Sin streaming, tu interfaz de usuario puede congelarse durante varios segundos durante una generación intensiva. Usa el

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

bloque para ver el manejo correcto del lado del cliente.

Configurar el ID del modelo incorrecto en el cuerpo de la solicitud

Muchos desarrolladores usan por defecto "gpt-3.5-turbo" o "gpt-4". Nuestra API requiere que el ID del modelo sea exactamente "uncensored". Enviar cualquier otro ID resulta en un error 404 o modelo no encontrado. Este no es un modelo específico del proveedor como GPT o Claude.

Es un modelo de pesos abiertos ejecutado en nuestra infraestructura. Asegúrate de que la configuración de tu SDK apunte a HTTPS://api.dolphinmodelai.com/v1 y use "uncensored" como nombre del modelo. Este es el único modelo que servimos.

Olvidar manejar los formatos de tool_choice y llamada a funciones

La llamada a funciones es compatible, pero el formato debe coincidir con los estándares de OpenAI. Debes especificar tool_choice explícitamente si deseas forzar el uso de herramientas. La API acepta tools, tool_choice y los formatos de mensaje estándar.

Las definiciones de herramientas con formato incorrecto provocan errores de análisis en el lado del cliente. Asegúrate de que tus esquemas JSON sean válidos. El modelo devuelve JSON estructurado que tu código debe analizar. Utiliza el

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinmodelai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

bloque para un ejemplo de definición de herramienta.

Comprensión errónea de la diferencia entre los precios de entrada y salida

Los tokens de entrada cuestan $0.15 por cada 1M de tokens. Los tokens de salida cuestan $0.50 por cada 1M de tokens. La salida es cuatro veces más cara que la entrada. Esta proporción es estándar en la mayoría de las APIs de LLM, pero afecta significativamente tu presupuesto.

El crédito prepagado se cobra según el uso real de tokens. Los errores y las denegaciones son gratuitos. Si envías una solicitud de 10k tokens y obtienes una respuesta de 10k tokens, pagas por ambos. Se requieren recargas con criptomonedas. Puedes recargar con USDT en TRC20 o USDC en Base. La recarga mínima es de $20. Las bonificaciones se aplican en $50 (+5%), $100 (+10%) y $200 (+15%).

No verificar el formato de respuesta para errores de modo JSON

El modo JSON requiere que establezcas response_format a {"type": "json_object"}. Sin esto, el modelo podría devolver markdown o texto que rompa tu analizador. Esta es una fuente común de fallos de integración.

Asegúrate de que tu esquema sea estricto. El modelo no garantiza un JSON perfecto si el esquema es ambiguo. Utiliza el

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinmodelai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

bloque para ver cómo forzar la salida JSON. Esto reduce la sobrecarga del post-procesamiento.

Asumiendo que todos los parámetros del SDK de OpenAI funcionan de manera idéntica

Parámetros como temperature, top_p, stop, seed, presence_penalty y frequency_penalty funcionan de manera similar a OpenAI. Sin embargo, no todos los parámetros de casos extremos están soportados. Soportamos el conjunto básico necesario para la mayoría de los casos de uso.

Streaming, llamada de funciones y modo JSON son totalmente compatibles. Consulta el

Copycurl https://api.dolphinmodelai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run unit tests for the payment module"}]
  }'

bloque para una solicitud básica. Evita asumir que los parámetros no compatibles se ignorarán sin problemas. Pueden causar errores.

Ignorar el límite de cuerpo de solicitud de 8MB

El tamaño máximo del cuerpo de la solicitud es de 8 MB. Si envías archivos grandes o contexto extenso, es posible que superes este límite. Esta es una restricción estricta en la puerta de enlace de la API. Las solicitudes que superan este tamaño se rechazan inmediatamente.

Asegúrate de que tu carga útil esté comprimida o truncada. Usa el

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ejemplo para ver cómo manejar contextos grandes de manera eficiente. Este límite se aplica a toda la solicitud, incluidos encabezados y cuerpo.