¿Qué es un límite de peticiones de API? Límites, reintentos, contexto
Un límite de peticiones limita cuánto tráfico puede enviar una clave a una API en un tiempo determinado. Esta página explica qué es un límite de peticiones de API en la práctica, cómo programar para evitarlo y cuáles son los límites de esta API.
Actualizado

Puntos clave
- Un límite de peticiones restringe las peticiones por minuto o las peticiones en curso, para que un cliente no sature el servicio.
- Los límites de peticiones no son lo mismo que la ventana de contexto: uno limita el tráfico, el otro limita el tamaño de una única petición.
- Clave completa: 8 peticiones simultáneas y 300 por minuto. Clave de prueba: 2 simultáneas y 60 por minuto.
- Maneja los límites con un límite de concurrencia, reintentos con backoff y revisando las cabeceras de respuesta.
Qué es un límite de peticiones
Entonces, ¿qué es un límite de peticiones de API? Es una regla que indica cuántas llamadas puede hacer una cuenta o clave en un intervalo de tiempo, o cuántas pueden ejecutarse a la vez. Si superas el límite, el servidor rechaza las llamadas adicionales en lugar de servirlas. La mayoría de las APIs HTTP señalan esto con el código de estado 429 (Too Many Requests), y muchas añaden un encabezado que indica cuándo reintentar. Consulta la documentación de cada servicio para conocer su comportamiento exacto.
Los límites existen porque un servidor de modelos tiene una cantidad fija de capacidad de cómputo. Sin ellos, un script en un bucle cerrado podría ralentizar a todos los demás. Para ti como desarrollador, esto significa dos cosas: tu código debe esperar rechazos y recuperarse de ellos, y tu diseño debe distribuir el trabajo en lugar de enviarlo todo a la vez.
Los tres tipos de límite que encontrarás
Los proveedores combinan estos límites, así que lee cuáles aplican a tu clave.
| Tipo | Lo que cuenta | Efecto típico |
|---|---|---|
| Peticiones por minuto | Llamadas iniciadas en un minuto móvil | Los picos se rechazan aunque cada llamada sea pequeña |
| Concurrencia | Llamadas en curso al mismo momento | Los workers en paralelo que superen el límite se rechazan o ponen en cola |
| Cuota de tokens o gasto | Tokens o dinero usados por minuto, día o mes | Las peticiones grandes alcanzan el límite antes que las pequeñas |
La concurrencia es más importante para los modelos de lenguaje que para las APIs ordinarias, porque una única generación puede tardar varios segundos. Diez workers esperando una respuesta larga mantienen diez espacios ocupados todo el tiempo.
Los límites de esta API
Esta API limita las peticiones por minuto y la concurrencia, por clave:
| Tipo de clave | Peticiones simultáneas | Peticiones por minuto |
|---|---|---|
| Clave completa (con crédito) | 8 | 300 |
| Clave de prueba | 2 | 60 |
Hay otros dos números que vale la pena conocer. El cuerpo máximo de la petición es de 8 MB, y cada respuesta incluye cabeceras que puedes leer: X-Request-Id para identificar una llamada cuando solicites ayuda, X-Balance-USD para tu crédito restante, y X-RateLimit-Limit-Requests y X-RateLimit-Limit-Concurrency para los límites que aplican a tu clave. Puedes verlos con curl:
curl -i https://api.abliteratedapi.com/v1/chat/completions -H "Authorization: Bearer $ABLITERATED_API_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","max_tokens":5,"messages":[{"role":"user","content":"Hi"}]}'
Los límites son los mismos independientemente del cliente que uses; la API es compatible con OpenAI, por lo que cualquier SDK de OpenAI funciona una vez que cambies la URL base a https://api.abliteratedapi.com/v1.
¿Qué límite alcanzarás realmente?
Divide los dos números. Una clave completa puede ejecutar 8 peticiones a la vez y 300 por minuto, lo que es un promedio de 5 por segundo. Para alcanzar 300 por minuto con solo 8 en curso, cada llamada tendría que terminar en 1.6 segundos en promedio (8 x 60 / 300). Las respuestas de un modelo de lenguaje suelen tardar más que eso cuando tienen más de unas pocas oraciones, por lo que en una clave completa el límite de concurrencia suele ser el primero en activarse.
Toma un caso hipotético donde la llamada promedio dura 10 segundos. Ocho espacios te dan 8 x 60 / 10 = 48 peticiones por minuto, muy por debajo de 300. La misma lógica en una clave de prueba: 2 espacios y 60 por minuto significa que se necesitan llamadas de menos de 2 segundos antes de que importe el límite por minuto. Estas duraciones son una ilustración, no una medición. Mide tus propias llamadas e inserta la cifra real.
El consejo práctico: dimensiona tu pool de workers al límite de concurrencia, no al límite de peticiones, y deja que el límite por minuto actúe como red de seguridad.
Cómo manejar límites en código
Tres hábitos cubren casi todos los casos.
- Limita la paralelización tú mismo. Un semáforo dimensionado a tu límite de concurrencia significa que rara vez te rechazarán.
- Reintenta con backoff exponencial y jitter. Espera 1 segundo, luego 2, luego 4, añadiendo una fracción aleatoria para que muchos workers no reintenten al mismo tiempo. Detente después de unos pocos intentos.
- No reintentes a ciegas. Una petición malformada o una clave mala fallará siempre. Reintenta solo por límite de peticiones y errores temporales del servidor.
El SDK oficial de Python de OpenAI ya reintenta en 429 y errores del servidor con backoff, y lo controlas con max_retries. Combinado con un semáforo, un trabajo por lotes se ve así:
import asyncio
import os
from openai import AsyncOpenAI
client = AsyncOpenAI(
base_url="https://api.abliteratedapi.com/v1",
api_key=os.environ["ABLITERATED_API_KEY"],
max_retries=5,
)
sem = asyncio.Semaphore(8) # use 2 on a trial key
async def ask(prompt):
async with sem:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
async def main():
prompts = [f"Give one short fact about the number {n}." for n in range(40)]
answers = await asyncio.gather(*(ask(p) for p in prompts))
print(len(answers), "answers")
asyncio.run(main())
Cuarenta prompts pasan, nunca más de ocho a la vez. Si construyes tu propio cliente, incluye las mismas dos ideas: un límite en las llamadas en curso y un retraso de reintento que crezca.
Los límites de peticiones no son la ventana de contexto
La gente suele confundir los dos, porque ambos producen errores cuando pides demasiado. Un límite de peticiones controla cuántas peticiones haces. La ventana de contexto controla qué tan grande puede ser una petición.
En esta API, la ventana de contexto es de 100,000 tokens, contando el prompt y la generación juntos. Si tu prompt tiene 95,000 tokens, quedan como máximo 5,000 para la respuesta. El parámetro max_tokens es opcional: si no lo indicas, la generación puede usar todo lo que quede en la ventana. Es buena práctica establecerlo si sabes que la respuesta debe ser corta, porque los tokens de salida cuestan $0.50 por 1M frente a $0.15 por 1M para entrada. Un prompt completo de 95,000 tokens cuesta 95,000 x 0.15 / 1,000,000 = $0.01425 en entrada.
Un límite de peticiones no reduce la ventana de contexto, y una ventana grande no consume más límite de peticiones. Cada llamada es una petición, independientemente de su tamaño, siempre que el cuerpo esté por debajo de 8 MB.
Streaming y límites de peticiones
Con stream: true la respuesta llega por eventos enviados por el servidor, token a token, y el uso se cuenta al final. Una llamada en streaming ocupa un espacio de concurrencia hasta que termina, así que un lector lento que mantiene conexiones abiertas retiene espacios más tiempo del esperado. Cierra los streams que ya no necesites.
Errores comunes
- Sin tope de workers. Un pool de 50 workers con un límite de 8 provoca rechazos. Ajusta el pool al límite de concurrencia.
- Reintentos inmediatos. Reintentar de inmediato tras un rechazo añade carga en el peor momento. Espera, y espera más cada vez.
- Tratar cada error como un límite de peticiones. Un tiempo de espera, una clave incorrecta y un cuerpo demasiado grande requieren soluciones distintas. Registra el código de estado y el encabezado
X-Request-Id. - Compartir una clave para todo. Un trabajo por lotes nocturno y una función de chat en vivo en la misma clave compiten por los mismos 8 espacios. Usa claves separadas o programa el trabajo para horas tranquilas.
- Ignorar streams lentos. Un cliente que deja de leer pero mantiene la conexión abierta sigue ocupando un slot.
Añade un contador de llamadas rechazadas a tus registros. Si se mantiene en cero, tu límite está configurado correctamente. Si sube, reduce el tamaño del pool antes de añadir reintentos.
Planificación alrededor de los límites
Los límites de peticiones y el presupuesto están vinculados. Ocho espacios a máxima capacidad pueden gastar crédito rápidamente, así que decide cuánto estás dispuesto a gastar antes de iniciar un trabajo. La tarifa es pago por uso, con crédito que no caduca y sin cargo por peticiones fallidas o rechazadas. Lee la página de precios para tarifas y bonificaciones de recarga, y el inicio rápido para parámetros de petición. Para probar tu lógica de reintentos de forma segura, obtén una clave de API y usa el crédito de prueba, que no requiere tarjeta. Solo recuerda que funciona con los límites de prueba más bajos.
Más guías
Preguntas y respuestas
¿Qué pasa si excedo un límite de peticiones?
El servidor rechaza las peticiones adicionales, normalmente con HTTP 429, y tu código debe esperar y reintentar. Reduce la velocidad o baja tu paralelismo hasta que cesen los errores.
¿Cuáles son los límites de esta API?
Una clave completa permite 8 peticiones simultáneas y 300 por minuto. Una clave de prueba permite 2 peticiones simultáneas y 60 por minuto.
¿Es un límite de peticiones lo mismo que la ventana de contexto?
No. Un límite de peticiones controla cuántas peticiones puedes enviar a lo largo del tiempo. La ventana de contexto, de 100.000 tokens aquí, controla qué tan grande puede ser una petición y su respuesta.
¿Cómo veo mis límites desde una respuesta?
Lee las cabeceras de respuesta X-RateLimit-Limit-Requests y X-RateLimit-Limit-Concurrency. La cabecera X-Balance-USD muestra tu crédito restante, y X-Request-Id identifica una llamada específica.
¿Las peticiones rechazadas cuestan dinero?
No. Las peticiones fallidas o rechazadas no se cobran en esta API.
Tu clave está a un formulario de distancia
Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.
Obtener clave de API