← 小课堂

为什么免费 AI API 会返回 429?5 分钟了解速率限制

为什么免费 AI API 会返回 429?5 分钟了解速率限制

速率限制(RPM、TPM、RPD) · 构建者 · 5 分钟 · token、LLM · 在 [Tokens](/explain/tokens/) 之后

429 表示某个速率限制已满。免费 API 会同时从多个维度计量你:每分钟请求数、每分钟 token 数、每天请求数。哪个先满,就会拒绝调用,直到它释放。

开始前:你能向朋友解释这个吗?1 2 3 4 5

1 = 完全不能 · 5 = 轻松解释

  • 1 先猜一猜

你的免费 API 在一分钟内 5 次请求后返回 429,但限制是每分钟 30 次。为什么?

  • A 服务器坏了
  • B 另一个限制先满了,比如每分钟 token 数
  • C 你的密钥被封了
  • 2 看一看

三个计量器,一个密钥

1 / 4

请求 / 分钟 0 / 30

token / 分钟 0 / 8,000

请求 / 天 0 / 1,000

三个计量器,一个密钥。尚未发送任何内容。

示意请求,每个 1,500 token

限制:Groq 免费计划,openai/gpt-oss-20b,console.groq.com/docs/rate-limits(检查于 2026-10-21)

免费密钥同时按三种方式计量:每分钟请求数、每分钟 token 数、每天请求数。

◀

-

-

  • 重置 ▶

请求、token 和天数分别是独立的计量器;最先满的那个会返回 429,响应会告诉你需要等待多久。

  • RPM 是每分钟请求数,TPM 是每分钟 token 数(你的提示词加上回答),RPD 是每天请求数。Groq 的免费计划为每个模型列出这三项;OpenRouter 的免费模型列出每分钟和每天的请求限制。长提示词只算一次请求,但会消耗数千 token,所以 TPM 往往最先满。
  • 4 你就是模型

你是 API 服务器。对于每个传入请求,查看这个密钥已用了多少,然后回答 200 OK 或 429 Too Many Requests。

第 1 个请求,共 6 个 · 你是 Groq 服务器

本分钟:已处理 4 个请求,7,600 token

新请求:600 token

200 OK 429 Too Many Requests

Groq 免费计划(gpt-oss-20b)和 OpenRouter :free 限制,检查于 2026-10-21

检查每个计量器:只要一个满了就足以触发 429。

我完成了——展示模型

  • 5 检查

哪种请求最可能快速填满每分钟 token 数?

  • A 粘贴一份 20 页文档并要求总结
  • B 问十次“hi”
  • C 每次调用之间等待一分钟
  • 6 复述

用一句话向朋友解释 429。对比

  • 7 任务 · 5 分钟

创建一个免费 Groq 密钥,用 curl -i 发送一次聊天请求,并在回复中找到 x-ratelimit-remaining-tokens 和 x-ratelimit-remaining-requests 响应头。然后在控制台打开你的限制页面并核对数字。

[获取免费 Groq 密钥](/learn/free-groq-api-key/) 完成

三道快速题

从本课题库中随机抽取;下次会不同。

完成了吗?

现在:你能向朋友解释这个吗?1 2 3 4 5

1 = 完全不能 · 5 = 轻松解释

标记完成 先回答三道快速题。

深入了解

来源

  • https://console.groq.com/docs/rate-limits(Free Plan Limits 标签页,在 Chrome 中阅读,检查于 2026-10-21;页面无更新日期):openai/gpt-oss-20b 30 RPM、1K RPD、8K TPM、200K TPD;“你会触发哪种限制类型,取决于你先达到哪个阈值。”;429 + retry-after(秒);“速率限制适用于组织级别,而不是单个用户。”;响应头示例 retry-after: 2
  • https://openrouter.ai/docs/api-reference/limits(检查于 2026-10-21;页面无更新日期)::free 变体为每分钟 20 次请求;购买少于 10 credits 时每天 50 次,至少 10 credits 时每天 1000 次;429 可能由 OpenRouter 或上游提供商返回;“使用指数退避重试……存在 Retry-After 响应头时请遵循它。”
  • 图中的请求大小(每个 1,500 token)仅为示意,并已标注 发布于 2026 年 10 月 21 日 · 更新于 2026 年 10 月 21 日

[相关:为什么它会数错“strawberry”中的 r?](/explain/tokens/)[相关:它怎么知道“king”接近“queen”?](/explain/embeddings/)[相关:它怎么知道“it”指的是什么?](/explain/self-attention/)

译自 aifree.dev 教程栏目 · 信息以原文为准