Groq 免费额度每日刷新：LPU 极速推理 API 申请与接入教程

Groq 提供与 OpenAI 兼容的接口，只要把 base_url 换成 https://api.groq.com/openai/v1，就能复用现有的 SDK 与代码。

1. 配置环境变量

export GROQ_API_KEY="在控制台创建的密钥"

2. 查询可用模型

不确定模型名时，先拉取模型列表，并以返回结果为准：

curl https://api.groq.com/openai/v1/models \
  -H "Authorization: Bearer $GROQ_API_KEY"

3. 发起一次对话补全请求

常用模型如 llama-3.1-8b-instant、llama-3.3-70b-versatile，实际可用范围以模型列表返回为准。下面是可直接运行的 curl 命令：

curl https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.1-8b-instant",
    "messages": [
      {"role": "system", "content": "你是一个简洁的中文助手"},
      {"role": "user", "content": "用一句话解释什么是 LPU"}
    ],
    "temperature": 0.6,
    "max_tokens": 256,
    "stream": false
  }'

关键参数：model 指定模型名；messages 是对话数组，按 system、user、assistant 的角色顺序传入；temperature 控制随机性；max_tokens 限制回复长度，不宜设得过大，以免一次耗尽当日 token 额度；stream 设为 true 时以流式返回，适合网页端逐字输出。

4. 用 Python 调用

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key=os.environ["GROQ_API_KEY"],
)

resp = client.chat.completions.create(
    model="llama-3.1-8b-instant",
    messages=[{"role": "user", "content": "你好"}],
    temperature=0.6,
    max_tokens=256,
)
print(resp.choices[0].message.content)

5. 限流与额度耗尽的排查顺序

1. 返回 429 且提示每分钟请求数超限：说明触发了 RPM 限制，此时应降低并发或采用指数退避重试，单次重试间隔从 1 秒起逐次翻倍。
2. 返回 429 且提示 token 用量超限：说明当日 token 额度已用尽，或单次请求过大；可缩短提示词、调低 max_tokens，等额度按天刷新后再试。
3. 返回 401：密钥错误或已被吊销，检查环境变量是否带入了多余的空格和引号。
4. 返回 404 或模型不存在：模型名写错，或该模型没有对当前账号开放，回到模型列表核对。
5. 返回 400：请求体字段拼写有误，或 messages 结构不合法，可对照上文 curl 示例逐字段比对。

另外，命中缓存的 token 不计入限额，重复使用相同的系统提示词有助于控制成本；控制台返回的错误码与限流页面的实时用量，是最可靠的判断依据。