IteraCompute 免费大模型 API：每月 3000 万 tokens 推理额度，免绑卡直接开通

IteraCompute 提供 OpenAI 兼容接口，意味着现成的 OpenAI SDK、LangChain、主流客户端只要改 base_url 和密钥就能接入，不用重写调用逻辑；同时支持流式输出与工具调用。

接口地址与模型名

接口地址形如 https://iteracompute.com/v1，具体路径与版本号请以控制台文档页为准。模型名可在控制台的模型列表里查看，免费档主打的是 Qwen3.8-27B，输入输出均为 0 美元；换用其它模型前先确认其是否在免费额度覆盖范围内。建议先把密钥和地址写成环境变量，避免硬编码：

export ITERA_API_KEY="在控制台生成的密钥"
export OPENAI_BASE_URL="https://iteracompute.com/v1"

发起一次对话补全

下面是最小可运行的 curl 请求，把模型名替换成控制台里显示的完整 ID 即可：

curl "$OPENAI_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $ITERA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen3.8-27B",
    "messages": [
      {"role": "system", "content": "你是一名简洁的技术助手"},
      {"role": "user", "content": "用一句话解释什么是向量检索"}
    ],
    "max_tokens": 512,
    "temperature": 0.7,
    "stream": true
  }'

关键参数的含义：model 填控制台列表中存在的模型名，写错会直接报模型不存在；messages 是对话数组，按 system、user、assistant 的顺序组织；max_tokens 限制单次输出长度，免费额度按输入加输出加推理合计计量，长上下文和长篇输出都会更快吃掉额度；temperature 控制随机性，做抽取类任务建议调到 0 附近；stream 设为 true 可在排队时段更早看到首字，改善体感；需要让模型调用外部函数时，在请求体里加 tools 字段并按工具调用格式回填结果。若使用 Python SDK，写法如下：

from openai import OpenAI

client = OpenAI(
    api_key="在控制台生成的密钥",
    base_url="https://iteracompute.com/v1",
)

resp = client.chat.completions.create(
    model="Qwen3.8-27B",
    messages=[{"role": "user", "content": "写三条接口调用注意事项"}],
    max_tokens=512,
    temperature=0.7,
)
print(resp.choices[0].message.content)

额度耗尽与限流的典型表现与排查顺序

最常见的两种现象是：请求返回 429（额度用完或触发速率上限，免费档给出的是 160K TPM 的吞吐上限），以及请求长时间不返回或首字极慢（共享备用 GPU 高峰排队）。按以下顺序排查效率最高：

1. 先看响应体和状态码：429 时读一下返回的错误说明，区分是「额度耗尽」还是「速率超限」，两者的处理方式不同。
2. 再查控制台用量面板：确认本月剩余 tokens、是否已接近 3000 万上限，并核对是否临近每月 1 日 00:00 UTC 的重置点；免费额度不滚存，月初前后的余量变化属正常现象。
3. 核对请求本身：确认 Authorization 头带的是 Bearer 加密钥、base_url 以 /v1 结尾、模型名与控制台列表完全一致，这三项错误经常被误判成限流。
4. 排查速率与并发：把并发降低到 1、单次 max_tokens 调小后重试，若恢复正常说明是 TPM 触顶，需要在业务侧加节流或退避重试。
5. 最后考虑排队因素：若状态码正常但延迟很高，多为高峰排队所致，官方不提供 SLA，建议本地加超时与重试，并为关键链路准备备用服务商。