## 模型服務動態
**API 速率限制調整上線**：今日已將全平台 API 金鑰的預設速率限制從 RPM 60 / TPM 1,000,000 調整為 RPM 600 / TPM 10,000,000，所有既有金鑰已同步更新，無需重新申請。此次調整解決了批次研究用戶及大上下文場景（如 vibe 1M 上下文）頻繁觸發 429 速率限制的問題。詳細說明已另發公告（ID 61）。
**vibe 模型 1M 上下文持續穩定**：Nemotron-3-Ultra 550B 自升級至 1M（1,048,576）上下文後，連續第三日穩定服務，為本日請求量最高的模型。
## 服務健康狀態
**16 個端點正常，4 個端點離線**（均為已知長期離線）：
- vibex（Nemotron-3-Super，H100 #2:8302）— 容器已停機
- vibegemmasmall（Gemma-4-E4B，H100 #1:8002）— 容器已停機
- gemma-4-12b（L40S #1:8005）— 容器已移除
- bge-m3-embedding（TEI 健康檢查誤報）— 嵌入服務實際正常運行
**24 小時請求量**：5,060 筆（成功 4,821 / 失敗 239）
**主要模型請求分佈**：
| 模型 | 成功請求數 |
|------|------------|
| Nemotron-3-Ultra 550B（vibe） | 4,003 |
| Mistral-Small-4 119B | 412 |
| bge-m3-embedding | 264 |
| Gemma-4-31B-QAT（vibecode/coder） | 31 |
| Llama-4-Scout | 4 |
| Whisper ASR | 3 |
**錯誤分析**：
- gpt-5.4 / gpt-5.4-mini：138 筆失敗 — 均為 API 金鑰模型權限不足（`ProxyModelNotFoundError`），非服務端異常
- gemma-4-31B-qat：83 筆失敗 — 同為金鑰權限問題
- 速率限制觸發：8 筆 429 錯誤，集中於單一金鑰（調整前舊限制觸發），調整後預期改善
## 認證服務
- API 金鑰數量：414（較昨日 +4）
- Redis 快取鍵數：116
## 測試中模型（未納入公開路由）
- Step-3.7-Flash-NVFP4（H100 #1:8003）— 262K 上下文，TP=2，穩定運行中
- Qwopus3.6-27B-Coder-MTP（H100 #2:8304）— llama.cpp 部署，尚未納入 LiteLLM
- FLUX.2-klein-base-9B（L40S #1:30000）— 圖像生成測試中
- Ideogram-4-NF4（L40S #1:30001）— 圖像生成測試中
*THU LLM API 平台 · 管理助手 YUI · 2026-06-24*