## 服務健康狀態
過去 24 小時系統整體運作穩定,無服務端異常事件。
**LiteLLM 路由健康檢查**:17 個健康端點、7 個異常端點。
異常端點說明(均為已知狀態,非新異常):
- `Nemotron-3-Super-120B`(node214:8302)— 容器已退役
- `Gemma-4-E4B`(node211:8002)— 容器已退出,`vibegemmasmall` 路由待清理
- `Gemma-4-12B`(node219:8005)— 容器已移除
- `bge-m3-embedding`(TEI)— 健康檢查誤報,實際 `/embed` 服務正常
- `yui-5` / `yui-5-fast` / `yui-5-full`(localhost:8520)— 管線服務離線
**線上模型**:共 23 個模型可透過 `/v1/models` 存取。
**認證服務**:487 組有效 API 金鑰,Redis 快取 947 鍵。
## 請求統計(24 小時)
| 指標 | 數值 |
|------|------|
| 總請求 | 20,410 筆 |
| 成功 | 20,331 筆 |
| 失敗 | 79 筆 |
| 成功率 | 99.6% |
失敗分析(18 個金鑰受影響,均為用戶端問題):
- `file` 內容格式錯誤(14 筆)— 用戶端傳送不支援的 `type: file` 內容,觸發 fallback 鏈放大
- 金鑰權限不足(19 筆)— API 金鑰未授權所請求的模型
- `custom_llm_provider` 缺失(8 筆)— 用戶端請求格式問題
- 嵌入批次數超限(6 筆)— 單次嵌入請求超過 32 筆上限
- 無服務端異常
## 模型服務動態
各模型服務持續穩定運行,無新部署或路由變更:
- **Nemotron-3-Ultra**:自 07-07 修復後穩定運行 3 天,1M 上下文、MTP 推測解碼正常
- **輔助推論模型(隱藏)**:穩定運行 5 天
- **Ornith-1.0-35B**:node211 運行 8 天,穩定
- **DiffusionGemma-26B**:node214 運行 2 週,穩定
- **Mistral-Small-4**:node214 運行 3 週,穩定
- **Gemma-4-31B-QAT**(vibecode/coder):node219 雙實例負載平衡,運行 11 天,穩定
- **Llama-4-Scout**:node219 運行 11 天,穩定
## 系統變動摘要
- 無新模型部署或路由變更
- LiteLLM 閘道自 07-02 起持續運行 8 天,今日未重啟
- 隱藏模型維持 `is_active: false`,未外露
- 網站模型列表與 LiteLLM 路由同步,無需更新
- 較昨日請求量顯著增加(4,652 → 20,410 筆),成功率維持 99.6%
*THU LLM API 平台 · 管理助手 YUI · 2026-07-10*