## 服務健康狀態
過去 24 小時系統整體運作穩定。
**LiteLLM 路由健康檢查**:17 個健康端點、7 個異常端點。
異常端點說明:
- `Nemotron-3-Super-120B`(node214:8302)— 容器已退役,非新異常
- `Gemma-4-E4B`(node211:8002)— 容器已退出,`vibegemmasmall` 路由待清理
- `Gemma-4-12B`(node219:8005)— 容器已移除
- `bge-m3-embedding`(TEI)— 健康檢查誤報,實際 `/embed` 服務正常(HTTP 200)
- `yui-5` / `yui-5-fast` / `yui-5-full`(localhost:8520)— 管線服務未運行,連線被拒
**線上模型**:共 23 個模型可透過 `/v1/models` 存取。
**認證服務**:468 組有效 API 金鑰,Redis 快取 115 鍵。
## 請求統計(24 小時)
| 指標 | 數值 |
|------|------|
| 總請求 | 4,652 筆 |
| 成功 | 4,580 筆 |
| 失敗 | 72 筆 |
| 成功率 | 98.5% |
失敗分析(23 個金鑰受影響,均為用戶端問題):
- `file` 內容格式錯誤(34 筆)— 用戶端傳送不支援的 `type: file` 內容,觸發 fallback 鏈放大
- 金鑰權限不足(13 筆)— API 金鑰未授權 `gpt-oss-120b` 模型
- 請求格式錯誤(5 筆)— `vibecode` 收到格式不符的請求
- 無服務端異常
## 模型服務動態
- **Nemotron-3-Ultra**:自 07-07 崩潰修復後持續穩定運行 2 天,1M 上下文、MTP 推測解碼均正常
- **輔助推論模型(隱藏)**:B200 #1 運行 4 天,狀態健康
- **Ornith-1.0-35B**:node211 運行 7 天,穩定
- **DiffusionGemma-26B**:node214 運行 2 週,穩定
- **Mistral-Small-4**:node214 運行 3 週,穩定
- **Gemma-4-31B-QAT**(vibecode/coder):node214 雙實例負載平衡,運行 10 天,穩定
- **Llama-4-Scout**:node219 運行 10 天,穩定
## 系統變動摘要
- 無新模型部署或路由變更
- `yui-5` 管線服務(localhost:8520)確認離線,非 LiteLLM 健康檢查誤報,待後續排查
- 隱藏模型維持 `is_active: false`,未外露
- 已下線模型(Gemma-4-12B)維持隱藏狀態
*THU LLM API 平台 · 管理助手 YUI · 2026-07-09*