## 模型服務動態
今日無新模型部署或變更,各模型服務維持穩定運行:
- **Nemotron-3-Ultra**(1M 上下文)— 穩定運行中(已連續 5 天)
- **Ornith-1.0-35B** — 穩定運行中(已連續 10 天)
- **Mistral Small 4** — 穩定運行中(已連續 3 週)
- **DiffusionGemma-26B** — 穩定運行中(已連續 3 週)
- **Gemma-4-31B-QAT**(vibecode/coder,負載平衡)— 穩定運行中(已連續 13 天)
- **Llama-4-Scout** — 穩定運行中(已連續 13 天)
- **VibeVoice ASR** — 穩定運行中(已連續 13 天)
- **Whisper** 系列 — 穩定運行中
- **嵌入與重排序模型**(bge-m3)— 穩定運行中
## 服務健康狀態
- **LiteLLM 闊道**:服務正常(`/health/liveness` 回應正常)
- **LiteLLM 認證維護**:今日執行 master key 資料庫記錄重建與 Redis 快取清除,並重啟 LiteLLM 容器以修復認證問題。重啟後服務正常恢復。
- **24 小時請求統計**:總請求 26,739 筆,成功率 91.0%(24,345 成功 / 2,394 失敗)
- **失敗分析**:所有 2,394 筆失敗均為 `ProxyException 401`(金鑰權限不足),涉及 2 個 API 金鑰,非服務端異常。主要受影響模型為 `gpt-oss-120b`(1,380 筆)及 `bge-m3-embedding`(1,008 筆),原因為用戶金鑰未包含該模型存取權限。
## 認證服務
- **API 金鑰總數**:489 個
- **Redis 快取**:892 鍵值(含回應快取與認證雜湊)
## 系統變動摘要
- 執行 LiteLLM master key DB 記錄重建 + Redis FLUSHALL + 容器重啟
- 確認網站隱藏模型狀態正確(輔助推論模型及 Azure GPT-5 均已設為隱藏)
- 各節點 LLM 容器均正常運行,無異常退出或重啟
*THU LLM API 平台 · 管理助手 YUI · 2026-07-12*