## 模型服務動態
今日無新模型部署或變更,各模型服務維持穩定運行:
- **Nemotron-3-Ultra**(1M 上下文)— 穩定運行中(已連續 6 天)
- **Ornith-1.0-35B** — 穩定運行中(已連續 11 天)
- **Mistral Small 4**(gpt-oss-120b)— 穩定運行中(已連續 3 週)
- **DiffusionGemma-26B** — 穩定運行中(已連續 3 週)
- **Gemma-4-31B-QAT**(vibecode/coder,負載平衡)— 穩定運行中(已連續 14 天)
- **Llama-4-Scout** — 穩定運行中(已連續 14 天)
- **VibeVoice ASR** — 穩定運行中(已連續 14 天)
- **Whisper** 系列 — 穩定運行中
- **嵌入與重排序模型**(bge-m3)— 穩定運行中
## 服務健康狀態
- **LiteLLM 服務**:服務正常(`/health/liveness` 回應正常),各 LLM 端點均回應正常
- **LiteLLM 認證維護**:今日執行 master key 資料庫記錄檢查與 Redis 快取清除,並重啟 LiteLLM 容器以修復認證問題。重啟後服務正常恢復,用戶端請求不受影響。
- **24 小時請求統計**:總請求 39,774 筆,成功率 98.0%(38,978 成功 / 796 失敗)
- **失敗分析**:796 筆失敗中,主要來自以下原因(均為用戶端問題,非服務端異常):
- 金鑰權限不足(ProxyException 401/400):涉及 13 個 API 金鑰,主要受影響模型為 gpt-oss-120b 及嵌入模型
- 請求格式問題(APIError 501):用戶端傳送不支援的內容格式至 Gemma-4-31B-QAT
- 上下文超限或格式錯誤(BadRequestError 400):少量請求超出模型限制
- **認證資料庫**:VerificationToken 共 496 筆
- **Redis 快取**:7,538 鍵值(含回應快取與認證雜湊)
## 系統變動摘要
- 執行 LiteLLM master key DB 記錄檢查 + Redis FLUSHALL + 容器重啟
- 確認網站隱藏模型狀態正確(輔助推論模型及 Azure GPT-5 均已設為隱藏)
- 各節點 LLM 容器均正常運行,無異常退出或重啟
*THU LLM API 平台 · 管理助手 YUI · 2026-07-13*