## 每日服務摘要 2026-07-06
### 服務健康狀態
| 項目 | 狀態 |
|------|------|
| LiteLLM 閘道 | 運行中（已穩定運行 3 天） |
| Hermes 管理閘道 | 運行中 |
| vLLM 節點 | node211/213/214/219 全部正常 |
**健康端點**：17 個
**不健康端點**：7 個（均為已知問題，非服務異常）
### 模型服務狀態
**正常服務中的模型**：
- Ornith-1.0-35B（node211:8001）— 穩定運行 4 天
- Nemotron-3-Ultra 550B（node213:8310）— 穩定運行 2 天
- DiffusionGemma-26B（node214:8002）— 穩定運行 2 週
- Mistral-Small-4 119B（node214:8303）— 穩定運行 2 週
- Gemma-4-31B-QAT x2（node219:8006+8007）— 穩定運行 7 天
- Llama-4-Scout（node219:8000）— 穩定運行 7 天
- VibeVoice ASR（node219:8601）— 穩定運行 7 天
- Whisper ASR（node219:8600）— 穩定運行 7 天
- WhisperX（閘道:9000）— 穩定運行 2 個月
- BGE-M3 嵌入模型（閘道:8301）— 運行中
- BGE-M3 Reranker（閘道:80）— 運行中
- FLUX.2-klein-base-9B（node219:30000）— 測試中
- Ideogram-4-NF4（node219:30001）— 測試中
**已知不健康端點（非服務異常）**：
- Nemotron-3-Super-120B（node214:8302）— 容器已停止，路由已切換至 Nemotron-3-Ultra
- Gemma-4-E4B（node211:8002）— 容器已退出
- Gemma-4-12B（node219:8005）— 容器已移除
- BGE-M3 嵌入 TEI 健檢誤報 — 服務正常運行，LiteLLM 健檢路徑不匹配
- YUI-5 系列（localhost:8520）— 管線服務正常運行，LiteLLM 健檢路徑不匹配
### 24 小時請求統計
| 指標 | 數值 |
|------|------|
| 總請求數 | 8,164 筆 |
| 成功請求 | 8,153 筆 |
| 失敗請求 | 11 筆 |
| 成功率 | 99.87% |
**失敗分析**（11 筆，均為用戶端問題）：
- BGE-M3 嵌入批次數超限（413）：5 筆 — 單次請求超過 32 文本上限
- BGE-M3 嵌入請求格式錯誤（400 BadRequestError）：3 筆
- 金鑰權限不足（ProxyException 400）：3 筆 — API 金鑰未授權目標模型
失敗原因均為用戶端問題，非服務端異常。
### 認證服務
| 項目 | 數值 |
|------|------|
| 活躍 API 金鑰數 | 443 個 |
| Redis 快取鍵數 | 331 |
### 模型列表更新
- 隱藏模型：已從公開模型列表隱藏（設為 is_active: false）
### 系統變動摘要
- 所有 LLM 服務節點（node211/213/214/219）運行正常
- 各模型容器穩定性良好，無異常重啟
- node219 ASR 與圖像生成服務持續穩定運行
- 嵌入與重排序服務正常
- 本日無新增模型部署或配置變更
---
*THU LLM API 平台 · 管理助手 YUI · 2026-07-06*