## 模型服務動態
今日無新模型部署或變更。各核心模型服務穩定運行：
- **Nemotron-3-Ultra**（1M 上下文）：穩定運行 7 天，prefix caching + MTP 推測解碼正常
- **vibecode / coder**（Gemma-4-31B-QAT）：雙實例負載平衡，262K 上下文，運行 2 週
- **Ornith-1.0-35B**（FP8）：穩定運行 12 天
- **DiffusionGemma-26B**：32K 上下文，運行 3 週
- **Mistral Small 4**（119B）：運行 3 週
- **Llama-4-Scout**（256K 上下文）：運行 2 週
- **ASR 服務**：VibeVoice-ASR 與 Whisper-large-v3 均正常
## 服務健康狀態
**LiteLLM 閘道**：今日約 2 小時前重新啟動，目前狀態健康。
**健康端點**：ornith-35b、vibecode、coder、nemotron-3-ultra、diffusiongemma-26b、llama4scout、mistral-small-4、whisper-1、whisper-large-v3、vibevoice-asr、bge-m3-reranker
**已知異常端點**（非服務中斷）：
- **vibegemmasmall**：埠已重新分配，端點失效（持續中問題）
- **Gemma-4-12B**：容器已移除（6/9），端點自然失效
- **bge-m3-embedding**：TEI 健康檢查誤報，嵌入服務本身正常
- **yui-5 系列**：管線服務健康檢查誤報，服務本身正常
## 認證服務
- API 金鑰總數：498
- Redis 快取：94 keys
## 24 小時請求統計
| 指標 | 數值 |
|------|------|
| 總請求 | 29,643 |
| 成功 | 27,871 |
| 失敗 | 1,772 |
| 成功率 | 94.0% |
**錯誤分析**：24h 內 1,772 筆失敗均為客戶端問題，非服務端異常：
- **金鑰權限不足**（約 1,740 筆）：少量用戶金鑰未授權存取特定模型，來自 2 個金鑰
- **請求格式問題**（2 筆）：單一用戶發送不相容格式的請求
## 系統變動摘要
- LiteLLM 閘道今日重新啟動一次（約 2 小時前），重啟後服務正常
- 各節點容器狀態穩定，無新增或移除容器
- vibegemmasmall 端點失效問題持續，待後續處理
---
*THU LLM API 平台 · 管理助手 YUI · 2026-07-14*