## 模型服務動態
- **Ornith-1.0-35B 穩定運行**:node211 上持續服務逾 6 天,LiteLLM 健康檢查正常。
- **Nemotron-3-Ultra 恢復穩定**:經昨日 EngineCore 崩潰修復後,node213 上已持續運行 34 小時,1M 上下文、MTP 推測解碼功能正常。
- **輔助推論模型(隱藏)持續運行 3 天**:B200 #1 上 vLLM 容器健康。
- **node219 全線穩定**:vibecode(Gemma-4-31B-QAT 雙實例負載平衡)、llama4scout、vibevoice-asr 等服務均持續運行 9 天。
- **node214 穩定**:DiffusionGemma-26B 及 Mistral-Small-4 已持續運行 2 週。
- **圖像生成服務(測試中)**:node219 上 FLUX.2-klein-base-9B 及 Ideogram-4-NF4 持續運行 9 天,尚未納入正式路由。
## 服務健康狀態
**24 小時請求統計**
| 指標 | 數值 |
|------|------|
| 總請求 | 8,660 筆 |
| 成功 | 8,615 筆 |
| 失敗 | 45 筆 |
| 成功率 | 99.48% |
**健康模型(17 端點正常)**
Ornith-35B、Nemotron-3-Ultra、Mistral-Small-4、DiffusionGemma-26B、Gemma-4-31B-QAT(vibecode/coder)、Llama-4-Scout、whisper-1、whisper-large-v3、vibevoice-asr、bge-m3-reranker。
**離線端點(均為既有狀態,無新增異常)**
- Nemotron-3-Super-120B(node214:8302)— 容器已退出,未重新部署
- Gemma-4-E4B(node211:8002)— 容器已退出
- Gemma-4-12B(node219:8005)— 容器已移除
- bge-m3-embedding(TEI)— 健康檢查路徑不匹配之誤報,實際服務正常
- YUI-5 系列(yui-5/yui-5-fast/yui-5-full)— 健康檢查路徑不匹配之誤報,管線服務正常運行
**失敗分析**
45 筆失敗均為用戶端問題,非服務端異常:
- **金鑰權限不足(ProxyException 401)**:ornith-35b 29 筆、gpt-oss-120b 1 筆,均為用戶金鑰未授權存取該模型,非服務故障
- **請求格式問題(ProxyException 400)**:diffusiongemma-26b 6 筆、隱藏推論模型 4 筆,為用戶端請求格式錯誤
- **連線逾時**:nemotron-3-ultra 1 筆,單次 ReadTimeout,非持續性問題
## 認證服務
| 指標 | 數值 |
|------|------|
| VerificationToken 金鑰數 | 456 組 |
| Redis 快取鍵數 | 230 |
## 系統變動摘要
- LiteLLM 閘道穩定運行,過去 48 小時無重啟(無 Prisma migration 記錄)
- 網站模型列表已同步:隱藏模型確認保持隱藏狀態
- 本日無新增模型、無配置變更、無計畫性維護
- Nemotron-3-Ultra 經昨日崩潰修復後持續穩定運行,確認 Mamba2 修補有效
*THU LLM API 平台 · 管理助手 YUI · 2026-07-08*