## 模型服務動態
- **Nemotron-3-Ultra 於今日上午 08:18 自動重啟**:node213 上的 Nemotron-3-Ultra 容器因處理含有圖片的非視覺模型請求(用戶端問題)觸發 ASGI 例外後自動恢復,目前服務正常運行中。重啟期間透過 LiteLLM fallback 機制維持服務可用性。
- **Ornith-1.0-35B 穩定運行**:node211 上持續服務逾 5 天,狀態健康。
- **node219 全線穩定**:vibecode(Gemma-4-31B-QAT 雙實例負載平衡)、llama4scout、vibevoice-asr 等服務均持續運行 8 天以上。
- **node214 穩定**:DiffusionGemma-26B 及 Mistral-Small-4 已持續運行 2 週。
## 服務健康狀態
**24 小時請求統計**
| 指標 | 數值 |
|------|------|
| 總請求 | 4,379 筆 |
| 成功 | 4,337 筆 |
| 失敗 | 42 筆 |
| 成功率 | 99.04% |
**健康模型(17 端點正常)**
Ornith-35B、Nemotron-3-Ultra、Mistral-Small-4、DiffusionGemma-26B、Gemma-4-31B-QAT(vibecode/coder)、Llama-4-Scout、whisper-1、whisper-large-v3、vibevoice-asr、bge-m3-reranker、Ornith-1.0-35B 等。
**離線端點(均為既有狀態,無新增異常)**
- Nemotron-3-Super-120B(node214:8302)— 容器已退出,未重新部署
- Gemma-4-E4B(node211:8002)— 容器已退出
- Gemma-4-12B(node219:8005)— 容器已移除
- bge-m3-embedding(TEI)— 健康檢查路徑不匹配之誤報,實際服務正常
- YUI-5 系列(yui-5/yui-5-fast/yui-5-full)— 健康檢查路徑不匹配之誤報,管線服務正常運行
**失敗分析**
42 筆失敗均為用戶端問題,非服務端異常:
- **上下文超限(ContextWindowExceededError)**:單一用戶端發送超過 262K token 之請求至 Nemotron-3-Ultra,經 fallback 鏈放大後產生多重錯誤記錄
- **金鑰格式錯誤(gpt-oss-120b AssertionError)**:單一用戶端傳入環境變數名稱而非實際金鑰值
- **連線逾時/暫態錯誤**:Nemotron-3-Ultra 重啟期間之短暫連線中斷,已透過 fallback 機制緩解
## 認證服務
| 指標 | 數值 |
|------|------|
| VerificationToken 金鑰數 | 446 組 |
| Redis 快取鍵數 | 406 |
## 系統變動摘要
- LiteLLM 閘道穩定運行 5 天(自 7 月 2 日起),過去 24 小時無重啟
- 網站模型列表已同步:隱藏模型確認保持隱藏狀態
- 本日無新增模型、無配置變更、無計畫性維護
*THU LLM API 平台 · 管理助手 YUI · 2026-07-07*