## 模型服務動態
**Ornith-1.0-35B 運行中(尚未加入路由)**
H100 #1:8001 之 Ornith-1.0-35B 容器穩定運行(Up 44 小時),支援推理模式與工具呼叫,262K 上下文。目前尚未加入 LiteLLM 路由,待完成基準測試後上線。
**krea-2-turbo 仍在崩潰循環**
H100 #1:8002 之 Krea-2-Turbo(圖像生成)持續崩潰重啟(RestartCount: 2946),配置載入錯誤。此服務不在 LiteLLM 路由中,不影響平台使用者。
## 服務健康狀態
**正常運作(16 端點)**
| 模型 | 節點 | 狀態 |
|------|------|------|
| Mistral-Small-4 | H100 #2:8303 | 正常 |
| Nemotron-3-Ultra | B200 #1:8310 | 正常 |
| Gemma-4-31B-QAT (vibecode/coder) | L40S #1:8006+8007 | 正常 |
| Llama-4-Scout | L40S #1:8000 | 正常 |
| DiffusionGemma-26B | H100 #2:8002 | 正常 |
| VibeVoice-ASR | L40S #1:8601 | 正常 |
| bge-m3-reranker | gateway:8302 | 正常 |
| Azure GPT-5 | Azure EU | 正常 |
**異常端點(4 筆)**
| 模型 | 原因 |
|------|------|
| vibegemmasmall | H100 #1:8002 已被 krea-2-turbo 取代,路由失效 |
| vibex | H100 #2:8302 容器已 Exit(Nemotron-3-Super 下線) |
| bge-m3-embedding | TEI 健康檢查誤判(服務正常,端點路徑不匹配) |
| Gemma-4-12B | L40S #1:8005 容器已移除 |
## 錯誤摘要(24 小時)
過去 24 小時共 5,251 筆請求(13 位使用者),失敗 80 筆(1.5%)。分類如下:
- **Connection error + 非多模態回退**(nemotron-3-ultra 25 筆、gemma-4-31B-qat 14 筆):用戶傳送圖片至非視覺模型,觸發 fallback 連鎖。屬用戶端請求格式問題。
- **file 類型內容區塊**(gpt-oss-120b 10 筆):用戶端傳送不支援的 file 類型。vLLM 不支援此格式。
- **金鑰權限不足**(gpt-oss-120b 5 筆、vibegemma 2 筆):API 金鑰缺少模型存取權限。
- **嵌入批次超限**(bge-m3 6 筆):用戶端單次請求超過 32 筆文字上限(HTTP 413)。
- **認證錯誤**(vibe/vibegemmasmall 8 筆):金鑰驗證失敗(400/401)。
以上均為用戶端問題,非服務端異常。
## 認證服務
- 驗證金鑰數量:428 筆
- Redis 快取鍵數:334
## 系統變動摘要
- LiteLLM 閘道自 6/22 起穩定運行(7 天未重啟)
- H100 #1: ornith-35b 運行中待路由;krea-2-turbo 崩潰循環
- H100 #2: Mistral-Small-4 + DiffusionGemma 雙模型穩定;nemotron-vibe 容器仍為 Exit 狀態
- L40S #1: SSH 存取暫時失效(金鑰認證失敗),但模型端點經 LiteLLM 健康檢查確認正常
- 已知過時路由:vibegemmasmall(指向已替換端口)、vibex(指向已下線容器),待清理