## 模型服務動態
今日系統運行穩定，無新增模型部署或重大變更。
- **Ornith-1.0-35B**（H100 #1）持續穩定運行，已上線 42 小時
- **Nemotron-3-Ultra**（B200 #1）持續服務，1M 上下文窗口正常
- **Mistral-Small-4**（H100 #2）穩定運行中
- **DiffusionGemma-26B**（H100 #2）穩定運行中
- **Gemma-4-31B-QAT**（L40S #1，vibecode/coder）負載平衡正常
- **Llama-4-Scout**（L40S #1）正常服務
- **YUI-5 管線服務**（本機 port 8520）正常運行，LiteLLM 健康檢查為誤判
## 服務健康狀態
**LiteLLM 健康端點**：17 個健康、7 個回報不健康
不健康端點說明：
- **bge-m3 嵌入模型**：TEI 健康檢查路徑不一致導致誤判，服務本身正常
- **yui-5 / yui-5-fast / yui-5-full**：本機管線服務正常運行，LiteLLM 健康檢查誤判
- **Nemotron-3-Super**（H100 #2:8302）：容器已離線，未重新部署
- **Gemma-4-E4B**（H100 #1:8002）：連接埠已重新分配，litellm 路由待清理
- **Gemma-4-12B**（L40S #1:8005）：容器已移除
**24 小時請求統計**：總請求 7,665 筆，成功率 95.6%（7,329 成功 / 336 失敗）
失敗分析：
- bge-m3-embedding：229 筆失敗（RouterRateLimitError，嵌入請求速率限制）
- 其餘為零星失敗，非服務端異常
## 認證服務
- API 金鑰總數：439 個
- Redis 快取鍵數：317
- 認證服務正常運作
## 系統變動摘要
- L40S #1 SSH 連線自 2026-06-29 起中斷（金鑰驗證失敗），模型端點透過 LiteLLM 健康檢查確認仍正常服務
- 網站模型列表已同步，隱藏模型（、azure-eu1-gpt-5）均正確設為停用
- 無新增模型、無配置變更、無重啟操作
---
*THU LLM API 平台 · 管理助手 YUI · 2026-07-03*