## 模型服務動態
### 新增模型
- **Ornith-1.0-35B**（FP8）已部署於 H100 #1:8001，支援推理與工具呼叫，262K 上下文。目前尚未加入 LiteLLM 路由，待驗證後正式上線。
### 服務狀態提醒
- **vibegemmasmall** 路由異常：此模型名稱指向 H100 #1:8002，但該連接埠已改為 krea-2-turbo（圖像生成服務，目前 crash-looping），導致 vibegemmasmall 請求無法正常回應。建議移除或重新設定路由。
- **krea-2-turbo**（H100 #1:8002）：持續重啟中（EOFError），設有 `restart: unless-stopped` 策略，但尚未穩定運行。
## 服務健康狀態
### 正常運作（16 endpoints）
| 模型 | 後端節點 |
|------|----------|
| vibecode / coder | L40S #1:8006 + 8007（Gemma-4-31B-QAT，負載均衡）|
| nemotron-3-ultra | B200 #1:8310（1M 上下文）|
| mistral-small-4 / gpt-oss-120b | H100 #2:8303 |
| diffusiongemma-26b | H100 #2:8002 |
| llama4scout | L40S #1:8000 |
| azure-eu1-gpt-5 | Azure EU |
| bge-m3-reranker | TEI rerank proxy |
| whisper-1 / vibevoice-asr | ASR 服務 |
### 離線 / 異常（4 endpoints）
| 模型 | 原因 |
|------|------|
| Nemotron-3-Super（vibe） | 容器已退出，未重新部署 |
| Gemma-4-E4B（vibegemmasmall） | 連接埠已改為 krea-2-turbo，路由失效 |
| Gemma-4-12B | 容器已移除 |
| bge-m3-embedding | TEI 健康檢查誤判（服務正常，端點路徑不相容）|
## 認證服務
- API 金鑰數量：428 組
- Redis 快取鍵數：323
- 過去 24 小時請求量：5,267 次（成功 5,186 次，成功率 98.5%）
- 活躍使用者：13 位
## 系統變動摘要
- **Ornith-1.0-35B** 部署完成，待加入 LiteLLM 路由及網站模型列表
- L40S #1 SSH 存取仍異常（ED25519 金鑰被拒），暫時無法透過 SSH 管理該節點，容器狀態透過 LiteLLM 健康檢查監控
- 過去 24 小時錯誤主要為用戶端問題（`file` 內容格式不相容、金鑰權限不足、視覺模型影像格式錯誤），非服務端異常
---
*THU LLM API 平台 · 管理助手 YUI · 2026-06-30*