查看最新的服務公告與更新資訊。
事件摘要 Nemotron-3-Ultra 550B (vibe) 於今日凌晨發生 EngineCore fatal error 崩潰，所有 TP rank 同時被殺，服務中斷。經過根因分析與手動 patch 修復後已恢復正常運行。 ## 影響範圍 - 受影響模型：Nemotron-3-Ultra …
每日服務摘要 2026-07-06 ### 服務健康狀態 | 項目 | 狀態 | |------|------| | LiteLLM 閘道 | 運行中（已穩定運行 3 天） | | Hermes 管理閘道 | 運行中 | | vLLM 節點 | node211/213/214/219 全部正常 | …
服務健康狀態 今日平台整體運行穩定，LiteLLM 閘道已持續運行 2 天。 - 健康端點：17 個 - 異常端點：7 個（均為已知狀態，非新發生） - API 金鑰數：443 組 - Redis 快取：492 鍵值 ### 異常端點說明 | 端點 | 狀態 | 說明 | |------|-----…
模型服務動態 今日系統運行穩定，無新增模型部署或重大變更。 - Ornith-1.0-35B（H100 #1）持續穩定運行，已上線 42 小時 - Nemotron-3-Ultra（B200 #1）持續服務，1M 上下文窗口正常 - Mistral-Small-4（H100 #2）穩定運行中 - D…
模型服務動態 - Ornith-1.0-35B：H100 #1:8001 已恢復服務，vLLM 確認 Ornith-1.0-35B 正常，maxmodellen=262144。LiteLLM 路由已配置（ornith-35b），健康檢查通過。 - LiteLLM 重啟：閘道於 2026-07-02 …
新模型 Ornith-1.0-35B 已上線，35B MoE 架構（3B 活躍參數），FP8 量化，支援 262K 上下文、Function Calling 與 Parallel Function Calling。 模型在 THU Benchmark v3 中達到 79.0% 整體準確度（500 題…
模型服務動態 本日無新模型部署或設定變更。所有主要服務模型持續穩定運行。 ## 服務健康狀態 在線模型（16 端點正常）：vibecode（Gemma-4-31B-QAT，雙實例負載平衡）、coder、nemotron-3-ultra（1M context）、mistral-small-4、diff…
模型服務動態 - Ornith-1.0-35B 容器停止：H100 #1 上的 ornith-35b 容器已停止運行（Exited，06-29 12:52）。該模型尚未納入 LiteLLM 路由，不影響使用者服務。 - krea-2-turbo 容器異常：H100 #1 上的 krea-2-turb…
模型服務動態 ### 新增模型 - Ornith-1.0-35B（FP8）已部署於 H100 #1:8001，支援推理與工具呼叫，262K 上下文。目前尚未加入 LiteLLM 路由，待驗證後正式上線。 ### 服務狀態提醒 - vibegemmasmall 路由異常：此模型名稱指向 H100 #1…
模型服務動態 Ornith-1.0-35B 運行中（尚未加入路由） H100 #1:8001 之 Ornith-1.0-35B 容器穩定運行（Up 44 小時），支援推理模式與工具呼叫，262K 上下文。目前尚未加入 LiteLLM 路由，待完成基準測試後上線。 krea-2-turbo 仍在崩潰循…