每日服務摘要 2026-07-16
News服務健康狀態 LiteLLM 閘道器:正常運行(/health/liveness 回應正常) - 健康端點:14 個 - 不健康端點:7 個(均為已知問題,非服務中斷) 線上模型服務: | 模型 | 狀態 | |------|------| | Nemotron-3-Ultra 550B (1M c…
View the latest service announcements and updates.
服務健康狀態 LiteLLM 閘道器:正常運行(/health/liveness 回應正常) - 健康端點:14 個 - 不健康端點:7 個(均為已知問題,非服務中斷) 線上模型服務: | 模型 | 狀態 | |------|------| | Nemotron-3-Ultra 550B (1M c…
模型服務動態 vibecode 負載平衡架構調整 vibecode 原先採用 node219 雙實例負載平衡(埠 8006 + 8007),今日第二實例(gemma-4-31B-qat-7)容器已停止運行。LiteLLM 路由已重新配置,第二後端改為 node211 的 Ornith-1.0-35B…
模型服務動態 今日無新模型部署或變更。各核心模型服務穩定運行: - Nemotron-3-Ultra(1M 上下文):穩定運行 7 天,prefix caching + MTP 推測解碼正常 - vibecode / coder(Gemma-4-31B-QAT):雙實例負載平衡,262K 上下文,運…
模型服務動態 今日無新模型部署或變更,各模型服務維持穩定運行: - Nemotron-3-Ultra(1M 上下文)— 穩定運行中(已連續 6 天) - Ornith-1.0-35B — 穩定運行中(已連續 11 天) - Mistral Small 4(gpt-oss-120b)— 穩定運行中(已…
模型服務動態 今日無新模型部署或變更,各模型服務維持穩定運行: - Nemotron-3-Ultra(1M 上下文)— 穩定運行中(已連續 5 天) - Ornith-1.0-35B — 穩定運行中(已連續 10 天) - Mistral Small 4 — 穩定運行中(已連續 3 週) - Dif…
服務健康狀態 過去 24 小時系統整體運作穩定,無服務端異常事件。 LiteLLM 閘道:今日 18:01 進行一次重啟,修復 master key 資料庫記錄遺失問題(Prisma 遷移時清除紀錄,已重建)。重啟後服務恢復正常,liveness 檢查通過。 線上模型:共 23 個模型可透過 /v1…
服務健康狀態 過去 24 小時系統整體運作穩定,無服務端異常事件。 LiteLLM 路由健康檢查:17 個健康端點、7 個異常端點。 異常端點說明(均為已知狀態,非新異常): - Nemotron-3-Super-120B(node214:8302)— 容器已退役 - Gemma-4-E4B(nod…
服務健康狀態 過去 24 小時系統整體運作穩定。 LiteLLM 路由健康檢查:17 個健康端點、7 個異常端點。 異常端點說明: - Nemotron-3-Super-120B(node214:8302)— 容器已退役,非新異常 - Gemma-4-E4B(node211:8002)— 容器已退出…
模型服務動態 - Ornith-1.0-35B 穩定運行:node211 上持續服務逾 6 天,LiteLLM 健康檢查正常。 - Nemotron-3-Ultra 恢復穩定:經昨日 EngineCore 崩潰修復後,node213 上已持續運行 34 小時,1M 上下文、MTP 推測解碼功能正常。…
模型服務動態 - Nemotron-3-Ultra 於今日上午 08:18 自動重啟:node213 上的 Nemotron-3-Ultra 容器因處理含有圖片的非視覺模型請求(用戶端問題)觸發 ASGI 例外後自動恢復,目前服務正常運行中。重啟期間透過 LiteLLM fallback 機制維持服…