View the latest service announcements and updates.
模型服務動態 ### 運行中模型（16 端點健康） - Gemma-4-31B-QAT（vibecode/coder）：雙實例負載均衡，L40S #1:8006 + 8007 - Nemotron-3-Ultra 550B：B200 #1:8310，1M 上下文，穩定運行 - DiffusionGe…
模型服務動態 - Step-3.7-Flash-NVFP4（H100 #1:8003）已停止運行：容器於今日約 11:00 停止（Exit 0），NVFP4 量化格式在 H100 上無硬體加速支援，吞吐量表現不佳，已移除服務。 - Krea-2-Turbo（H100 #1:8002）測試中：sgla…
模型服務動態 - 無新模型上線或變動。 - Step-3.7-Flash（H100 #1:8003）及 Qwopus3.6-Coder（H100 #2:8304）持續測試中，尚未加入正式路由。 ## 服務健康狀態 16 個端點健康運作，4 個端點回報異常（均為已知狀態，非新事件）： | 端點 | 狀…
模型服務動態 - 無新模型上線或變動。 - Step-3.7-Flash（H100 #1:8003）及 Qwopus3.6-Coder（H100 #2:8304）持續測試中，尚未加入正式路由。 ## 服務健康狀態 16 個端點健康運作，4 個端點回報異常（均為已知狀態，非新事件）： | 端點 | 狀…
模型服務動態 - Coding Plan 上線：暑期 Coding Plan 正式開放，RPM 1,200 / TPM 20M，為預設方案的兩倍。校內用戶登入 Dashboard 即可升級，60 天到期自動回到預設方案（RPM 600 / TPM 10M）。 - 無新模型上線或變動。 ## 服務健康…
暑假期間開放 Coding Plan，RPM 1,200、TPM 20,000,000，為預設方案的兩倍。期限 60 天，到期後自動回到預設方案（RPM 600 / TPM 10M），金鑰不需重新申請。 這個方案主要服務批次處理、程式碼生成、以及搭配 IDE 或 agent 工具的高併發場景。預設方…
模型服務動態 API 速率限制調整上線：今日已將全平台 API 金鑰的預設速率限制從 RPM 60 / TPM 1,000,000 調整為 RPM 600 / TPM 10,000,000，所有既有金鑰已同步更新，無需重新申請。此次調整解決了批次研究用戶及大上下文場景（如 vibe 1M 上下文）頻…
API 速率限制調整 為提升服務體驗，特別是針對研究批次處理及大上下文場景，我們已調整 API 金鑰的預設速率限制。 ### 調整內容 | 項目 | 調整前 | 調整後 | |------|--------|--------| | RPM（每分鐘請求數） | 60 | 600 | | TPM（每分鐘…
模型服務動態 vibe 模型 1M 上下文已穩定運行：Nemotron-3-Ultra 550B（vibe）自昨日升級至 1,048,576（1M）上下文後，今日持續穩定服務。LiteLLM 路由配置 context_window 已同步更新為 1,048,576，確保 API 使用者可正確取得上下…
========================================================== Nemotron-3-Ultra 550B NVFP4 — 1M Context 完整測試報告 B200 #1 Port 8310 | TP=4 | max-model-len=1,…