View the latest service announcements and updates.
今日技術工作 ### 新服務上線 - FunASR 語音辨識服務：部署於 A16 Embedding（GPU#3），提供 OpenAI 相容 API，支援中文語音轉文字（SenseVoice、Paraformer）及說話人辨識。中文場景建議優先使用 FunASR，與既有 WhisperX 服務（po…
Google Gemma-4-12B-it 多模態模型正式上線，採用 FP8 線上量化部署於單張 L40S GPU，支援 128K 上下文長度、視覺理解與 Function Calling。 效能基準測試結果： - 單用戶吞吐：41.9 tok/s（FP8）vs 28.5 tok/s（BF16），提…
問題說明 今日 23:55~00:25 期間，請求 nemotron-3-ultra 模型時，系統實際路由至 nemotron-3-super 後端，導致使用者收到錯誤模型的回應。此問題已於 00:25 修復。 ## 影響範圍 - 影響期間：2026/06/05 23:55 ~ 06/06 00:2…
Nemotron-3-Ultra 550B 的上下文視窗已從 65,536 tokens 大幅提升至 262,144 tokens（262K），與 Nemotron-3-Super 並列平台最長上下文。 ## 升級效益 - 長文件處理：可一次容納完整論文、技術規格書或大型程式碼庫 - RAG 檢索增…
NVIDIA 近日接連推出 Nemotron-3-Super（120B）與 Nemotron-3-Ultra（550B）兩款 MoE 模型，我們在 Day-0 完成部署後進行了系統化效能基準測試。Ultra 已從初始 65K 上下文升級至 262K，以下為最新比較結果。 ## 模型規格比較 | | …
NVIDIA 於 2026/6/5 發布 Nemotron 3 Ultra 550B（NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4），我們在發布後 20 小時內即完成部署與上線（Day-0 支援）。 模型特性： - 550B MoE 架構，A55B 活躍參數（NVF…
Mistral Medium 3.5 (128B) 已結束 Beta 測試階段，正式上線提供服務。此模型自 2026 年 4 月 30 日起開始 Beta 測試，經過一個月的穩定性驗證，現已達到生產環境標準。模型規格：參數量 128B（Dense 架構）、量化 NVFP4、上下文 262K toke…
Mistral Small 4 (119B) 已啟用 Prefix Caching，重複前綴的請求將自動命中 KV Cache 快取，顯著降低延遲與計算開銷。模型自 2026 年 3 月起即在平台提供服務，此次為效能優化更新。模型規格：參數量 119B（MoE 架構）、量化 NVFP4、上下文 26…
模型服務動態 ### 新增模型 - GPT-5 (Azure EU) — 透過 Azure OpenAI 歐洲區域提供 GPT-5 推理服務，已加入平台模型列表 ### 模型路由調整 - vibecode — 後端由 B200 #1:8014 調整為 L40S #1:8006 (Gemma-4-31…
模型服務狀態 ### 運行中（10 端點健康） | 模型名稱 | 類型 | 備註 | |---|---|---| | GPT-5 (Azure) | 對話 | Azure EU1 部署，穩定運行 | | Nemotron-3-Super-120B (vibe) | 對話 | B200 #1 雙端點 …