服務健康狀態 整體狀態:正常運作 - 健康端點:10 個 - 離線端點:8 個(其中 5 個為已下線或未部署的模型,1 個為 BGE-M3 嵌入服務的健康探針格式不相容) - API 金鑰總數:336 組(Redis 快取 174 筆) - LiteLLM 間道:正常運作(已持續 5 天) - Wh…
News
View the latest service announcements and updates.
View the latest service announcements and updates.
服務健康狀態 整體狀態:正常運作 - 健康端點:10 個 - 離線端點:8 個(其中 5 個為已下線或未部署的模型,1 個為 BGE-M3 嵌入服務的健康探針格式不相容) - API 金鑰總數:336 組(Redis 快取 174 筆) - LiteLLM 間道:正常運作(已持續 5 天) - Wh…
服務健康狀態 整體狀態:正常運作 - 健康端點:10 個 - 離線端點:8 個(其中 5 個為已下線或未部署的模型,1 個為 BGE-M3 嵌入服務的健康探針格式不相容) - API 金鑰總數:326 組(Redis 快取 288 筆) - LiteLLM 閘道:正常運作(已持續 4 天) - Wh…
服務健康狀態 整體狀態:正常運作 - 健康端點:13 個 - 離線端點:4 個 - API 金鑰總數:324 組(Redis 快取 21,344 筆) - LiteLLM 閘道:正常運作(已持續 3 天) - Whisper 語音辨識服務:正常(medium / large-v3 模型已載入) ##…
服務健康狀態 整體狀態:正常運作 - 健康端點:13 個 - 離線端點:5 個 - API 金鑰總數:320 組(Redis 快取 130 筆) - LiteLLM 閘道:正常運作 - Whisper 語音辨識服務:正常(medium / large-v3 模型已載入) ### 線上服務模型 | 模…
各位使用者您好, 以下為今日的系統維護與服務狀態摘要: ### 🚀 模型服務動態 新上線模型: ### 📊 服務健康狀態 正常運作(13 個端點): - azure-eu1-gpt-5(Azure OpenAI) - vibecode(Gemma-4-31B-IT,262K 上下文) - vibe(…
新增模型:embeddinggemma-300m 透過 THU LLM API 現在支援兩種嵌入向量模型: | 模型 | 維度 | VRAM | 速度 | API 名稱 | |------|------|------|------|----------| | bge-m3-embedding | 1…
各位使用者您好, 以下為今日的系統維護與服務狀態摘要: ### 🚀 技術優化與部署 - Vibecode (Gemma-4-31B MTP) 效能調優:目前已成功部署基於 B200 的 MTP 推理加速,最高吞吐量提升至 1,238 tok/s,並支持最高 262K 的上下文窗口。 - 語音識別服務…
各位使用者您好,以下是今日系統更新與維護摘要: ### 技術工作完成 - 認證系統修復:成功恢復 198 筆 API 金鑰,並完成 SHA256 雜湊校驗,確保所有授權金鑰正常運作。 - ASR 服務優化:Whisper-large-v3 模型已完成部署並恢復服務,提供更高品質的語音轉文字體驗。 -…
系統狀態摘要 ### 閘道服務 ✅ LiteLLM 統一閘道服務運行正常,/health 端點回應正常。 ### 模型服務(15 個模型上線) | 模型 | 節點 | 說明 | |------|------|------| | gpt-oss-120b | B200 #1 | GPT-OSS 120…