各位使用者您好,以下是今日系統更新與維護摘要:
### 技術工作完成
- 認證系統修復:成功恢復 198 筆 API 金鑰,並完成 SHA256 雜湊校驗,確保所有授權金鑰正常運作。
- ASR 服務優化:Whisper-large-v3 模型已完成部署並恢復服務,提供更高品質的語音轉文字體驗。
- 推理效能提升:針對 vibecode (Gemma-4-31B) 啟用 MTP (Multi-Token Prediction) 投機採樣,大幅提升生成速度並支援最高 262K 上下文窗口。
### 模型列表更新
- 新部署/升級:
- vibecode (Gemma-4-31B-IT + MTP):效能顯著提升,支援超長文本分析。
- whisper-large-v3:恢復服務,建議優先使用此版本以獲得最佳精準度。
### 系統變動摘要
- 更新 Litellm Gateway 配置,優化模型路由策略與超時設定。
- 完成全節點 SSH 權限與 sudo 規則同步,提升後台維護效率。
感謝您的使用!