Fast, free, secure local LLM API keys for THU students and staff
BAAI BGE-M3 多語嵌入模型(dual-encoder),支援跨語言檢索與語義匹配;適用於向量資料庫、RAG 檢索、相似度搜尋與多語內容索引。
BAAI BGE Reranker v2 M3(cross-encoder)重排序模型,搭配嵌入檢索以提升最終排序品質;在長文本段落匹配與精準查詢場景表現突出。
大型開發助理模型(devstral-123B),強化程式理解、重構、測試與工具使用;與 VS Code/Cline 等工作流整合良好,適合端到端的開發協作與自動化。
開源 GPT 風格 120B 參數的大型語言模型,適合長上下文推理、程式輔助與通用生成。在內網自建環境可替代商用 API,支援多語與穩定的指令遵循,適合作為高品質預設模型。
Mistral 3B 等級模型(內部別名),輕量但生成品質與語言覆蓋表現良好;適合作為微服務中的通用預設或推論加速,兼顧速度與可用性。
Microsoft Phi-4-mini,小型泛用語言模型,專注低延遲與成本;在推理、數學與資料處理上具不錯性價比,適合邊緣部署、批次處理與資源受限場景。
Whisper Large v3(加速版)語音轉文字,強化多語音訊辨識與長音訊處理。
影像生成/推論模型的抽象別名,可指向符合 OpenAI-compatible 影像端點的服務;適合圖片理解、生成、OCR 與多模態管線整合。