Available Models

Model Hub

Explore all available models and view detailed documentation and API usage.

API Call Method

Specify model ID in the model field

BAAI BGE-M3 多語嵌入模型，採用 dual-encoder 架構，支援超過 100 種語言的跨語言檢索與語義匹配。輸出 1024 維向量，適合向量資料庫、RAG 檢索pipeline、相似度搜尋與多語內容索引。規格：1024 維、multi-lingual、Cross-lingual、可搭配 bge-m3-reranker 二次排序提升品質。

bge-m3-embedding

bge-m3-reranker

BAAI BGE-Reranker v2 M3 跨語言重排序模型（cross-encoder），在候選結果基礎上進行深度語義打分，顯著提升排序品質。適合長文本段落匹配、精準查詢與 RAG pipeline 最後一步的重新排序。規格：Cross-encoder、Multi-lingual、支援 query-doc 配對打分、可與 bge-m3-embedding 構成完整檢索流程：Embedding → 語意搜尋 → Rerank。

bge-m3-reranker

Gemma-4-31B-abliterated

Gemma-4-31B-abliterated - abliterated version of Gemma-4-31B with improved reasoning and reduced refusal. 64K context, suitable for high-quality reasoning tasks, code generation, and multilingual support. Specification: 31B parameters, 64K context, Function Calling support, Instruct-tuned.

vibegemma

gpt-oss-120b

開源 GPT 風格 120B 參數的大型語言模型，適合長上下文推理、程式輔助與通用生成。在內網自建環境可替代商用 API，支援多語與穩定的指令遵循，適合作為高品質預設模型。我們現在已經換成 Mistral-Small-4-119B-2603 但為了往前相容，model名稱仍然使用 gpt-oss-120b 模型使用: mistralai/Mistrall-Small-4-119B-2603 量化: BF16

gpt-oss-120b

Llama-4-Scout-17B-16E-Instruct-FP8

NVIDIA 發布的 Llama-4 Scout 多模態推理模型，17B 活躍專家、16 專家路由、256K 超長上下文。支援文字與圖像理解，適合長文件分析、多輪對話、Agent 規劃與跨文件推理。規格：FP8 量化、256K 上下文、16 專家路由、Instruct-tuned。

llama4scout

Nemotron-3-Nano-Omni-30B

NVIDIA Nemotron-3-Nano-Omni-30B 推理增強模型（A3B），專為高效推理任務優化，FP8 量化兼顧速度與品質。適合 Chain-of-Thought 推理、數學解題、程式生成與快速问答。規格：30B 參數、FP8 量化、32K 上下文、TP=2 部署、Reasoning-tuned。

nemotron-nano-30b

vibe

高效能通用對話模型，以 NVIDIA Nemotron-3-Super-120B 為骨幹，採用 NVFP4 量化在保持品質的同時最大化 throughput。適合大量文字生成、客服機器人、內容摘要與多輪對話。規格：120B 參數、NVFP4 量化、吞吐量約 150 tokens/s、多語言支援。

vibe

vibecode (MTP)

Gemma-4-31B-assistant (MTP) 推理加速版，採用 Multi-Token Prediction 一次預測多個 token，在 B200 GPU 上提供約 2.1 倍的單請求加速，並在高並發下支援最高 1,238 tokens/s 的峰值吞吐量。262K 超長上下文可容納完整程式碼庫，適合大型重構、跨檔案理解、Bug 定位與技術文件生成。規格：31B 參數、MTP 推理加速、262K 上下文、Function Calling 支援、Instruct-tuned。

vibecode

whisper-large-v3

OpenAI Whisper Large v3 加速版，專精多語言語音辨識與長音訊處理，涵蓋中文方言、專業術語與嘈雜環境。適合會議記錄、podcast 字幕生成、語音分析與無障礙服務。規格：多語言支援、強制時間戳（timestamps）、Word-level timestamps 可選、翻譯模式。

whisper-large-v3

No matching models found. Try a different keyword.