Mistral Small 4 119B 參數 MoE 模型，採用 NVFP4 量化，支援 262K 上下文、Function Calling 與推理模式。已啟用 Prefix Caching 加速重複前綴請求的處理速度。自 2026 年 3 月起提供服務。
mistral-small-4| Model ID | mistral-small-4 |
|---|---|
| Model Name | Mistral Small 4 (119B) |
| Description | Mistral Small 4 119B 參數 MoE 模型，採用 NVFP4 量化，支援 262K 上下文、Function Calling 與推理模式。已啟用 Prefix Caching 加速重複前綴請求的處理速度。自 2026 年 3 月起提供服務。 |
| Related Link | https://mistral.ai/news/mistral-small-4 |
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.ithu.tw/v1",
)
response = client.chat.completions.create(
model="mistral-small-4",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(response.choices[0].message.content)