開源 GPT 風格 120B 參數的大型語言模型，適合長上下文推理、程式輔助與通用生成。在內網自建環境可替代商用 API，支援多語與穩定的指令遵循，適合作為高品質預設模型。 我們現在已經換成 Mistral-Small-4-119B-2603 但為了往前相容，model名稱仍然使用 gpt-oss-120b 模型使用: mistralai/Mistrall-Small-4-119B-2603 量化: BF16
gpt-oss-120b| 模型 ID | gpt-oss-120b |
|---|---|
| 模型名稱 | gpt-oss-120b |
| 說明 | 開源 GPT 風格 120B 參數的大型語言模型，適合長上下文推理、程式輔助與通用生成。在內網自建環境可替代商用 API，支援多語與穩定的指令遵循，適合作為高品質預設模型。 我們現在已經換成 Mistral-Small-4-119B-2603 但為了往前相容，model名稱仍然使用 gpt-oss-120b 模型使用: mistralai/Mistrall-Small-4-119B-2603 量化: BF16 |
| 相關連結 | https://huggingface.co/models?search=Mistral-Small-4-119B-2603 |
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.ithu.tw/v1",
)
response = client.chat.completions.create(
model="gpt-oss-120b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(response.choices[0].message.content)