NVIDIA Nemotron-3-Nano-Omni-30B 推理增強模型（A3B），專為高效推理任務優化，FP8 量化兼顧速度與品質。適合 Chain-of-Thought 推理、數學解題、程式生成與快速问答。 規格：30B 參數、FP8 量化、32K 上下文、TP=2 部署、Reasoning-tuned。
nemotron-nano-30b| 模型 ID | nemotron-nano-30b |
|---|---|
| 模型名稱 | Nemotron-3-Nano-Omni-30B |
| 說明 | NVIDIA Nemotron-3-Nano-Omni-30B 推理增強模型（A3B），專為高效推理任務優化，FP8 量化兼顧速度與品質。適合 Chain-of-Thought 推理、數學解題、程式生成與快速问答。 規格：30B 參數、FP8 量化、32K 上下文、TP=2 部署、Reasoning-tuned。 |
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.ithu.tw/v1",
)
response = client.chat.completions.create(
model="nemotron-nano-30b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(response.choices[0].message.content)