Fireworks.ai
Fireworks.ai زیرساخت استنتاج production برای مدلهای open-weight فراهم میکند. AvalAI مدلهای منتخب میزبانیشده روی Fireworks.ai را از طریق routeهای سازگار ارائه میدهد؛ مالک و توسعهدهنده مدل همچنان شرکت اصلی مانند Meta یا NVIDIA است.
مدلهای موجود
muse-spark-open— مدل Meta با وزنهای باز و ۸۱۶ میلیارد پارامتر کل و ۴۲ میلیارد پارامتر فعال، از سطح ۰muse-glimmer-30b— مدل چندوجهی و عاملی ۳۰B از Metanemotron-3.5-lightning— مدل استدلالی کارآمد ۳۰B با ۳B پارامتر فعال از NVIDIAnemotron-3-ultra— مدل بزرگمقیاس NVIDIA برای استدلال و workflowهای عاملی
پشتیبانی نقطه پایانی API
| مدل | v1/chat/completions | v1/messages | v1/responses |
|---|---|---|---|
muse-glimmer-30b | ✅ کامل | ✅ کامل | ⚠️ جزئی |
nemotron-3.5-lightning | ✅ کامل | ✅ کامل | ⚠️ جزئی |
nemotron-3-ultra | ✅ کامل | ✅ کامل | ⚠️ جزئی |
muse-spark-open از مبنای Chat Completions مستندشده در ادامه استفاده میکند؛ این انتشار جدول موجود نقاط پایانی را به آن تعمیم نمیدهد.
پشتیبانی جزئی Responses یعنی ممکن است برخی فیلدهای اختصاصی Responses یا قابلیتهای stateful در دسترس نباشند. شکل دقیق درخواست را پیش از rollout در production آزمایش کنید.
ویژگیهای کلیدی
قابلیتها به مدل و مسیر بستگی دارند؛ پیش از انتخاب قابلیت اختیاری، بخش پشتیبانی همان مدل را بخوانید.
- دسترسی سازگار با OpenAI به Chat Completions
- دسترسی سازگار با Anthropic به Messages
- فراخوانی تابع و workflowهای عاملی
- کش ضمنی سمت provider برای درخواستهای واجد شرایط
- قیمت ورودی کششده برای prefixهای تکراری
Muse Spark Open
Muse Spark Open در ۳ آبان ۱۴۰۵ / (2026-10-25) به AvalAI اضافه میشود؛ Meta آن را توسعه داده و درخواستها از طریق Fireworks.ai مسیریابی میشوند. نمای کلی رسمی Meta مدلی با وزنهای باز، معماری تنک ترکیب متخصصان، ۸۱۶ میلیارد پارامتر کل و ۴۲ میلیارد پارامتر فعال برای هر توکن، رمزگذارهای ادراکی و خروجی متن را توضیح میدهد. راهنمای استقرار Meta نام Fireworks را در میان میزبانان مدل آورده است. مقدار owned_by: nvidia در فهرست، فراداده مسیریابی است و ثابت نمیکند که NVIDIA مدل را توسعه داده است.
دسترسی، محدودیتها و انتخاب مسیر
شناسه دقیق درخواست در AvalAI، muse-spark-open است. شناسه API اصلی Fireworks برابر accounts/fireworks/models/muse-spark-open است؛ آن شناسه، کلید Fireworks یا آدرس Fireworks را در نمونه AvalAI قرار ندهید. دسترسی از سطح ۰ آغاز میشود. AvalAI حداکثر ۱٬۰۴۸٬۵۷۶ توکن ورودی را ثبت کرده، اما سقف خروجی این مسیر ثبت نشده است. سقف ورودی مجوز تولید همان تعداد توکن خروجی یا تضمین بودجه ترکیبی درخواست نیست. محدودیت نرخ حساب را برای همین مدل بررسی کنید و درخواستهای بزرگتر را جداگانه بسنجید.
Chat Completions مبنای مستندشده درخواست متنی این افزوده در AvalAI است. فهرست فعلی استدلال، بینایی و فراخوانی تابع را ثبت کرده است. Meta ورودی متن و تصویر، فراخوانی ابزار، حافظه نهان خودکار و میزبانی سازگار با OpenAI را در Fireworks اصلی توضیح میدهد؛ قالبهای اختیاری همچنان به بررسی در AvalAI نیاز دارند. پشتیبانی Messages در ارائهدهنده اصلی، نمونههای ویدئو و صوت برای میزبانی شخصی، حالت JSON، کنترل استدلال، کار با رایانه و استقرار اختصاصی یا خصوصی، دسترسی به همان قابلیتها در این مسیر AvalAI را ثابت نمیکنند. این افزوده نشان پشتیبانی تازهای برای Messages یا Responses تأیید نمیکند. ابتدا تنظیمات اختیاری استدلال و نمونهگیری را نفرستید و پیش از تکیه بر هر قابلیت، همان قالب دقیق را آزمایش کنید.
اگر میخواهید بدون اداره GPUها از مدل Meta با وزنهای باز در میزبان استفاده کنید یا به دسترسی سطح ۰ نیاز دارید، Spark Open را بررسی کنید. اگر طراحی مدل برای مهندسی نرمافزار و عاملهای طولانیمدت با کار شما تناسب دارد و دسترسی سطح ۱ دارید، Muse Wonder مستقیم را بررسی کنید؛ مسیریابی و کارمزد آن متفاوت است. برای کارهای کوچکتر، گزینههای موجود Glimmer و Nemotron در ادامه را مقایسه کنید. کیفیت پاسخ، زمان دریافت نخستین پاسخ، مصرف توکن خروجی و درستی فراخوانی ابزار را با کارهای خود بسنجید و نتایج معیار ارائهدهنده را تضمین AvalAI ندانید. اجرای ابزار و بررسی اقدامات پیشنهادی بر عهده برنامه شماست.
قیمت AvalAI و حافظه نهان پرامپت
همه مبلغهای زیر دلار آمریکا برای هر یک میلیون توکن و نرخ نهایی فعلی صورتحساب AvalAI هستند:
| نوع هزینه | نرخ نهایی AvalAI |
|---|---|
| ورودی بدون حافظه نهان | $1.25 |
| ورودی از حافظه نهان | $0.15 |
| خروجی | $4.25 |
این مسیر Fireworks.ai کارمزد پردازش تازهای ندارد. استثنای ۱۵٪ مسیر مستقیم Meta را برای Spark Open اعمال نکنید و نرخهای فعلی فهرست را دوباره افزایش ندهید. اینها قیمت مسیر استانداردند؛ حالتهای اولویتدار، ظرفیت اختصاصی و برنامههای جداگانه ارائهدهنده اصلی، قرارداد AvalAI در این نمونه را تغییر نمیدهند.
مستندات Meta درباره استقرار در Fireworks، حافظه نهان خودکار پرامپت را توضیح میدهند. دستورالعملها، نمونهها و تاریخچه قابل استفاده دوباره را ابتدا و محتوای متغیر را در انتها قرار دهید. فیلد usage.prompt_tokens_details.cached_tokens در صورت بازگشت، توکنهای بازیابیشده از حافظه نهان را درون prompt_tokens میشمارد و توکن اضافه نیست. اگر P کل توکن ورودی، C توکن ورودی از حافظه نهان و O توکن خروجی باشد، برآورد دلاری هزینه توکن برابر است با ((P - C) × 1.25 + C × 0.15 + O × 4.25) / 1,000,000. نرخ ورودی از حافظه نهان، بازیابی موفق، مدت نگهداری، پارامتر کنترل حافظه نهان یا هزینه نوشتن را تضمین نمیکند؛ از مقادیر مصرف واقعی و راهنمای حافظه نهان پرامپت استفاده کنید. نمونه کنترلهای حافظه نهان ارائهدهنده اصلی را تنظیم نمیکند.
نمونه محدود Chat Completions
کلید AVALAI_API_KEY را در سرور نگه دارید. هر برنامه یک درخواست به POST https://api.avalai.ir/v1/chat/completions میفرستد، برای SDK شرکت OpenAI از آدرس پایه https://api.avalai.ir/v1 استفاده میکند، سقف تولید را با max_tokens: 256 تعیین میکند، مهلت درخواست را ۶۰ ثانیه قرار میدهد و تلاش دوباره خودکار را غیرفعال میکند. curl برای برقراری اتصال نیز مهلت ۱۰ ثانیه دارد. این نمونهای کوچک برای بررسی سازگاری است؛ اجرای طولانی استدلال را اعتبارسنجی نمیکند و سقف قابلیت خروجی مدل را تعیین نمیکند. مدل اصلی ممکن است بودجه توکن را صرف استدلال کند؛ پاسخ واقعی و finish_reason را بررسی کنید و فرض نکنید که هر درخواست موفق حتماً متن کامل دارد.
curl --fail-with-body --silent --show-error \
--connect-timeout 10 --max-time 60 --retry 0 \
https://api.avalai.ir/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $AVALAI_API_KEY" \
-d '{
"model": "muse-spark-open",
"messages": [{"role": "user", "content": "Give a concise checklist for reviewing an API change."}],
"max_tokens": 256
}'import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["AVALAI_API_KEY"],
base_url="https://api.avalai.ir/v1",
timeout=60.0,
max_retries=0,
)
response = client.chat.completions.create(
model="muse-spark-open",
messages=[
{"role": "user", "content": "Give a concise checklist for reviewing an API change."}
],
max_tokens=256,
)
print(response.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.AVALAI_API_KEY,
baseURL: "https://api.avalai.ir/v1",
timeout: 60000,
maxRetries: 0,
});
const response = await client.chat.completions.create({
model: "muse-spark-open",
messages: [{ role: "user", content: "Give a concise checklist for reviewing an API change." }],
max_tokens: 256,
});
console.log(response.choices[0].message.content);پاسخ آموزشی:
{
"id": "chatcmpl-example-spark-open",
"object": "chat.completion",
"created": 1792886400,
"model": "muse-spark-open",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "Check compatibility, authentication, validation, errors, tests, and billing."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 20,
"completion_tokens": 100,
"total_tokens": 120,
"prompt_tokens_details": {
"cached_tokens": 0
},
"completion_tokens_details": null
},
"estimated_cost": {
"unit": "0.0004500000",
"irt": null,
"exchange_rate": null
}
}این پاسخ کامل، آموزشی است و گزارش درخواست زنده AvalAI نیست. شناسه، زمان، متن پاسخ و تعداد توکنها ساختگیاند. برای ۲۰ توکن ورودی بدون حافظه نهان و ۱۰۰ توکن خروجی، محاسبه برابر است با (20 × $1.25 + 100 × $4.25) / 1,000,000 = $0.0004500. برآورد کارمزد پردازش ندارد. فیلدهای irt و exchange_rate مقدار null دارند، چون نرخ تبدیل مشخص نشده است. شیوه واقعی محاسبه استدلال و خروجی و فیلدهای اختیاری usage یا estimated_cost ممکن است متفاوت باشند یا ارسال نشوند؛ User API مرجع معتبر صورتحساب است.
فیلدهای choices[0].message.content و finish_reason را بخوانید. اگر دلیل پایان length باشد یا پاسخ خالی باشد، بودجه تولید را در چارچوب محدودیتهای مستقل بررسیشده مدل بازبینی کنید؛ سقف ۲۵۶ توکن عمداً کوچک است. برای خطای HTTP 400، شناسه مدل، ساختار پیام، پارامتر پشتیبانینشده یا ورودی بیشازحد بزرگ را اصلاح کنید. برای 401/403، کلید یا دسترسی حساب را اصلاح کنید. برای 429، بدنه پاسخ و راهنمای محدودیت نرخ را بررسی کنید؛ اتمام سهمیه حساب به رسیدگی نیاز دارد. برنامههای منتشرشده درخواست را تکرار نمیکنند. بدنه پاکسازیشده خطا و avalai-request-id را در صورت وجود نگه دارید و پیش از ارسال دوباره به یاد داشته باشید که پایان مهلت ممکن است پس از پردازش در سرور رخ دهد.
برای مدلهای دیگر این افزوده، خبر ۳ آبان را ببینید.
muse-glimmer-30b
Muse Glimmer توسط Meta Superintelligence Lab توسعه یافته و روی Fireworks.ai میزبانی میشود. این مدل dense با حدود ۳۰ میلیارد پارامتر و encoder ادراکی، درک متن و تصویر، تولید چندزبانه، استفاده از ابزار، استدلال چندمرحلهای، بازیابی از شکست و زمینه حداقل ۱۳۱٬۰۷۲ توکن را ترکیب میکند.
ویژگیها
- ورودی متن و تصویر و خروجی متن
- پشتیبانی از بیش از ۱۰۰ زبان
- تکمیل وظایف عاملی، کدنویسی و استفاده از ابزار
- سطوح reasoning قابل تنظیم:
low،medium،highوxhigh - sampling پیشنهادی upstream:
temperature: 1.0،top_p: 0.95وtop_k: 64
قیمتگذاری
| نوع | هزینه هر ۱ میلیون توکن |
|---|---|
| ورودی | $0.35 |
| ورودی کششده | $0.04 |
| خروجی | $1.50 |
پشتیبانی نقطه پایانی
| نقطه پایانی | پشتیبانی |
|---|---|
v1/chat/completions | ✅ کامل |
v1/messages | ✅ کامل |
v1/responses | ⚠️ جزئی |
مثال
curl https://api.avalai.ir/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $AVALAI_API_KEY" \
-d '{
"model": "muse-glimmer-30b",
"messages": [{"role": "user", "content": "یک workflow پژوهشی مطمئن با استفاده از ابزار طراحی کن."}]
}'import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["AVALAI_API_KEY"], base_url="https://api.avalai.ir/v1"
)
response = client.chat.completions.create(
model="muse-glimmer-30b",
messages=[
{
"role": "user",
"content": "یک workflow پژوهشی مطمئن با استفاده از ابزار طراحی کن.",
}
],
)
print(response.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ apiKey: process.env.AVALAI_API_KEY, baseURL: "https://api.avalai.ir/v1" });
const response = await client.chat.completions.create({
model: "muse-glimmer-30b",
messages: [{ role: "user", content: "یک workflow پژوهشی مطمئن با استفاده از ابزار طراحی کن." }],
});
console.log(response.choices[0].message.content);nemotron-3.5-lightning
Nemotron 3.5 Lightning توسط NVIDIA توسعه یافته و روی Fireworks.ai میزبانی میشود. این مدل hybrid Mixture-of-Experts دارای ۳۰ میلیارد پارامتر کل و ۳ میلیارد پارامتر فعال است و لایههای Mamba-2، MoE و attention را برای استدلال عاملی، کدنویسی، RAG، خروجی ساختاریافته و استفاده از ابزار ترکیب میکند. زمینه ثبتشده این route در AvalAI برابر ۲۶۲٬۱۴۴ توکن است.
ویژگیها
- معماری hybrid MoE با ۳۰B پارامتر کل و ۳B پارامتر فعال
- مناسب reasoning، کدنویسی، RAG و عاملهای خودمختار
- فراخوانی ابزار و خروجی ساختاریافته
- امکان فعال یا غیرفعال کردن thinking در پیادهسازی upstream
- sampling پیشنهادی upstream:
temperature: 1.0وtop_p: 0.95
قیمتگذاری
| نوع | هزینه هر ۱ میلیون توکن |
|---|---|
| ورودی | $0.05 |
| ورودی کششده | $0.01 |
| خروجی | $0.20 |
پشتیبانی نقطه پایانی
| نقطه پایانی | پشتیبانی |
|---|---|
v1/chat/completions | ✅ کامل |
v1/messages | ✅ کامل |
v1/responses | ⚠️ جزئی |
مثال
curl https://api.avalai.ir/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $AVALAI_API_KEY" \
-d '{
"model": "nemotron-3.5-lightning",
"messages": [{"role": "user", "content": "این برنامه deployment را بررسی کن و سه ریسک اصلی را فهرست کن."}]
}'import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["AVALAI_API_KEY"], base_url="https://api.avalai.ir/v1"
)
response = client.chat.completions.create(
model="nemotron-3.5-lightning",
messages=[
{
"role": "user",
"content": "این برنامه deployment را بررسی کن و سه ریسک اصلی را فهرست کن.",
}
],
)
print(response.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ apiKey: process.env.AVALAI_API_KEY, baseURL: "https://api.avalai.ir/v1" });
const response = await client.chat.completions.create({
model: "nemotron-3.5-lightning",
messages: [{ role: "user", content: "این برنامه deployment را بررسی کن و سه ریسک اصلی را فهرست کن." }],
});
console.log(response.choices[0].message.content);nemotron-3-ultra
مدل بزرگمقیاس Nemotron از NVIDIA روی Fireworks.ai برای استدلال پیچیده، تولید باکیفیت و workflowهای چندمرحلهای ابزار میزبانی میشود.
قیمتگذاری
| نوع | هزینه هر ۱ میلیون توکن |
|---|---|
| ورودی | $0.60 |
| ورودی کششده | $0.12 |
| خروجی | $2.40 |
پشتیبانی نقطه پایانی
| نقطه پایانی | پشتیبانی |
|---|---|
v1/chat/completions | ✅ کامل |
v1/messages | ✅ کامل |
v1/responses | ⚠️ جزئی |