Fireworks.ai

Fireworks.ai یک پلتفرم استنتاج سریع برای مدل‌های هوش مصنوعی متن‌باز است که استنتاج آماده تولید با توان عملیاتی بالا، تأخیر پایین و قیمت‌گذاری رقابتی ارائه می‌دهد. AvalAI دسترسی به مجموعه‌ای منتخب از مدل‌های متن‌باز میزبانی‌شده روی Fireworks.ai را فراهم می‌کند که همگی با فرمت SDK OpenAI سازگار هستند.

مدل‌های موجود

• nemotron-3-ultra - مدل پرچمدار بزرگ‌مقیاس Nemotron از NVIDIA برای استدلال پیچیده و بارهای کاری عاملی

پشتیبانی نقطه پایانی API

مدل	v1/chat/completions	v1/responses
همه مدل‌های Fireworks.ai	✅ کامل	⚠️ جزئی

ویژگی‌های کلیدی

• استنتاج سریع: سرویس‌دهی با توان عملیاتی بالا و تأخیر پایین برای مدل‌های متن‌باز
• سازگار با OpenAI: جایگزین مستقیم با استفاده از SDK و فرمت API شرکت OpenAI
• کش کردن پرامپت: قیمت‌گذاری ورودی کش‌شده برای صرفه‌جویی قابل توجه در هزینه زمینه تکراری
• فراخوانی تابع: پشتیبانی از استفاده از ابزار برای گردش‌کارهای عاملی
• آماده تولید: سرویس‌دهی قابل اطمینان برای بارهای کاری تولیدی

nemotron-3-ultra

مدل پرچمدار بزرگ‌مقیاس Nemotron از NVIDIA که روی پلتفرم Fireworks.ai میزبانی می‌شود. Nemotron-3 Ultra برای استدلال پیچیده، گردش‌کارهای عاملی و تولید متن باکیفیت ساخته شده است و قابلیت‌های قدرتمند را با استنتاج مقرون‌به‌صرفه ترکیب می‌کند.

ویژگی‌ها

• استدلال پیچیده: عملکرد قدرتمند در وظایف تحلیلی و استدلال چندمرحله‌ای
• گردش‌کارهای عاملی: استفاده از ابزار و فراخوانی تابع قابل اطمینان برای پایپ‌لاین‌های عامل خودمختار
• تولید باکیفیت: مناسب برای تولید متن و خلاصه‌سازی پرتقاضا
• کش کردن پرامپت: قیمت‌گذاری ورودی کش‌شده هزینه زمینه تکراری را کاهش می‌دهد
• سازگار با OpenAI: استفاده مستقیم با SDK شرکت OpenAI

قیمت‌گذاری

نوع	هزینه
توکن‌های ورودی	$0.60 در هر 1M توکن
توکن‌های ورودی کش‌شده	$0.12 در هر 1M توکن
توکن‌های خروجی	$2.40 در هر 1M توکن

پشتیبانی نقطه پایانی

نقطه پایانی	پشتیبانی
v1/chat/completions	✅ کامل
v1/responses	⚠️ جزئی

موارد استفاده

• استدلال پیچیده و وظایف تحلیلی
• گردش‌کارهای عاملی با استفاده از ابزار در چند مرحله
• تولید متن باکیفیت و خلاصه‌سازی
• استنتاج مدل بزرگ مقرون‌به‌صرفه برای بارهای کاری تولیدی

مثال

Bash

curl https://api.avalai.ir/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AVALAI_API_KEY" \
  -d '{
    "model": "nemotron-3-ultra",
    "messages": [
      {
        "role": "user",
        "content": "مزایا و معایب معماری میکروسرویس در برابر معماری یکپارچه را برای یک پلتفرم تجارت الکترونیک پرترافیک تحلیل کن."
      }
    ],
    "max_tokens": 4096
  }'

Python

from openai import OpenAI

client = OpenAI(api_key="your-avalai-api-key", base_url="https://api.avalai.ir/v1")

response = client.chat.completions.create(
    model="nemotron-3-ultra",
    messages=[
        {
            "role": "user",
            "content": "مزایا و معایب معماری میکروسرویس در برابر معماری یکپارچه را برای یک پلتفرم تجارت الکترونیک پرترافیک تحلیل کن.",
        },
    ],
    max_tokens=4096,
)

print(response.choices[0].message.content)

JavaScript

import { OpenAI } from "openai";

const client = new OpenAI({
  apiKey: process.env.AVALAI_API_KEY,
  baseURL: "https://api.avalai.ir/v1",
});

const response = await client.chat.completions.create({
  model: "nemotron-3-ultra",
  messages: [
    {
      role: "user",
      content: "مزایا و معایب معماری میکروسرویس در برابر معماری یکپارچه را برای یک پلتفرم تجارت الکترونیک پرترافیک تحلیل کن.",
    },
  ],
  max_tokens: 4096,
});

console.log(response.choices[0].message.content);

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `nemotron-3-ultra` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

Python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.5",
    instructions="You are a helpful assistant.",
    input="مزایا و معایب معماری میکروسرویس در برابر معماری یکپارچه را برای یک پلتفرم تجارت الکترونیک پرترافیک تحلیل کن.",
)

print(response.output_text)

JavaScript

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.AVALAI_API_KEY,
  baseURL: "https://api.avalai.ir/v1",
});

const response = await client.responses.create({
  model: "gpt-5.5",
  instructions: "You are a helpful assistant.",
  input: "مزایا و معایب معماری میکروسرویس در برابر معماری یکپارچه را برای یک پلتفرم تجارت الکترونیک پرترافیک تحلیل کن.",
});

console.log(response.output_text);

Bash

curl https://api.avalai.ir/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AVALAI_API_KEY" \
  -d '
  {
    "model": "gpt-5.5",
    "input": "مزایا و معایب معماری میکروسرویس در برابر معماری یکپارچه را برای یک پلتفرم تجارت الکترونیک پرترافیک تحلیل کن.",
    "instructions": "You are a helpful assistant."
  }'

• messages → input
• پیام سیستمی → instructions یا آیتم developer
• choices[0].message.content → response.output_text
• برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

مثال فراخوانی تابع

Bash

curl https://api.avalai.ir/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AVALAI_API_KEY" \
  -d '{
    "model": "nemotron-3-ultra",
    "messages": [
      {
        "role": "user",
        "content": "وضعیت آب‌وهوا در نیویورک چگونه است؟"
      }
    ],
    "tools": [
      {
        "type": "function",
        "function": {
          "name": "get_weather",
          "description": "دریافت اطلاعات آب‌وهوای فعلی",
          "parameters": {
            "type": "object",
            "properties": {
              "location": {
                "type": "string",
                "description": "نام شهر"
              }
            },
            "required": ["location"]
          }
        }
      }
    ],
    "tool_choice": "auto"
  }'

Python

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "دریافت اطلاعات آب‌وهوای فعلی",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "نام شهر",
                    }
                },
                "required": ["location"],
            },
        },
    }
]

response = client.chat.completions.create(
    model="nemotron-3-ultra",
    messages=[{"role": "user", "content": "وضعیت آب‌وهوا در نیویورک چگونه است؟"}],
    tools=tools,
    tool_choice="auto",
)

print(response.choices[0].message.tool_calls)

JavaScript

const tools = [
  {
    type: "function",
    function: {
      name: "get_weather",
      description: "دریافت اطلاعات آب‌وهوای فعلی",
      parameters: {
        type: "object",
        properties: {
          location: {
            type: "string",
            description: "نام شهر",
          },
        },
        required: ["location"],
      },
    },
  },
];

const response = await client.chat.completions.create({
  model: "nemotron-3-ultra",
  messages: [{ role: "user", content: "وضعیت آب‌وهوا در نیویورک چگونه است؟" }],
  tools: tools,
  tool_choice: "auto",
});

console.log(response.choices[0].message.tool_calls);

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `nemotron-3-ultra` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

Python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

tools = [
    {
        "type": "function",
        "name": "get_current_weather",
        "description": "Get the current weather in a given location.",
        "parameters": {
            "type": "object",
            "properties": {"location": {"type": "string"}},
            "required": ["location"],
            "additionalProperties": False,
        },
    }
]

response = client.responses.create(
    model="gpt-5.5",
    input="وضعیت آب‌وهوا در نیویورک چگونه است؟",
    tools=tools,
)

for item in response.output:
    if item.type == "function_call":
        print(item.name, item.arguments)
print(response.output_text)

JavaScript

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.AVALAI_API_KEY,
  baseURL: "https://api.avalai.ir/v1",
});

const tools = [
  {
    type: "function",
    name: "get_current_weather",
    description: "Get the current weather in a given location.",
    parameters: {
      type: "object",
      properties: { location: { type: "string" } },
      required: ["location"],
      additionalProperties: false,
    },
  },
];

const response = await client.responses.create({
  model: "gpt-5.5",
  input: "وضعیت آب‌وهوا در نیویورک چگونه است؟",
  tools,
});

for (const item of response.output) {
  if (item.type === "function_call") {
    console.log(item.name, item.arguments);
  }
}
console.log(response.output_text);

Bash

curl https://api.avalai.ir/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AVALAI_API_KEY" \
  -d '
  {
    "model": "gpt-5.5",
    "input": "وضعیت آب‌وهوا در نیویورک چگونه است؟",
    "tools": [
      {
        "type": "function",
        "name": "get_current_weather",
        "description": "Get the current weather in a given location.",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {
              "type": "string"
            }
          },
          "required": [
            "location"
          ],
          "additionalProperties": false
        }
      }
    ]
  }'

• messages → input
• پیام سیستمی → instructions یا آیتم developer
• choices[0].message.content → response.output_text
• برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

منابع مرتبط

• قیمت‌گذاری - جزئیات کامل قیمت‌گذاری همه مدل‌ها
• API چت کامل - مرجع نقطه پایانی Chat Completions
• راهنمای استدلال - کار با مدل‌های دارای قابلیت استدلال
• راهنمای فراخوانی تابع - استفاده از ابزار با مدل‌های AvalAI