پرسش از هوش مصنوعی

پرسش از AvalAI پرسش از Claude پرسش از ChatGPT

پرسش از هوش مصنوعی

پرسش از AvalAI پرسش از Claude پرسش از ChatGPT

مدل‌های Meta: Muse و Llama

AvalAI برای muse-wonder-1.0، muse-spark-1.3 و muse-image-1.0 از Meta به‌طور مستقیم از طریق meta.ai پشتیبانی می‌کند. مسیر muse-spark-open با وزن‌های باز روی Fireworks.ai میزبانی می‌شود. مدل‌های Llama شرکت Meta نیز از طریق یکپارچه‌سازی با شرکایی مانند AWS Bedrock و Google Vertex AI قابل دسترسی‌اند. این مسیرها متفاوت‌اند؛ تعلق یک مدل به Meta به معنی یکسان بودن نقاط پایانی، قیمت یا کنترل‌های ارائه‌دهنده نیست.

مدل‌های مستقیم Meta

مدل‌های مستقیم Muse در جدول زیر از سطح ۱ در دسترس‌اند. از کلید API AvalAI و شناسه‌های دقیق بدون پیشوند زیر استفاده کنید؛ کلید یا آدرس API اصلی Meta را جایگزین نکنید.

مدل	شناسه دقیق	کاربرد	نقاط پایانی پشتیبانی‌شده در AvalAI
Muse Wonder 1.0 (پیش‌نمایش)	`muse-wonder-1.0`	استدلال با خروجی متن، مهندسی نرم‌افزار و عامل‌های طولانی‌مدت	`/v1/chat/completions` (مبنای مستندشده)
Muse Spark 1.3	`muse-spark-1.3`	استدلال، کدنویسی، متن و گردش‌کار عامل‌ها	`/v1/chat/completions`، `/v1/messages`، `/v1/responses` (جزئی)
Muse Image 1.0	`muse-image-1.0`	تولید تصویر از متن	فقط `/v1/images/generations`

Muse Spark 1.3

Muse Spark مدل استدلالی میزبانی‌شده Meta برای حل مسائل پیچیده، مهندسی نرم‌افزار و عامل‌های طولانی‌مدت است. فهرست AvalAI حداکثر ۱٬۰۴۸٬۵۷۶ توکن ورودی و ۱۳۱٬۰۷۲ توکن خروجی را ثبت کرده است؛ همچنین استدلال، بینایی، ورودی PDF، فراخوانی تابع، فراخوانی موازی توابع، خروجی ساختاریافته و حافظه نهان پرامپت را فهرست می‌کند. سقف ورودی و خروجی مستقل‌اند؛ مجموع آن‌ها ظرفیت تضمین‌شده یک درخواست نیست.

Meta در Model API خود فراخوانی موازی ابزارها، ارسال جریانی آرگومان‌های ابزار و تداوم استدلال میان نوبت‌های گفتگو را توضیح می‌دهد. پیش از استفاده از این قابلیت‌های API اصلی، رفتار دقیق ابزار، ورودی چندوجهی و پخش جریانی را در نقطه پایانی انتخابی AvalAI بررسی کنید. پشتیبانی Responses جزئی است: موفقیت یک درخواست متنی ساده پشتیبانی از ابزارهای میزبانی‌شده OpenAI، کارهای پس‌زمینه، مکالمه‌های ذخیره‌شده، previous_response_id یا همه کنترل‌های اختصاصی استدلال را ثابت نمی‌کند.

ابتدا تنظیم اختیاری تلاش یا تفکر را ارسال نکنید. صرف سازگاری SDK دلیل استفاده از reasoning_effort، شی reasoning شرکت OpenAI یا تنظیمات تفکر اختصاصی Anthropic نیست. پاسخ نهایی، دلیل کوتاه یا فهرست بررسی بخواهید، نه زنجیره فکر پنهان.

Muse Wonder 1.0

Muse Wonder 1.0 در ۳ آبان ۱۴۰۵ / (2026-10-25) به مسیرهای مستقیم Meta در AvalAI اضافه می‌شود. Meta این مدل در مرحله پیش‌نمایش را مدلی استدلالی با خروجی متن برای مهندسی نرم‌افزار پیچیده و عامل‌های طولانی‌مدت معرفی می‌کند: برنامه‌ریزی کار، هماهنگی عامل‌های فرعی، استفاده از ابزار و بررسی تغییرات در مخزن کد. می‌توانید برای بررسی طراحی API یا پیشنهاد تغییر در چند فایل از آن کمک بگیرید؛ اجرای ابزار، بررسی نتیجه و صدور مجوز اقدامات مهم همچنان بر عهده برنامه شماست. Muse Wonder تصویر تولید نمی‌کند؛ برای مسیر تولید تصویر که در ادامه توضیح داده شده از Muse Image استفاده کنید.

فهرست فعلی AvalAI دسترسی از سطح ۱، حداکثر ۱٬۰۴۸٬۵۷۶ توکن ورودی و ۱۳۱٬۰۷۲ توکن خروجی را ثبت کرده است. این اعداد سقف‌های ثبت‌شده مسیرند و تضمین نمی‌کنند که هر دو سقف در یک درخواست جا بگیرند. برای خروجی جا بگذارید، یکپارچه‌سازی اولیه را با درخواست کوچک شروع کنید و محدودیت نرخ حساب را بررسی کنید. فهرست همچنین استدلال، بینایی، ورودی PDF، فراخوانی تابع، فراخوانی موازی توابع، خروجی ساختاریافته و حافظه نهان پرامپت را ثبت کرده است؛ قالب‌های اختیاری درخواست به بررسی مستقل در AvalAI نیاز دارند.

این انتشار POST https://api.avalai.ir/v1/chat/completions را مبنای مستندشده درخواست متنی قرار می‌دهد. وجود Messages و Responses در فراداده فهرست، دسترسی این مسیر تازه به آن دو قالب را تأیید نمی‌کند؛ این صفحه برای آن‌ها ادعای پشتیبانی یا نمونه تازه‌ای اضافه نمی‌کند. ورودی ویدئو و صوت، کار با رایانه، جست‌وجوی وب، بازپخش استدلال و کنترل‌های اختصاصی در API اصلی Meta، قابلیت‌های جداگانه‌اند و وعده تازه‌ای درباره AvalAI ایجاد نمی‌کنند. ابتدا فقط model، messages و سقف کوچک max_tokens را بفرستید؛ تا رفتار دقیق تنظیمات استدلال و نمونه‌گیری را در AvalAI بررسی نکرده‌اید، آن‌ها را ارسال نکنید.

Muse Wonder Full مدل دیگری است. Meta آن نسخه توانمندتر را از طریق برخی اشتراک‌های Muse Code ارائه می‌کند. شناسه muse-wonder-1.0 در AvalAI نسخه Wonder Full را انتخاب نمی‌کند و افزایش میزان تلاش استدلال نیز آن را به نسخه اشتراکی تبدیل نمی‌کند. مستندات مدل‌های Meta، صفحه Wonder و کارت مدل این تفاوت و محدودیت ارزیابی‌ها را توضیح می‌دهند. نتایج معیارهای ارائه‌دهنده، عملکرد مدل را برای پرامپت‌ها، مسیر میزبانی، ابزارها یا کاربردهای فارسی شما ثابت نمی‌کنند.

Muse Image 1.0

Muse Image از متن تصویر می‌سازد. Meta ترکیب‌بندی مبتنی بر استدلال را برای چیدمان‌های ساختاریافته، تصویرسازی، تصاویر محصول و طرح‌های خلاقانه توضیح می‌دهد. سوژه، چیدمان، سبک و نورپردازی را مشخص کنید؛ متن درخواستی را کوتاه نگه دارید و نوشته‌ها و اعداد را بررسی کنید. درخواست‌های تکراری نتیجه قطعی و یکسان ندارند.

تولید تصویر تنها عملیات پشتیبانی‌شده AvalAI برای این مدل است. در این انتشار، /v1/images/edits، /v1/images/variations، Chat Completions، Messages و Responses برای muse-image-1.0 پشتیبانی نمی‌شوند. ویرایش، ترکیب تصاویر مرجع و گردش‌کارهای چندمرحله‌ای تصویر در API اصلی Meta به معنی دسترسی به آن‌ها در AvalAI نیست.

Meta خروجی API اصلی را تا ۱۶۰۰ پیکسل توصیف می‌کند، اما این مشخصات قرارداد تأییدشده وضوح خروجی AvalAI نیست. با model، prompt و n: 1 شروع کنید؛ پشتیبانی از size، quality، style، پخش جریانی، قالب خروجی یا کنترل‌های ابزار تصویر Responses را بر اساس تنظیمات OpenAI فرض نکنید.

قیمت‌گذاری و استثنای کارمزد پردازش

سیاست عمومی AvalAI همچنان کارمزد ۰٪ و عدم افزایش قیمت رسمی ارائه‌دهندگان است. برای سه مسیر مستقیم Meta در جدول بالا، در حال حاضر کارمزد ۱۵٪ پردازش صورتحساب علاوه بر نرخ پایه مربوط در AvalAI دریافت می‌شود تا هزینه‌های اضافی پرداخت و صورتحساب AvalAI برای ارائه مدل‌های meta.ai را پوشش دهد. این مبلغ به نرخ پایه مربوط در AvalAI اضافه می‌شود؛ کارمزد AvalAI است و افزایش قیمت از سوی Meta نیست. پس از برطرف‌شدن هزینه‌های اضافی، کارمزد ممکن است تغییر کند؛ تاریخ مشخصی برای تغییر یا حذف آن وعده داده نشده است.

واحد مبلغ‌ها دلار آمریکا برای هر یک میلیون توکن Wonder/Spark و دلار آمریکا برای هر تصویر خروجی Image است:

مدل / نوع هزینه	نرخ پایه AvalAI پیش از کارمزد	مبلغ اضافه ۱۵٪	نرخ نهایی صورتحساب AvalAI
`muse-wonder-1.0`: ورودی / 1M توکن	$1.25	$0.1875	$1.4375
`muse-wonder-1.0`: ورودی از حافظه نهان / 1M توکن	$0.15	$0.0225	$0.1725
`muse-wonder-1.0`: خروجی / 1M توکن	$4.25	$0.6375	$4.8875
`muse-spark-1.3`: ورودی / 1M توکن	$1.25	$0.1875	$1.4375
`muse-spark-1.3`: ورودی از حافظه نهان / 1M توکن	$0.15	$0.0225	$0.1725
`muse-spark-1.3`: خروجی / 1M توکن	$4.25	$0.6375	$4.8875
`muse-image-1.0`: خروجی / تصویر	$0.01	$0.0015	$0.0115

نرخ‌های نهایی کارمزد را در خود دارند: نرخ پایه AvalAI × ۱٫۱۵. آن را دوباره اضافه نکنید. Muse Image حتی با فیلدهای نرخ توکن صفر، هزینه مستقل به‌ازای هر تصویر دارد؛ برای نرخ نهایی در فهرست عمومی از pricing.output_cost_per_image استفاده کنید. نرخ ورودی از حافظه نهان Spark فقط برای بازیابی واقعی اعمال می‌شود و طول عمر حافظه نهان یا پشتیبانی از کنترل آن را تعیین نمی‌کند.

برای Wonder، این اعداد نرخ‌های پایه زمان عرضه در AvalAI هستند که AvalAI اعلام کرده و فهرست فعلی با احتساب کارمزد ثبت کرده است. این اعداد قیمت عمومی فعلی Wonder در Meta نیستند: صفحه قیمت‌گذاری Meta اکنون برای هر یک میلیون توکن، $4.00 ورودی، $0.20 ورودی از حافظه نهان و $20.00 خروجی را نشان می‌دهد. نرخ پایه AvalAI را قیمت رسمی Meta ننامید و اعداد ارائه‌دهنده اصلی را جایگزین صورتحساب AvalAI نکنید. ردیف‌های موجود Spark/Image نرخ‌های پایه مربوط به خود را حفظ می‌کنند.

Meta برای حافظه نهان Wonder، استفاده خودکار از پیشوندهای ثابت پرامپت را توضیح می‌دهد. دستورالعمل‌ها و نمونه‌های ثابت را ابتدا و محتوای متغیر را در انتها قرار دهید. در Chat Completions، فیلد usage.prompt_tokens_details.cached_tokens در صورت بازگشت، زیرمجموعه‌ای از prompt_tokens است و ورودی اضافه نیست. اگر P کل توکن ورودی، C توکن ورودی از حافظه نهان و O توکن خروجی باشد، برآورد دلاری هزینه توکن Wonder با احتساب کارمزد برابر است با ((P - C) × 1.4375 + C × 0.1725 + O × 4.8875) / 1,000,000. ثبت نرخ ورودی از حافظه نهان، بازیابی موفق، مدت نگهداری، فیلد کنترل حافظه نهان یا هزینه نوشتن در آن را تضمین نمی‌کند. نمونه محدود این صفحه کنترل حافظه نهان یا قابلیت پولی جست‌وجو و ابزار اضافه نمی‌کند. راهنمای حافظه نهان پرامپت کاربرد آن را در برنامه توضیح می‌دهد.

این استثنا مربوط به همین سه مسیر مستقیم است و خودبه‌خود به همه مدل‌های متعلق به Meta که شرکا میزبانی می‌کنند تعمیم نمی‌یابد. برای نمونه محاسبه هزینه و نمونه‌های کامل درخواست و پاسخ، قیمت‌گذاری و خبر انتشار را ببینید.

Muse Wonder: نمونه Chat Completions

کلید AVALAI_API_KEY را در سرور نگه دارید. SDKهای پایتون و جاوااسکریپت OpenAI از https://api.avalai.ir/v1 استفاده می‌کنند. هر برنامه زیر فقط یک بار درخواست می‌فرستد، تلاش دوباره خودکار را غیرفعال می‌کند، مهلت درخواست را ۶۰ ثانیه تعیین می‌کند و با max_tokens: 256 سقف تولید را محدود می‌کند؛ curl برای برقراری اتصال نیز مهلت ۱۰ ثانیه دارد. این‌ها نمونه‌های محدود برای بررسی سازگاری‌اند و تنظیمات اجرای چندساعته عامل نیستند. ورودی شامل یک پیام کاربر است؛ max_tokens سقف توکن‌های تولیدشده را تعیین می‌کند و سقف ورودی مدل نیست. Meta این نام جایگزین Chat Completions را در API اصلی می‌پذیرد، درحالی‌که OpenAI اکنون برای مدل‌های خودش max_completion_tokens را ترجیح می‌دهد؛ از قالب منتشرشده AvalAI استفاده کنید و فیلدهای قالب‌های مختلف API را جابه‌جا نکنید.

BashPythonJavaScript

bash

curl --fail-with-body --silent --show-error \
  --connect-timeout 10 --max-time 60 --retry 0 \
  https://api.avalai.ir/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AVALAI_API_KEY" \
  -d '{
    "model": "muse-wonder-1.0",
    "messages": [{"role": "user", "content": "Give a concise checklist for reviewing an API change."}],
    "max_tokens": 256
  }'

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
    timeout=60.0,
    max_retries=0,
)
response = client.chat.completions.create(
    model="muse-wonder-1.0",
    messages=[
        {"role": "user", "content": "Give a concise checklist for reviewing an API change."}
    ],
    max_tokens=256,
)
print(response.choices[0].message.content)

javascript

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.AVALAI_API_KEY,
  baseURL: "https://api.avalai.ir/v1",
  timeout: 60000,
  maxRetries: 0,
});
const response = await client.chat.completions.create({
  model: "muse-wonder-1.0",
  messages: [{ role: "user", content: "Give a concise checklist for reviewing an API change." }],
  max_tokens: 256,
});
console.log(response.choices[0].message.content);

پاسخ آموزشی:

json

{
  "id": "chatcmpl-example-wonder",
  "object": "chat.completion",
  "created": 1792886400,
  "model": "muse-wonder-1.0",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Check compatibility, authentication, validation, errors, tests, and billing."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 20,
    "completion_tokens": 100,
    "total_tokens": 120,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": null
  },
  "estimated_cost": {
    "unit": "0.0005175000",
    "irt": null,
    "exchange_rate": null
  }
}

این پاسخ نمونه آموزشی است و از درخواست زنده AvalAI به دست نیامده است. شناسه، زمان، متن پاسخ و تعداد توکن‌ها ساختگی‌اند. محاسبه هزینه بر پایه ۲۰ توکن ورودی بدون حافظه نهان و ۱۰۰ توکن خروجی است: (20 × $1.4375 + 100 × $4.8875) / 1,000,000 = $0.0005175. کارمزد پردازش در این مبلغ منظور شده است. فیلدهای irt و exchange_rate مقدار null دارند، چون در نمونه نرخ تبدیل ارز مشخص نشده است.

پاسخ متنی را از choices[0].message.content بخوانید و finish_reason را بررسی کنید؛ مقدار length می‌تواند نشان دهد که پیش از پایان پاسخ، بودجه خروجی تمام شده است. شیوه واقعی محاسبه استدلال و خروجی و فیلدهای اختیاری usage یا estimated_cost ممکن است متفاوت باشند یا ارسال نشوند. مقادیر بازگشتی را حفظ کنید و برای صورتحساب معتبر از User API استفاده کنید. در خطای HTTP 400، پیش از تلاش دوباره شناسه مدل، ساختار پیام، فیلد پشتیبانی‌نشده یا بودجه توکن را اصلاح کنید؛ در خطای 401/403 کلید و دسترسی حساب را بررسی کنید. برای محدودیت نرخ، بدنه پاسخ و راهنمای تلاش دوباره را بخوانید؛ خطای قطعی سهمیه به رسیدگی به حساب نیاز دارد. این نمونه‌ها درخواست را تکرار نمی‌کنند. پایان مهلت ممکن است پس از آغاز پردازش رخ دهد؛ پیش از تصمیم به ارسال دوباره، بدنه پاک‌سازی‌شده و avalai-request-id را نگه دارید.

Muse Spark: نمونه Chat Completions

متغیر AVALAI_API_KEY را در سرور تنظیم کنید. SDK شرکت OpenAI از آدرس پایه AvalAI همراه با /v1 استفاده می‌کند:

BashPythonJavaScript

bash

curl https://api.avalai.ir/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AVALAI_API_KEY" \
  -d '{
    "model": "muse-spark-1.3",
    "messages": [{"role": "user", "content": "Give a concise checklist for reviewing an API change."}]
  }'

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)
response = client.chat.completions.create(
    model="muse-spark-1.3",
    messages=[
        {
            "role": "user",
            "content": "Give a concise checklist for reviewing an API change.",
        }
    ],
)
print(response.choices[0].message.content)

javascript

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.AVALAI_API_KEY,
  baseURL: "https://api.avalai.ir/v1",
});
const response = await client.chat.completions.create({
  model: "muse-spark-1.3",
  messages: [{ role: "user", content: "Give a concise checklist for reviewing an API change." }],
});
console.log(response.choices[0].message.content);

برای Messages از SDK شرکت Anthropic با https://api.avalai.ir بدون /v1 استفاده کنید، max_tokens بفرستید و بلوک‌های نوع‌دار response.content را بخوانید. برای پشتیبانی جزئی Responses، در SDK شرکت OpenAI مقدار input بفرستید و response.output_text را بخوانید. پیش از تغییر قالب، نمونه‌های چهار مسیر را ببینید.

Muse Image: نمونه تولید تصویر

این نمونه فقط برای تولید است و داده Base64 تصویر را ذخیره می‌کند. پیش از ارائه تصویر، قالب واقعی خروجی را بررسی کنید؛ پسوند WebP از نمونه مرجع Meta پیروی می‌کند و قالب خروجی را انتخاب نمی‌کند.

BashPythonJavaScript

bash

curl https://api.avalai.ir/v1/images/generations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AVALAI_API_KEY" \
  -d '{
    "model": "muse-image-1.0",
    "prompt": "A watercolor painting of a red fox in a snowy pine forest, soft golden morning light.",
    "n": 1
  }' --output muse-image-response.json

python

import base64
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)
response = client.images.generate(
    model="muse-image-1.0",
    prompt="A watercolor painting of a red fox in a snowy pine forest, soft golden morning light.",
    n=1,
)
image_base64 = response.data[0].b64_json
if not image_base64:
    raise ValueError("The response did not include Base64 image data.")
with open("muse-image.webp", "wb") as image_file:
    image_file.write(base64.b64decode(image_base64))

javascript

import OpenAI from "openai";
import { writeFile } from "node:fs/promises";

const client = new OpenAI({
  apiKey: process.env.AVALAI_API_KEY,
  baseURL: "https://api.avalai.ir/v1",
});
const response = await client.images.generate({
  model: "muse-image-1.0",
  prompt: "A watercolor painting of a red fox in a snowy pine forest, soft golden morning light.",
  n: 1,
});
const imageBase64 = response.data?.[0]?.b64_json;
if (!imageBase64) throw new Error("The response did not include Base64 image data.");
await writeFile("muse-image.webp", Buffer.from(imageBase64, "base64"));

برای مدیریت پاسخ، API تولید تصویر را ببینید. محدودیت نرخ حساب را بررسی کنید، درخواست‌های تصویر را در صف قرار دهید، محتوای تولیدشده را اعتبارسنجی کنید و هزینه قطعی را با User API پیگیری کنید. این نمونه‌ها آموزشی‌اند و مدرک آزمون زنده API نیستند.

Muse Spark Open در ارائه‌دهنده همکار

Muse Spark Open نسخه Muse با وزن‌های باز از Meta است که در افزوده‌های ۳ آبان ۱۴۰۵ از سطح ۰ و از طریق Fireworks.ai در AvalAI در دسترس قرار می‌گیرد. Meta معماری تنک ترکیب متخصصان (Mixture of Experts) با ۸۱۶ میلیارد پارامتر کل و ۴۲ میلیارد پارامتر فعال برای هر توکن، رمزگذارهای ادراکی چندوجهی و خروجی متن را توضیح می‌دهد. پارامترهای فعال میزان محاسبه هر توکن را توصیف می‌کنند؛ میزبانی شخصی همچنان به تمام وزن‌ها و حافظه اضافی نیاز دارد. وزن‌های منتشرشده و مجوز مدل، میزبانی شخصی و آموزش تکمیلی را در پیاده‌سازی اصلی ممکن می‌کنند؛ درخواست API AvalAI از استنتاج میزبانی‌شده استفاده می‌کند و وزن‌ها را بارگیری نمی‌کند یا به معنی استقرار خصوصی نیست.

از شناسه دقیق muse-spark-open در AvalAI استفاده کنید، نه شناسه accounts/fireworks/models/muse-spark-open در API اصلی Fireworks. Meta مدل را توسعه داده است؛ مقدار owned_by: nvidia در فهرست فعلی، فراداده مسیریابی است و NVIDIA را به‌عنوان توسعه‌دهنده مدل معرفی نمی‌کند. AvalAI سقف ورودی ۱٬۰۴۸٬۵۷۶ توکن را ثبت کرده است، اما سقف خروجی ثبت نشده است. سقف ورودی را به‌جای محدودیت خروجی به کار نبرید. Chat Completions مبنای مستندشده است؛ نمونه‌های ویدئو و صوت برای میزبانی شخصی و نقاط پایانی شرکای Meta، تضمین دسترسی به همان قالب‌ها در AvalAI نیستند.

نرخ‌های نهایی صورتحساب Spark Open در AvalAI برای هر یک میلیون توکن، $1.25 ورودی، $0.15 ورودی از حافظه نهان و $4.25 خروجی است و کارمزد پردازش تازه‌ای ندارد. این مسیر همکار با مسیر مستقیم Wonder در Meta متفاوت است. اگر مدل با وزن‌های باز در میزبان همکار با یکپارچه‌سازی شما تناسب دارد یا به دسترسی سطح ۰ نیاز دارید، آن را بررسی کنید؛ کیفیت، تأخیر، رفتار ابزار و استفاده از حافظه نهان را با کارهای خود بسنجید. برای نمونه کامل درخواست و پاسخ، فرمول حافظه نهان و محدودیت‌های یکپارچه‌سازی، Fireworks.ai را ببینید؛ نمای کلی Meta و راهنمای میزبانی معماری و استقرار مدل اصلی را توضیح می‌دهند.

مدل‌های Llama در ارائه‌دهندگان همکار

نمونه‌های موجود Llama در ادامه مربوط به یکپارچه‌سازی با ارائه‌دهندگان همکارند، نه مسیرهای مستقیم تازه Muse در meta.ai. شناسه، دسترسی، محدودیت و قیمت‌های تاریخی نمونه به میزبان بستگی دارد؛ پیش از استفاده، فهرست فعلی مدل‌ها و قیمت‌گذاری را بررسی کنید. پشتیبانی نقاط پایانی آن‌ها را از جدول مستقیم Muse در بالا نتیجه نگیرید.

سری Llama 3.1

سری Llama 3.1 پیشرفت‌های قابل توجهی در استدلال، تولید کد و پیروی از دستورالعمل‌ها، همراه با پنجره‌های زمینه بزرگ ارائه می‌دهد.

Llama 3.1 405B Instruct

بزرگترین و توانمندترین مدل در سری Llama 3.1 که برای وظایف پیچیده استدلال و تولید طراحی شده است.

ویژگی	جزئیات
پنجره زمینه	۱۲۸٬۰۰۰ توکن ورودی، ۴٬۰۹۶ توکن خروجی
داده‌های آموزشی	تا مارس ۲۰۲۴
قیمت‌گذاری ورودی	~۵.۳۲ دلار / ۱ میلیون توکن (از طریق Bedrock)
قیمت‌گذاری خروجی	~۱۶.۰۰ دلار / ۱ میلیون توکن (از طریق Bedrock)
نقاط قوت	عملکرد پیشرفته برای مدل‌های باز، برتری در استدلال، کد، ظرافت
بهترین برای	وظایف بسیار پیچیده، تحقیق، پرامپت‌های عملیاتی چالش‌برانگیز

python

response = client.chat.completions.create(
    # نام مدل ممکن است بر اساس ارائه دهنده متفاوت باشد، به عنوان مثال 'meta.llama3-1-405b-instruct-v1:0' در Bedrock
    model="meta.llama3-1-405b-instruct-v1:0",
    messages=[
        {"role": "system", "content": "شما یک معمار خبره هستید."},
        {
            "role": "user",
            "content": "یک معماری پایدار و مقیاس‌پذیر برای یک پلتفرم تجارت الکترونیک جهانی طراحی کنید.",
        },
    ],
)

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `meta.llama3-1-405b-instruct-v1:0` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.6-luna",
    instructions="You are a helpful assistant.",
    input="یک معماری پایدار و مقیاس‌پذیر برای یک پلتفرم تجارت الکترونیک جهانی طراحی کنید.",
)

print(response.output_text)

messages → input
پیام سیستمی → instructions یا آیتم developer
choices[0].message.content → response.output_text
برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

Llama 3.1 70B Instruct

تعادل قوی بین عملکرد و کارایی، مناسب برای طیف گسترده‌ای از وظایف سخت.

ویژگی	جزئیات
پنجره زمینه	۱۲۸٬۰۰۰ توکن ورودی، ۲٬۰۴۸ توکن خروجی
داده‌های آموزشی	تا مارس ۲۰۲۴
قیمت‌گذاری ورودی	~۰.۹۹ دلار / ۱ میلیون توکن (از طریق Bedrock)
قیمت‌گذاری خروجی	~۰.۹۹ دلار / ۱ میلیون توکن (از طریق Bedrock)
نقاط قوت	عملکرد عالی نسبت به اندازه‌اش، پیروی قوی از دستورالعمل
بهترین برای	برنامه‌های چت پیچیده، تولید محتوا، سیستم‌های RAG

python

response = client.chat.completions.create(
    # نام مدل ممکن است متفاوت باشد، به عنوان مثال 'meta.llama3-1-70b-instruct-v1:0' در Bedrock
    model="meta.llama3-1-70b-instruct-v1:0",
    messages=[
        {"role": "system", "content": "شما یک دستیار هوش مصنوعی مفید هستید."},
        {
            "role": "user",
            "content": "مدل‌های Llama 3.1 70B و 8B را مقایسه و تفاوت‌هایشان را بیان کنید.",
        },
    ],
)

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `meta.llama3-1-70b-instruct-v1:0` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.6-luna",
    instructions="You are a helpful assistant.",
    input="مدل‌های Llama 3.1 70B و 8B را مقایسه و تفاوت‌هایشان را بیان کنید.",
)

print(response.output_text)

messages → input
پیام سیستمی → instructions یا آیتم developer
choices[0].message.content → response.output_text
برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

Llama 3.1 8B Instruct

کوچکترین مدل در سری Llama 3.1، بهینه‌شده برای سرعت و کارایی در وظایف کمتر پیچیده.

ویژگی	جزئیات
پنجره زمینه	۱۲۸٬۰۰۰ توکن ورودی، ۲٬۰۴۸ توکن خروجی
داده‌های آموزشی	تا مارس ۲۰۲۴
قیمت‌گذاری ورودی	~۰.۲۲ دلار / ۱ میلیون توکن (از طریق Bedrock)
قیمت‌گذاری خروجی	~۰.۲۲ دلار / ۱ میلیون توکن (از طریق Bedrock)
نقاط قوت	بسیار سریع و مقرون به صرفه، مناسب برای وظایف ساده‌تر
بهترین برای	ربات‌های چت ساده، خلاصه‌سازی، طبقه‌بندی، تولید محتوای سبک

python

response = client.chat.completions.create(
    # نام مدل ممکن است متفاوت باشد، به عنوان مثال 'meta.llama3-1-8b-instruct-v1:0' در Bedrock
    model="meta.llama3-1-8b-instruct-v1:0",
    messages=[
        {"role": "user", "content": "پایتخت فرانسه کجاست؟"},
    ],
)

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `meta.llama3-1-8b-instruct-v1:0` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.6-luna",
    instructions="You are a helpful assistant.",
    input="پایتخت فرانسه کجاست؟",
)

print(response.output_text)

messages → input
پیام سیستمی → instructions یا آیتم developer
choices[0].message.content → response.output_text
برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

سری Llama 3.2 (پیش‌نمایش)

سری Llama 3.2 قابلیت‌های جدیدی از جمله بینایی و بهبودهای عملکردی بیشتری را معرفی می‌کند. در دسترس بودن ممکن است در ابتدا محدود باشد.

Llama 3.2 90B Vision Instruct

یک مدل چندوجهی بزرگ که قابلیت‌های متنی قوی را با درک بینایی ترکیب می‌کند.

ویژگی	جزئیات
پنجره زمینه	۱۲۸٬۰۰۰ توکن ورودی، ۲٬۰۴۸ توکن خروجی
داده‌های آموزشی	آخرین داده‌های موجود (تخمینی)
قیمت‌گذاری ورودی	(قیمت ارائه دهنده را بررسی کنید، به عنوان مثال Vertex AI)
قیمت‌گذاری خروجی	(قیمت ارائه دهنده را بررسی کنید، به عنوان مثال Vertex AI)
نقاط قوت	ورودی چندوجهی (متن و تصویر)، استدلال قوی
بهترین برای	برنامه‌هایی که نیاز به درک همزمان متن و تصویر دارند

python

# ساختار مثال - فراخوانی‌های API خاص ممکن است بر اساس ارائه دهنده متفاوت باشد
response = client.chat.completions.create(
    model="llama-4-scout-17b-16e-instruct",
    messages=[
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "این تصویر را توصیف کنید."},
                {"type": "image_url", "image_url": {"url": "..."}},
            ],
        }
    ],
)

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `llama-4-scout-17b-16e-instruct` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.6-luna",
    input=[
        {
            "role": "user",
            "content": [
                {"type": "input_text", "text": "Describe this image."},
                {"type": "input_image", "image_url": "https://example.com/image.png"},
            ],
        }
    ],
)

print(response.output_text)

messages → input
پیام سیستمی → instructions یا آیتم developer
choices[0].message.content → response.output_text
برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

سری Llama 4 Scout (پیش‌نمایش از طریق Together AI)

سری Llama 4 Scout مدل‌های آزمایشی هستند که بر روی قابلیت‌های خاص یا بهبود کارایی تمرکز دارند.

Llama 4 Scout 17B 128e Instruct FP8

یک مدل آزمایشی که احتمالا از دقت FP8 برای بهبود کارایی استفاده می‌کند.

ویژگی	جزئیات
ارائه دهنده	Together AI
مالک	Meta
پنجره زمینه	(جزئیات ارائه دهنده را بررسی کنید)
قیمت‌گذاری ورودی	(جزئیات ارائه دهنده را از طریق AvalAI بررسی کنید)
قیمت‌گذاری خروجی	(جزئیات ارائه دهنده را از طریق AvalAI بررسی کنید)
حداکثر درخواست/دقیقه	۵۰.۰
حداکثر توکن/دقیقه	۴۰۰٬۰۰۰.۰
نقاط قوت	آزمایشی، کارایی بالقوه بالا
بهترین برای	تست معماری‌ها/فرمت‌های جدید مدل
شناسه مدل (مثال)	`together_ai/meta-llama/llama-4-scout-17b-128e-instruct-fp8`

python

# مثال استفاده از Llama 4 Scout 17B FP8 از طریق Together AI
response = client.chat.completions.create(
    model="llama-4-scout-17b-128e-instruct-fp8",
    messages=[{"role": "user", "content": "مزایای بالقوه استنتاج FP8 چیست؟"}],
)

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `llama-4-scout-17b-128e-instruct-fp8` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.6-luna",
    instructions="You are a helpful assistant.",
    input="مزایای بالقوه استنتاج FP8 چیست؟",
)

print(response.output_text)

messages → input
پیام سیستمی → instructions یا آیتم developer
choices[0].message.content → response.output_text
برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

Llama 4 Scout 17B 16e Instruct

یک مدل آزمایشی دیگر از سری Scout.

ویژگی	جزئیات
ارائه دهنده	Together AI
مالک	Meta
پنجره زمینه	(جزئیات ارائه دهنده را بررسی کنید)
قیمت‌گذاری ورودی	(جزئیات ارائه دهنده را از طریق AvalAI بررسی کنید)
قیمت‌گذاری خروجی	(جزئیات ارائه دهنده را از طریق AvalAI بررسی کنید)
حداکثر درخواست/دقیقه	۵۰.۰
حداکثر توکن/دقیقه	۴۰۰٬۰۰۰.۰
نقاط قوت	آزمایشی
بهترین برای	تست قابلیت‌های جدید مدل
شناسه مدل (مثال)	`together_ai/meta-llama/llama-4-scout-17b-16e-instruct`

python

# مثال استفاده از Llama 4 Scout 17B 16e از طریق Together AI
response = client.chat.completions.create(
    model="llama-4-scout-17b-16e-instruct",
    messages=[
        {"role": "user", "content": "ویژگی‌های کلیدی سری Llama 4 Scout را خلاصه کنید."}
    ],
)

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `llama-4-scout-17b-16e-instruct` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.6-luna",
    instructions="You are a helpful assistant.",
    input="ویژگی‌های کلیدی سری Llama 4 Scout را خلاصه کنید.",
)

print(response.output_text)

messages → input
پیام سیستمی → instructions یا آیتم developer
choices[0].message.content → response.output_text
برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

مدل‌های Llama قبلی

نسخه‌های قدیمی‌تر مانند Llama 3 (8B، 70B) و Llama 2 (7B، 13B، 70B) نیز از طریق ارائه‌دهندگان مختلف قابل دسترسی از طریق AvalAI در دسترس هستند، اغلب با قیمت‌های پایین‌تر اما با پنجره‌های زمینه کوچکتر و عملکرد بالقوه پایین‌تر در مقایسه با Llama 3.1/3.2. برای جزئیات به مستندات ارائه دهنده خاص که از طریق AvalAI پیوند داده شده است، مراجعه کنید.

استفاده از Llama در ارائه‌دهندگان همکار از طریق AvalAI

با استفاده از نقاط پایانی استاندارد API AvalAI و کتابخانه‌های سازگار با OpenAI به مدل‌های Llama که توسط شرکایی مانند Bedrock یا Vertex AI میزبانی می‌شوند، دسترسی پیدا کنید. اطمینان حاصل کنید که از شناسه مدل صحیح همانطور که توسط ادغام AvalAI خاص ارائه شده است، استفاده می‌کنید.

python

from openai import OpenAI

client = OpenAI(
    api_key="your-avalai-api-key",  # با کلید واقعی خود جایگزین کنید
    base_url="https://api.avalai.ir/v1",  # آدرس پایه
)

# مثال استفاده از مدل Llama 3.1 (شناسه به ارائه دهنده بستگی دارد)
response = client.chat.completions.create(
    model="meta.llama3-1-70b-instruct-v1:0",  # شناسه مثال Bedrock
    messages=[{"role": "user", "content": "درباره مدل‌های Llama به من بگو."}],
)

print(response.choices[0].message.content)

نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `meta.llama3-1-70b-instruct-v1:0` ممکن است در داده‌های فعلی AvalAI برای `/v1/responses` فعال نباشد.

وقتی مدل انتخابی از /v1/responses پشتیبانی می‌کند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل می‌شود و متن نهایی از response.output_text خوانده می‌شود.

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AVALAI_API_KEY"],
    base_url="https://api.avalai.ir/v1",
)

response = client.responses.create(
    model="gpt-5.6-luna",
    instructions="You are a helpful assistant.",
    input="درباره مدل‌های Llama به من بگو.",
)

print(response.output_text)

messages → input
پیام سیستمی → instructions یا آیتم developer
choices[0].message.content → response.output_text
برای ابزارها و خروجی‌های چندوجهی، response.output را بر اساس type بررسی کنید.

مدل‌های Meta: Muse و Llama ​

مدل‌های مستقیم Meta ​

Muse Spark 1.3 ​

Muse Wonder 1.0 ​

Muse Image 1.0 ​

قیمت‌گذاری و استثنای کارمزد پردازش ​

Muse Wonder: نمونه Chat Completions ​

Muse Spark: نمونه Chat Completions ​

Muse Image: نمونه تولید تصویر ​

Muse Spark Open در ارائه‌دهنده همکار ​

مدل‌های Llama در ارائه‌دهندگان همکار ​

سری Llama 3.1 ​

Llama 3.1 405B Instruct ​

Llama 3.1 70B Instruct ​

Llama 3.1 8B Instruct ​

سری Llama 3.2 (پیش‌نمایش) ​

Llama 3.2 90B Vision Instruct ​

سری Llama 4 Scout (پیش‌نمایش از طریق Together AI) ​

Llama 4 Scout 17B 128e Instruct FP8 ​

Llama 4 Scout 17B 16e Instruct ​

مدل‌های Llama قبلی ​

استفاده از Llama در ارائه‌دهندگان همکار از طریق AvalAI ​

منابع مرتبط ​

مدل‌های Meta: Muse و Llama

مدل‌های مستقیم Meta

Muse Spark 1.3

Muse Wonder 1.0

Muse Image 1.0

قیمت‌گذاری و استثنای کارمزد پردازش

Muse Wonder: نمونه Chat Completions

Muse Spark: نمونه Chat Completions

Muse Image: نمونه تولید تصویر

Muse Spark Open در ارائه‌دهنده همکار

مدل‌های Llama در ارائه‌دهندگان همکار

سری Llama 3.1

Llama 3.1 405B Instruct

Llama 3.1 70B Instruct

Llama 3.1 8B Instruct

سری Llama 3.2 (پیش‌نمایش)

Llama 3.2 90B Vision Instruct

سری Llama 4 Scout (پیش‌نمایش از طریق Together AI)

Llama 4 Scout 17B 128e Instruct FP8

Llama 4 Scout 17B 16e Instruct

مدل‌های Llama قبلی

استفاده از Llama در ارائه‌دهندگان همکار از طریق AvalAI

منابع مرتبط