مدلهای Cohere
AvalAI دسترسی به مجموعه مدلهای Cohere را که برای موارد استفاده سازمانی طراحی شدهاند، فراهم میکند، از جمله قابلیتهای پیشرفته چت، تولید افزوده بازیابی (RAG)، embedding و reranking.
مدلهای چت (سری Command)
مدلهای Command Cohere برای هوش مصنوعی محاورهای و وظایف با زمینه طولانی بهینهسازی شدهاند.
Command R+
قدرتمندترین و مقیاسپذیرترین مدل Cohere که در وظایف پیچیده RAG و استفاده از ابزار برتری دارد.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere.command-r-plus |
| پنجره زمینه | ۱۲۸٬۰۰۰ توکن |
| قابلیتها | چت، RAG پیشرفته، استفاده از ابزار (فراخوانی تابع)، چندزبانه |
| قیمتگذاری ورودی | ۰.۵۰ دلار / ۱ میلیون توکن |
| قیمتگذاری خروجی | ۱.۵۰ دلار / ۱ میلیون توکن |
| نقاط قوت | عملکرد پیشرفته برای RAG، گردش کار پیچیده، قابلیت اطمینان درجه سازمانی |
| بهترین برای | برنامههای کاربردی RAG سخت، استفاده از ابزار چند مرحلهای، منطق تجاری پیچیده |
response = client.chat.completions.create(
model="cohere.command-r-plus",
messages=[
{
"role": "user",
"content": "بر اساس اسناد ارائه شده [اسناد را ذکر کنید]، یافتههای کلیدی در مورد روندهای بازار را خلاصه کنید.",
},
# اسناد/ارجاعات را در صورت نیاز بر اساس ساختار نقطه پایانی چت Cohere اضافه کنید
],
# در صورت استفاده از Tool Use، تعاریف ابزار را اضافه کنید
)نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `cohere.command-r-plus` ممکن است در دادههای فعلی AvalAI برای `/v1/responses` فعال نباشد.
وقتی مدل انتخابی از /v1/responses پشتیبانی میکند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل میشود و متن نهایی از response.output_text خوانده میشود.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["AVALAI_API_KEY"],
base_url="https://api.avalai.ir/v1",
)
response = client.responses.create(
model="gpt-5.5",
instructions="You are a helpful assistant.",
input="بر اساس اسناد ارائه شده [اسناد را ذکر کنید]، یافتههای کلیدی در مورد روندهای بازار را خلاصه کنید.",
)
print(response.output_text)messages→input- پیام سیستمی →
instructionsیا آیتمdeveloper choices[0].message.content→response.output_text- برای ابزارها و خروجیهای چندوجهی،
response.outputرا بر اساسtypeبررسی کنید.
Command R
یک مدل بسیار توانا و مقیاسپذیر که عملکرد و هزینه را برای RAG و استفاده از ابزار متعادل میکند.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere.command-r |
| پنجره زمینه | ۱۲۸٬۰۰۰ توکن |
| قابلیتها | چت، RAG، استفاده از ابزار (فراخوانی تابع)، چندزبانه |
| قیمتگذاری ورودی | ۰.۵۰ دلار / ۱ میلیون توکن (توجه: معمولا کمتر از R+، قیمتگذاری Cohere را بررسی کنید) |
| قیمتگذاری خروجی | ۱.۵۰ دلار / ۱ میلیون توکن (توجه: معمولا کمتر از R+، قیمتگذاری Cohere را بررسی کنید) |
| نقاط قوت | تعادل قوی بین عملکرد و هزینه برای RAG و استفاده از ابزار |
| بهترین برای | برنامههای کاربردی RAG عمومی، رباتهای چت نیازمند ارجاع، گردشهای کاری فعال با ابزار |
response = client.chat.completions.create(
model="cohere.command-r",
messages=[
{"role": "user", "content": "مدل Command R Cohere چیست؟"},
],
)نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `cohere.command-r` ممکن است در دادههای فعلی AvalAI برای `/v1/responses` فعال نباشد.
وقتی مدل انتخابی از /v1/responses پشتیبانی میکند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل میشود و متن نهایی از response.output_text خوانده میشود.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["AVALAI_API_KEY"],
base_url="https://api.avalai.ir/v1",
)
response = client.responses.create(
model="gpt-5.5",
instructions="You are a helpful assistant.",
input="مدل Command R Cohere چیست؟",
)
print(response.output_text)messages→input- پیام سیستمی →
instructionsیا آیتمdeveloper choices[0].message.content→response.output_text- برای ابزارها و خروجیهای چندوجهی،
response.outputرا بر اساسtypeبررسی کنید.
توجه: مدلهای قدیمیتر مانند cohere.command و cohere.command-light نیز ممکن است با پنجرههای زمینه کوچکتر در دسترس باشند.
مدلهای Rerank
مدلهای Rerank Cohere با مرتبسازی مجدد اسناد بر اساس ارتباط با پرسوجو، کیفیت نتایج جستجو را برای سیستمهای RAG بهبود میبخشند.
Rerank v4.0 Pro
مدل reranking با بالاترین کیفیت با پنجره زمینه ۳۲,۷۶۸ توکن—۸ برابر بزرگتر از v3.5.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere-rerank-v4.0-pro |
| پنجره زمینه | ۳۲,۷۶۸ توکن |
| نوع ورودی | رشته پرسوجو، لیست متون/شناسههای اسناد |
| نوع خروجی | لیست مرتبشده مجدد اسناد با امتیازات ارتباط [۰، ۱] |
| زبانها | پشتیبانی از بیش از ۱۰۰ زبان |
| قیمتگذاری | ۰.۰۰۲۵ دلار / کوئری |
| نقاط قوت | بالاترین دقت، پشتیبانی از اسناد طولانی، چندزبانه |
| بهترین برای | سیستمهای RAG production که به حداکثر دقت ارتباط نیاز دارند |
import requests
response = requests.post(
"https://api.avalai.ir/v1/rerank",
headers={"Authorization": f"Bearer {api_key}", "Content-Type": "application/json"},
json={
"model": "cohere-rerank-v4.0-pro",
"query": "پایتخت کانادا کجاست؟",
"documents": ["اتاوا پایتخت کاناداست.", "تورنتو بزرگترین شهر کاناداست."],
"top_n": 2,
},
)Rerank v4.0 Fast
یک مدل reranking مقرون به صرفه که برای برنامههای با توان عملیاتی بالا با حداقل تاخیر بهینهسازی شده است.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere-rerank-v4.0-fast |
| پنجره زمینه | ۳۲,۷۶۸ توکن |
| نوع ورودی | رشته پرسوجو، لیست متون/شناسههای اسناد |
| نوع خروجی | لیست مرتبشده مجدد اسناد با امتیازات ارتباط [۰، ۱] |
| زبانها | پشتیبانی از بیش از ۱۰۰ زبان |
| قیمتگذاری | ۰.۰۰۲ دلار / کوئری |
| نقاط قوت | سریع، مقرون به صرفه، دقت خوب |
| بهترین برای | برنامههای با توان عملیاتی بالا با حساسیت هزینه |
import requests
response = requests.post(
"https://api.avalai.ir/v1/rerank",
headers={"Authorization": f"Bearer {api_key}", "Content-Type": "application/json"},
json={
"model": "cohere-rerank-v4.0-fast",
"query": "پایتخت کانادا کجاست؟",
"documents": ["اتاوا پایتخت کاناداست.", "تورنتو بزرگترین شهر کاناداست."],
"top_n": 2,
},
)Rerank v3.5
نسل قبلی مدل reranking
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere.rerank-v3-5:0 |
| نوع ورودی | رشته پرسوجو، لیست متون/شناسههای اسناد |
| نوع خروجی | لیست مرتبشده مجدد اسناد با امتیازات ارتباط |
| قیمتگذاری | ۱.۰۰ دلار / ۱٬۰۰۰ واحد جستجو |
| نقاط قوت | به طور قابل توجهی ارتباط جستجو را برای اسناد بهبود میبخشد |
| بهترین برای | بهبود سیستمهای RAG، برنامههای جستجوی معنایی |
# مثال با استفاده از SDK Cohere (AvalAI ممکن است از یک نقطه پایانی سازگار استفاده کند)
# results = co.rerank(query="پایتخت کانادا کجاست؟", documents=docs, model="cohere.rerank-v3-5:0")مدلهای Embedding (سری Embed)
مدلهای Embed Cohere، embeddingهای با کیفیت بالا برای متن و (برای v3 Multilingual) تصویر را برای جستجوی معنایی و سایر وظایف نمایشی تولید میکنند.
Embed English v3
مدل embedding انگلیسی پیشرفته.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere.embed-english-v3.0 |
| ابعاد | ۱۰۲۴ |
| حداکثر توکن ورودی | ۵۱۲ |
| قیمتگذاری ورودی | ۰.۱۰ دلار / ۱ میلیون توکن |
| نقاط قوت | عملکرد برتر در معیارهای embedding انگلیسی |
| بهترین برای | جستجوی معنایی، خوشهبندی، طبقهبندی (انگلیسی) |
response = client.embeddings.create(
model="cohere.embed-english-v3.0",
input=["متن شما اینجا", "یک قطعه متن دیگر"],
input_type="search_document", # یا: search_query, classification, clustering
)Embed Multilingual v3
مدل embedding چندزبانه پیشرفته که از بیش از ۱۰۰ زبان و ورودی تصویر پشتیبانی میکند.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere.embed-multilingual-v3.0 |
| ابعاد | ۱۰۲۴ |
| حداکثر توکن ورودی | ۵۱۲ (متن) |
| قیمتگذاری ورودی | ۰.۱۰ دلار / ۱ میلیون توکن (متن) |
| نقاط قوت | عملکرد بالا در بسیاری از زبانها، پشتیبانی از embedding متن و تصویر |
| بهترین برای | جستجوی معنایی چندزبانه، جستجوی بین وجهی (متن/تصویر) |
# Embedding متن
response = client.embeddings.create(
model="cohere.embed-multilingual-v3.0",
input=["Aquí está tu texto", "Ein weiterer Text"],
input_type="search_document",
)
# Embedding تصویر نیاز به مدیریت خاص دارد، مستندات cohere.AvalAI را بررسی کنیدEmbed v4 (AWS)
آخرین مدل embedding چندوجهی Cohere که از متن، تصاویر و محتوای ترکیبی از جمله PDFها پشتیبانی میکند. دارای پنجره زمینه عظیم ۱۲۸k و ابعاد خروجی منعطف است. از طریق زیرساخت AWS ارائه میشود.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | cohere.embed-v4:0 |
| ارائهدهنده | AWS |
| ابعاد | ۲۵۶، ۵۱۲، ۱۰۲۴ یا ۱۵۳۶ (پیشفرض) |
| حداکثر توکن ورودی | ۱۲۸٬۰۰۰ توکن |
| انواع ورودی | متن، تصاویر، متن/تصویر ترکیبی (PDFها) |
| قیمتگذاری متن | برای قیمتگذاری تماس بگیرید |
| قیمتگذاری تصویر | برای قیمتگذاری تماس بگیرید |
| معیارهای شباهت | Cosine Similarity، Dot Product Similarity، Euclidean Distance |
| نقاط قوت | پشتیبانی چندوجهی، پنجره زمینه بزرگ، ابعاد منعطف |
| بهترین برای | embedding اسناد، پردازش PDF، جستجوی چندوجهی، سیستمهای RAG |
# Embedding متن
response = client.embeddings.create(
model="cohere.embed-v4:0",
input=["متن شما اینجا", "یک قطعه متن دیگر"],
encoding_format="float",
)
# همچنین میتوانید ابعاد سفارشی مشخص کنید
response = client.embeddings.create(
model="cohere.embed-v4:0",
input=["متن شما اینجا"],
dimensions=1024, # از ۲۵۶، ۵۱۲، ۱۰۲۴ یا ۱۵۳۶ انتخاب کنید
encoding_format="float",
)Embed v4 (Azure) - محدودیت نرخ بالا
همان مدل Cohere Embed v4 که از طریق زیرساخت Azure AI services ارائه میشود. محدودیت نرخ تا ۳۰ برابر بیشتر نسبت به endpoint AWS ارائه میدهد، ایدهآل برای بارهای کاری production با توان عملیاتی بالا.
| ویژگی | جزئیات |
|---|---|
| شناسه مدل | embed-v-4-0 |
| ارائهدهنده | Azure AI Services |
| ابعاد | ۲۵۶، ۵۱۲، ۱۰۲۴ یا ۱۵۳۶ (پیشفرض) |
| حداکثر توکن ورودی | ۱۲۸٬۰۰۰ توکن |
| انواع ورودی | متن، تصاویر، متن/تصویر ترکیبی (PDFها) |
| قیمتگذاری متن | ۰.۱۲ دلار / ۱ میلیون توکن |
| قیمتگذاری تصویر | ۰.۴۷ دلار / ۱ میلیون توکن |
| معیارهای شباهت | Cosine Similarity، Dot Product Similarity، Euclidean Distance |
| محدودیت نرخ | تا ۳۰ برابر بیشتر از endpoint AWS |
| نقاط قوت | توان عملیاتی بالا، پایداری درجه سازمانی، کیفیت یکسان |
| بهترین برای | برنامههای با توان عملیاتی بالا، سیستمهای RAG production، پردازش دستهای |
# Embedding متن با محدودیت نرخ بالا
response = client.embeddings.create(
model="embed-v-4-0",
input=["متن شما اینجا", "یک قطعه متن دیگر"],
encoding_format="float",
)
# همچنین میتوانید ابعاد سفارشی مشخص کنید
response = client.embeddings.create(
model="embed-v-4-0",
input=["متن شما اینجا"],
dimensions=1024, # از ۲۵۶، ۵۱۲، ۱۰۲۴ یا ۱۵۳۶ انتخاب کنید
encoding_format="float",
)توجه: هر دو cohere.embed-v4:0 (AWS) و embed-v-4-0 (Azure) embeddingهای یکسان تولید میکنند. بر اساس نیازهای محدودیت نرخ و توان عملیاتی خود انتخاب کنید.
توجه: نسخههای Light و v2 مدلهای embedding نیز ممکن است در دسترس باشند.
استفاده از مدلهای Cohere از طریق AvalAI
با استفاده از نقاط پایانی استاندارد API AvalAI به مدلهای Cohere دسترسی پیدا کنید. مدلهای چت از نقطه پایانی سازگار با OpenAI /chat/completions استفاده میکنند. مدلهای Embedding و Rerank ممکن است از /embeddings و احتمالا نقاط پایانی سفارشی سازگار با ساختار API Cohere استفاده کنند. برای جزئیات استفاده از Rerank، مستندات AvalAI را بررسی کنید.
from openai import OpenAI
client = OpenAI(
api_key="your-avalai-api-key", # با کلید واقعی خود جایگزین کنید
base_url="https://api.avalai.ir/v1", # آدرس پایه
)
# مثال استفاده از Command R+ Chat
response = client.chat.completions.create(
model="cohere.command-r-plus",
messages=[{"role": "user", "content": "حوزههای اصلی محصول Cohere چیست؟"}],
)
# مثال استفاده از Embed English v3
embed_response = client.embeddings.create(
model="cohere.embed-english-v3.0", input=["این یک جمله آزمایشی است."]
)
print(response.choices[0].message.content)
# print(embed_response.data[0].embedding)نسخه معادل Responses API مدل این نسخه روی `gpt-5.5` تنظیم شده، چون `cohere.command-r-plus` ممکن است در دادههای فعلی AvalAI برای `/v1/responses` فعال نباشد.
وقتی مدل انتخابی از /v1/responses پشتیبانی میکند، این نسخه را کنار مثال Chat Completions استفاده کنید. messages به input منتقل میشود و متن نهایی از response.output_text خوانده میشود.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["AVALAI_API_KEY"],
base_url="https://api.avalai.ir/v1",
)
response = client.responses.create(
model="gpt-5.5",
instructions="You are a helpful assistant.",
input="حوزههای اصلی محصول Cohere چیست؟",
)
print(response.output_text)messages→input- پیام سیستمی →
instructionsیا آیتمdeveloper choices[0].message.content→response.output_text- برای ابزارها و خروجیهای چندوجهی،
response.outputرا بر اساسtypeبررسی کنید.