Meta
Llama-3.3-70B-Instruct
مدل Meta Llama 3.3 70B Instruct یک مدل زبانی بزرگ و چندزبانه است که هم پیشآموزش دیده و هم برای پیروی از دستورها تنظیم شده، با ۷۰ میلیارد پارامتر و تولید متن از متن. این نسخه فقط با متن کار میکند، یعنی ورودی و خروجیاش هر دو متن هستند.
شناسه در API: llama-3.3-70b
تحلیل
حکم کلی
ارزان است و برای کارهای سبک و پرحجم مناسب است. اگر دقت بالا لازم دارید، سراغ مدل قویتری بروید.
نقاط قوت
- قیمتش مناسب است
نقاط ضعف
- نگارش فارسی ضعیف
- استدلال ضعیف
- رسمالخط و نیمفاصله ضعیف
- پیروی دقیق از دستور ضعیف
- وسط جواب فارسی کلمهٔ خارجی میآورد
سنجههای فارسی
آخرین ارزیابی: ۳۰ تیر ۱۴۰۵
عملکرد زنده
از آمار زندهٔ OpenRouter (۷ ارائهدهندهای که آمار گزارش کردهاند): پایداری در ۲۴ ساعت گذشته، تأخیر و سرعت در ۳۰ دقیقهٔ آخر از ۳۲۰۱۸ درخواست. ساعتی بهروز میشود.
قابلیتها
پارامترهای قابل ارسال
اینها را میتوانید در درخواست به این مدل بفرستید.
temperatureمیزان خلاقیت جوابtop_pنمونهبرداری هستهایtop_kمحدود کردن گزینههای هر توکنmax_tokensسقف طول جوابstopتوقف با رشتهٔ دلخواهseedجواب تکرارپذیرtoolsتعریف ابزارtool_choiceاجبار به استفاده از ابزارresponse_formatقالب جواب (JSON)structured_outputsخروجی با اسکیمای مشخصfrequency_penaltyکم کردن تکرار کلمهpresence_penaltyتنوع موضوعrepetition_penaltyجریمهٔ تکرارlogit_biasتغییر احتمال توکنهاlogprobsاحتمال هر توکنtop_logprobsاحتمال توکنهای جایگزینmin_pحداقل احتمال
بر اساس اطلاعاتی که OpenRouter برای این مدل منتشر کرده.
امتحان مدل
برای امتحان این مدل وارد شوید. هر اجرا با همان قیمت مرشد API از کیف پول شما کم میشود.
ورود برای امتحاناستفاده با API
با SDK خود OpenAI کار میکند؛ فقط آدرس پایه را https://api.morshed.ai/v1 و کلید را کلید مرشد API بگذارید.
curl https://api.morshed.ai/v1/chat/completions \
-H "Authorization: Bearer $MORSHED_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "llama-3.3-70b", "messages": [{"role": "user", "content": "سلام! خودت را معرفی کن."}]}'import os
from openai import OpenAI
client = OpenAI(base_url="https://api.morshed.ai/v1", api_key=os.environ["MORSHED_API_KEY"])
res = client.chat.completions.create(
model="llama-3.3-70b",
messages=[{"role": "user", "content": "سلام! خودت را معرفی کن."}],
)
print(res.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.morshed.ai/v1", apiKey: process.env.MORSHED_API_KEY });
const res = await client.chat.completions.create({
model: "llama-3.3-70b",
messages: [{ role: "user", content: "سلام! خودت را معرفی کن." }],
});
console.log(res.choices[0].message.content);مشخصات فنی
- پارامتر
- ۷۰B
- معماری
- Dense
- کانتکست
- ۱۲۸K توکن
- حداکثر طول جواب
- ۱۱۵ هزار توکن
- دانش تا
- دی ۱۴۰۲
- مودالیتی
- text
- حالت تفکر
- None
- سرعت
- ۱۱۲ توکن/ثانیه
- تأخیر اولین توکن
- ۴۰۵ میلیثانیه
- تاریخ انتشار
- ۱۶ آذر ۱۴۰۳
- لایسنس
- Llama License
- استفادهٔ تجاری
- Conditional
- کدنویسی (AA)
- ۱۲
- فیلتر محتوای ارائهدهنده
- ندارد
- Hugging Face
- meta-llama/Llama-3.3-70B-Instruct
ارائهدهندهها
درخواستهای این مدل در مرشد API از طریق ۷ ارائهدهندهٔ ثبتشده در مسیرهای مرشد پاسخ میگیرند. اگر یکی در دسترس نباشد، درخواست به دیگری میرود.
- AkashML
- Cloudflare
- CoreWeave
- DeepInfra
- Google Vertex
- Groq
- Parasail
مقایسه با رقبای همرده
پرسشهای پرتکرار
دربارهٔ Llama-3.3-70B-Instruct
در ارزیابی تیم مرشد امتیاز فارسی ۴ از ۱۰ گرفته است. نمرههایش از ۱۰: نگارش ۶، استدلال ۲ و رسمالخط ۶.
با نرخ روزانهٔ دلار، هر ۱ میلیون توکن ورودی ۹۱٬۳۶۰ تومان و هر ۱ میلیون توکن خروجی ۲۳۷٬۵۳۵ تومان است. یک گفتگوی معمولی با این مدل حدود ۲۳۴ تومان تمام میشود.
این مدل را میتوانید با شناسهٔ llama-3.3-70b از API مرشد صدا بزنید. API با SDK رسمی OpenAI سازگار است و پرداختش ریالی است.
این مدل میتواند ابزار و API بیرونی را صدا بزند و خروجی را در قالب JSON مشخص برمیگرداند.
کانتکست این مدل ۱۲۸ هزار توکن است، یعنی تقریباً ۱۲۸ صفحه متن فارسی را یکجا میخواند. در هر جواب هم تا ۱۱۵ هزار توکن مینویسد.
دانش این مدل تا دی ۱۴۰۲ است و از اتفاقهای بعد از آن خبر ندارد، مگر اینکه به جستوجوی وب وصل باشد.
وزنهایش منتشر شده، ولی لایسنس آن Llama License است و استفادهٔ تجاری شرایط خودش را دارد.