Meta
Llama 3.2 3B Instruct
Llama 3.2 3B مدل زبانیِ چندزبانهٔ Meta با ۳ میلیارد پارامتر است که برای کارهای پردازش زبان طبیعی مثل گفتگو، استدلال و خلاصهسازی بهینه شده است. ماندهٔ توضیح این مدل در متن اصلی ناقص است، پس فقط همین بخش را ترجمه کردم.
شناسه در API: llama-3.2-3b-instruct
سازنده این مدل را ۲۹ آبان ۱۴۰۵ بازنشسته میکند. اگر با آن کار میکنید، از همین حالا جایگزینش را پیدا کنید.
تحلیل
حکم کلی
ارزان است و برای کارهای سبک و پرحجم مناسب است. اگر دقت بالا لازم دارید، سراغ مدل قویتری بروید.
نقاط قوت
- قیمتش مناسب است
نقاط ضعف
در دادهها نقطهضعف مهمی دیده نشد.
سنجههای فارسی
عملکرد زنده
از آمار زندهٔ OpenRouter (۲ ارائهدهندهای که آمار گزارش کردهاند): پایداری در ۲۴ ساعت گذشته، تأخیر و سرعت در ۳۰ دقیقهٔ آخر از ۵۱۵ درخواست. ساعتی بهروز میشود.
قابلیتها
پارامترهای قابل ارسال
اینها را میتوانید در درخواست به این مدل بفرستید.
temperatureمیزان خلاقیت جوابtop_pنمونهبرداری هستهایtop_kمحدود کردن گزینههای هر توکنmax_tokensسقف طول جوابstopتوقف با رشتهٔ دلخواهseedجواب تکرارپذیرstructured_outputsخروجی با اسکیمای مشخصfrequency_penaltyکم کردن تکرار کلمهpresence_penaltyتنوع موضوعrepetition_penaltyجریمهٔ تکرارlogit_biasتغییر احتمال توکنهاlogprobsاحتمال هر توکنtop_logprobsاحتمال توکنهای جایگزینmin_pحداقل احتمال
بر اساس اطلاعاتی که OpenRouter برای این مدل منتشر کرده.
امتحان مدل
برای امتحان این مدل وارد شوید. هر اجرا با همان قیمت مرشد API از کیف پول شما کم میشود.
ورود برای امتحاناستفاده با API
با SDK خود OpenAI کار میکند؛ فقط آدرس پایه را https://api.morshed.ai/v1 و کلید را کلید مرشد API بگذارید.
curl https://api.morshed.ai/v1/chat/completions \
-H "Authorization: Bearer $MORSHED_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "سلام! خودت را معرفی کن."}]}'import os
from openai import OpenAI
client = OpenAI(base_url="https://api.morshed.ai/v1", api_key=os.environ["MORSHED_API_KEY"])
res = client.chat.completions.create(
model="llama-3.2-3b-instruct",
messages=[{"role": "user", "content": "سلام! خودت را معرفی کن."}],
)
print(res.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.morshed.ai/v1", apiKey: process.env.MORSHED_API_KEY });
const res = await client.chat.completions.create({
model: "llama-3.2-3b-instruct",
messages: [{ role: "user", content: "سلام! خودت را معرفی کن." }],
});
console.log(res.choices[0].message.content);مشخصات فنی
- کانتکست
- ۱۳۱K توکن
- حداکثر طول جواب
- ۷۲ هزار توکن
- دانش تا
- دی ۱۴۰۲
- مودالیتی
- text
- سرعت
- ۱۷۴ توکن/ثانیه
- تأخیر اولین توکن
- ۲۰۱ میلیثانیه
- تاریخ انتشار
- ۴ مهر ۱۴۰۳
- فیلتر محتوای ارائهدهنده
- ندارد
ارائهدهندهها
درخواستهای این مدل در مرشد API از طریق ۲ ارائهدهندهٔ ثبتشده در مسیرهای مرشد پاسخ میگیرند. اگر یکی در دسترس نباشد، درخواست به دیگری میرود.
- Cloudflare
- Parasail
پرسشهای پرتکرار
دربارهٔ Llama 3.2 3B Instruct
این مدل هنوز در ارزیابی فارسی ما نبوده. مدلها را بهنوبت ارزیابی میکنیم و امتیازش بعد از ارزیابی همینجا میآید.
با نرخ روزانهٔ دلار، هر ۱ میلیون توکن ورودی ۲۲٬۸۴۰ تومان و هر ۱ میلیون توکن خروجی ۱۵۰٬۷۴۴ تومان است. یک گفتگوی معمولی با این مدل حدود ۱۱۳ تومان تمام میشود.
این مدل را میتوانید با شناسهٔ llama-3.2-3b-instruct از API مرشد صدا بزنید. API با SDK رسمی OpenAI سازگار است و پرداختش ریالی است.
این مدل خروجی را در قالب JSON مشخص برمیگرداند.
کانتکست این مدل ۱۳۱ هزار توکن است، یعنی تقریباً ۱۳۱ صفحه متن فارسی را یکجا میخواند. در هر جواب هم تا ۷۲ هزار توکن مینویسد.
دانش این مدل تا دی ۱۴۰۲ است و از اتفاقهای بعد از آن خبر ندارد، مگر اینکه به جستوجوی وب وصل باشد.