Meta

Llama 3.2 3B Instruct

Llama 3.2 3B مدل زبانیِ چندزبانهٔ Meta با ۳ میلیارد پارامتر است که برای کارهای پردازش زبان طبیعی مثل گفتگو، استدلال و خلاصه‌سازی بهینه شده است. ‏ماندهٔ توضیح این مدل در متن اصلی ناقص است، پس فقط همین بخش را ترجمه کردم.

متن و گفتگولایسنس محدود
متن به متن

شناسه در API: llama-3.2-3b-instruct

سازنده این مدل را ۲۹ آبان ۱۴۰۵ بازنشسته می‌کند. اگر با آن کار می‌کنید، از همین حالا جایگزینش را پیدا کنید.

قیمت خروجی
۱۵۰٬۷۴۴ تومان
هر ۱ میلیون توکن در مرشد API
سرعت
۱۷۴
توکن بر ثانیه
کانتکست
۱۳۱K
هزار توکن
تاریخ انتشار
۴ مهر ۱۴۰۳

تحلیل

حکم کلی

ارزان است و برای کارهای سبک و پرحجم مناسب است. اگر دقت بالا لازم دارید، سراغ مدل قوی‌تری بروید.

بهترین برای:متن و گفتگو

نقاط قوت

  • قیمتش مناسب است

نقاط ضعف

در داده‌ها نقطه‌ضعف مهمی دیده نشد.

سنجه‌های فارسی

این مدل هنوز ارزیابی نشده. مدل‌ها را به‌نوبت ارزیابی می‌کنیم. روش ارزیابی

عملکرد زنده

پایداری ارائه‌دهنده
۱۰۰٪
زمان تا اولین توکن
۰٫۲۰ ثانیه
سرعت تولید
۱۷۴ توکن/ثانیه

از آمار زندهٔ OpenRouter (۲ ارائه‌دهنده‌ای که آمار گزارش کرده‌اند): پایداری در ۲۴ ساعت گذشته، تأخیر و سرعت در ۳۰ دقیقهٔ آخر از ۵۱۵ درخواست. ساعتی به‌روز می‌شود.

قابلیت‌ها

ورودی تصویر
ورودی فایل
ورودی صدا
ورودی ویدیو
فراخوانی ابزار
خروجی JSON
جواب را در قالب مشخص می‌دهد
فکر کردن قبل از جواب

پارامترهای قابل ارسال

این‌ها را می‌توانید در درخواست به این مدل بفرستید.

  • temperatureمیزان خلاقیت جواب
  • top_pنمونه‌برداری هسته‌ای
  • top_kمحدود کردن گزینه‌های هر توکن
  • max_tokensسقف طول جواب
  • stopتوقف با رشتهٔ دلخواه
  • seedجواب تکرارپذیر
  • structured_outputsخروجی با اسکیمای مشخص
  • frequency_penaltyکم کردن تکرار کلمه
  • presence_penaltyتنوع موضوع
  • repetition_penaltyجریمهٔ تکرار
  • logit_biasتغییر احتمال توکن‌ها
  • logprobsاحتمال هر توکن
  • top_logprobsاحتمال توکن‌های جایگزین
  • min_pحداقل احتمال

بر اساس اطلاعاتی که OpenRouter برای این مدل منتشر کرده.

امتحان مدل

برای امتحان این مدل وارد شوید. هر اجرا با همان قیمت مرشد API از کیف پول شما کم می‌شود.

ورود برای امتحان

استفاده با API

با SDK خود OpenAI کار می‌کند؛ فقط آدرس پایه را https://api.morshed.ai/v1 و کلید را کلید مرشد API بگذارید.

curl https://api.morshed.ai/v1/chat/completions \
  -H "Authorization: Bearer $MORSHED_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "سلام! خودت را معرفی کن."}]}'

مشخصات فنی

کانتکست
۱۳۱K توکن
حداکثر طول جواب
۷۲ هزار توکن
دانش تا
دی ۱۴۰۲
مودالیتی
text
سرعت
۱۷۴ توکن/ثانیه
تأخیر اولین توکن
۲۰۱ میلی‌ثانیه
تاریخ انتشار
۴ مهر ۱۴۰۳
فیلتر محتوای ارائه‌دهنده
ندارد

ارائه‌دهنده‌ها

درخواست‌های این مدل در مرشد API از طریق ۲ ارائه‌دهندهٔ ثبت‌شده در مسیرهای مرشد پاسخ می‌گیرند. اگر یکی در دسترس نباشد، درخواست به دیگری می‌رود.

  • Cloudflare
  • Parasail

پرسش‌های پرتکرار

دربارهٔ Llama 3.2 3B Instruct

این مدل هنوز در ارزیابی فارسی ما نبوده. مدل‌ها را به‌نوبت ارزیابی می‌کنیم و امتیازش بعد از ارزیابی همین‌جا می‌آید.

با نرخ روزانهٔ دلار، هر ۱ میلیون توکن ورودی ۲۲٬۸۴۰ تومان و هر ۱ میلیون توکن خروجی ۱۵۰٬۷۴۴ تومان است. یک گفتگوی معمولی با این مدل حدود ۱۱۳ تومان تمام می‌شود.

این مدل را می‌توانید با شناسهٔ llama-3.2-3b-instruct از API مرشد صدا بزنید. API با SDK رسمی OpenAI سازگار است و پرداختش ریالی است.

این مدل خروجی را در قالب JSON مشخص برمی‌گرداند.

کانتکست این مدل ۱۳۱ هزار توکن است، یعنی تقریباً ۱۳۱ صفحه متن فارسی را یک‌جا می‌خواند. در هر جواب هم تا ۷۲ هزار توکن می‌نویسد.

دانش این مدل تا دی ۱۴۰۲ است و از اتفاق‌های بعد از آن خبر ندارد، مگر اینکه به جست‌وجوی وب وصل باشد.