Thinkingmachines
Inkling Small
مدل Inkling Small از آزمایشگاه Thinking Machines Lab یک مدل چندوجهی و وزنباز با معماری MoE است که از ۲۷۶ میلیارد پارامتر کل، ۱۲ میلیارد پارامتر را در هر بار فعال میکند. این مدل عضو کوچکتر و کارآمدتر خانوادهٔ Inkling است، اما توضیح کامل آن در متن اصلی قطع شده است.
شناسه در API: inkling-small
تحلیل
حکم کلی
ارزان است و برای کارهای سبک و پرحجم مناسب است. اگر دقت بالا لازم دارید، سراغ مدل قویتری بروید.
نقاط قوت
- قیمتش مناسب است
- متنهای خیلی بلند را یکجا میخواند
نقاط ضعف
در دادهها نقطهضعف مهمی دیده نشد.
سنجههای فارسی
عملکرد زنده
از آمار زندهٔ OpenRouter (۱ ارائهدهندهای که آمار گزارش کردهاند): پایداری در ۲۴ ساعت گذشته، تأخیر و سرعت در ۳۰ دقیقهٔ آخر از ۴۷۹ درخواست. ساعتی بهروز میشود.
قابلیتها
پارامترهای قابل ارسال
اینها را میتوانید در درخواست به این مدل بفرستید.
temperatureمیزان خلاقیت جوابtop_pنمونهبرداری هستهایtop_kمحدود کردن گزینههای هر توکنmax_tokensسقف طول جوابstopتوقف با رشتهٔ دلخواهseedجواب تکرارپذیرtoolsتعریف ابزارtool_choiceاجبار به استفاده از ابزارreasoningتنظیم فکر کردنreasoning_effortشدت فکر کردنinclude_reasoningبرگرداندن متن فکرfrequency_penaltyکم کردن تکرار کلمهpresence_penaltyتنوع موضوعrepetition_penaltyجریمهٔ تکرارlogit_biasتغییر احتمال توکنهاmin_pحداقل احتمال
بر اساس اطلاعاتی که OpenRouter برای این مدل منتشر کرده.
امتحان مدل
برای امتحان این مدل وارد شوید. هر اجرا با همان قیمت مرشد API از کیف پول شما کم میشود.
ورود برای امتحاناستفاده با API
با SDK خود OpenAI کار میکند؛ فقط آدرس پایه را https://api.morshed.ai/v1 و کلید را کلید مرشد API بگذارید.
curl https://api.morshed.ai/v1/chat/completions \
-H "Authorization: Bearer $MORSHED_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "inkling-small", "messages": [{"role": "user", "content": "سلام! خودت را معرفی کن."}]}'import os
from openai import OpenAI
client = OpenAI(base_url="https://api.morshed.ai/v1", api_key=os.environ["MORSHED_API_KEY"])
res = client.chat.completions.create(
model="inkling-small",
messages=[{"role": "user", "content": "سلام! خودت را معرفی کن."}],
)
print(res.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.morshed.ai/v1", apiKey: process.env.MORSHED_API_KEY });
const res = await client.chat.completions.create({
model: "inkling-small",
messages: [{ role: "user", content: "سلام! خودت را معرفی کن." }],
});
console.log(res.choices[0].message.content);مشخصات فنی
- کانتکست
- ۱۰۴۹K توکن
- حداکثر طول جواب
- ۲۶۲ هزار توکن
- مودالیتی
- text · vision
- سرعت
- ۹۶ توکن/ثانیه
- تأخیر اولین توکن
- ۵۶۵ میلیثانیه
- تاریخ انتشار
- ۸ مرداد ۱۴۰۵
- کدنویسی (AA)
- ۵۳
- کار ایجنتی (AA)
- ۲۴
- فیلتر محتوای ارائهدهنده
- ندارد
ارائهدهندهها
درخواستهای این مدل در مرشد API از طریق این ارائهدهنده پاسخ میگیرند.
- DeepInfra
پرسشهای پرتکرار
دربارهٔ Inkling Small
این مدل هنوز در ارزیابی فارسی ما نبوده. مدلها را بهنوبت ارزیابی میکنیم و امتیازش بعد از ارزیابی همینجا میآید.
با نرخ روزانهٔ دلار، هر ۱ میلیون توکن ورودی ۲۰۵٬۵۵۹ تومان و هر ۱ میلیون توکن خروجی ۵۴۸٬۱۵۸ تومان است. یک گفتگوی معمولی با این مدل حدود ۵۳۴ تومان تمام میشود.
این مدل را میتوانید با شناسهٔ inkling-small از API مرشد صدا بزنید. API با SDK رسمی OpenAI سازگار است و پرداختش ریالی است.
این مدل علاوه بر متن، تصویر و صدا هم ورودی میگیرد، میتواند ابزار و API بیرونی را صدا بزند و حالت فکر کردن قبل از جواب دارد.
کانتکست این مدل ۱٫۰۵ میلیون توکن است، یعنی تقریباً ۱٬۰۴۹ صفحه متن فارسی را یکجا میخواند. در هر جواب هم تا ۲۶۲ هزار توکن مینویسد.