هوش مصنوعی کاربردی، یادگیری ماشین و ایجنت‌های هوشمند.
تلفیق هوش مصنوعی مولد، پردازش داده‌های بزرگ و ایجنت‌های خودمختار برای شتاب‌بخشی به فرآیندهای کسب‌وکار.
میسترال لارج ۳
لارج ۳ سنگین‌ترین واحدی است که وزن آن در این مرجع منتشر شده است: ۶۷۵ میلیارد پارامتر کل و ۴۱ میلیارد پارامتر فعال، پنجره زمینه ۲۵۶ هزار توکن، زیر پروانه آپاچی ۲. این پیکربندی استقرار روی زیرساخت مالکیتی و بهره‌برداری تجاری را بدون نیاز به مجوز جداگانه ممکن می‌کند.
- پروانه آپاچی ۲
- ۶۷۵ میلیارد پارامتر
- پنجره ۲۵۶ هزار توکن
آخرین بررسی: این صفحه یک مرجع است. با هر نسخه تازه، منابع سازنده دوباره خوانده و صفحه بهروز می‌شود. چه چیزی عوض شد
دو رقم پارامتر، دو محدودیت مجزا در معماری
مشخصات این واحد دو رقم پارامتر گزارش می‌کند و معمولاً تنها یکی مبنای تصمیم قرار می‌گیرد: ۶۷۵ میلیارد پارامتر کل و ۴۱ میلیارد پارامتر فعال. این دو رقم دو مؤلفهٔ متفاوت از بار سیستم را محدود می‌کنند و خلط آن‌ها هزینه‌ساز است.
۴۱ میلیارد پارامتر فعال بار محاسباتی لازم برای تولید هر توکن را تعیین می‌کند، تقریباً معادل یک واحد ۴۱ میلیاردی. ۶۷۵ میلیارد پارامتر کل الزام حافظه را تعیین می‌کند: تمام این وزن‌ها باید بارگذاری‌شده در دسترس باشند تا در هر گام محاسباتی بخش درست فراخوانی شود. بنابراین این واحد از نظر توان عملیاتی رفتار یک مدل میان‌رده و از نظر الزام حافظه رفتار یک مدل بسیار بزرگ دارد. برنامه‌ریزی سخت‌افزاری که تنها رقم ۴۱ میلیارد را مبنا بگیرد و انتظار اجرا روی یک کارت گرافیک معمولی داشته باشد، ظرفیت لازم را کمتر از واقع برآورد می‌کند.
پروانه، مهم‌ترین مشخصهٔ معماری این واحد
آپاچی ۲ پروانه‌ای استاندارد و شناخته‌شده در صنعت است: بهره‌برداری تجاری بدون محدودیت، بدون سقف کاربر، بدون الزام نمایش نام و بدون شرط نام‌گذاری مشتقات. این پیکربندی پروانه‌ای را با لاما ۴ مقایسه کنید که سقف ۷۰۰ میلیون کاربر فعال ماهانه تحمیل می‌کند و نام‌گذاری مدل‌های مشتق را نیز دیکته می‌کند، یا با وکسترال تی‌تی‌اس خود میسترال که بهره‌برداری تجاری را در متن پروانه ممنوع کرده است.
برای سازمانی که قصد استقرار این واحد در زیرساخت داخلی خود را دارد، این تفاوت پروانه‌ای وزن بیشتری در تصمیم‌گیری دارد تا هر رقم محک‌زنی.
پنجرهٔ زمینه ۲۵۶ هزار توکن: محدودهٔ میانی این مجموعه
۲۵۶ هزار توکن رقم ضعیفی نیست، اما در این مرجع در سطح بالا قرار نمی‌گیرد. اپوس ۵، فیبل ۵، سونت ۵ و دیپ‌سیک وی۴ همگی در سطح یک میلیون توکن مستقرند و لاما ۴ اسکات به ده میلیون می‌رسد. برای بار کاری‌ای که پردازش یک سند بسیار طولانی در یک عبور را ایجاب می‌کند، این واحد گزینهٔ نخست نیست و این ارزیابی صادقانه است.
شکاف داده: قیمت‌گذاری
میسترال نرخی به ازای میلیون توکن برای هیچ‌یک از مدل‌های خود منتشر نمی‌کند و صرفاً پلن اشتراک عرضه می‌کند؛ در نتیجه ستون قیمت این واحد در فهرست ما خالی می‌ماند. در سناریوی استقرار خودمیزبان این پارامتر اساساً موضوعیت ندارد، چون هزینهٔ عملیاتی معادل هزینهٔ سخت‌افزار است — که احتمالاً همین امر دلیل عدم انتشار نرخ از سوی میسترال نیز هست.
استفاده از ایران
این ستون تاریخ دارد و می‌گوید چطور بررسی شده، چون بیشتر فهرست‌ها حدسش می‌زنند. هر جا فقط صفحه سیاست سازنده را خوانده باشیم، یادداشت پایین همین را می‌گوید.
- دسترسی
- بررسی نکرده‌ایم
- پرداخت
- بررسی نکرده‌ایم
- پلن رایگان
- ندارد
چطور بررسی کردیم: مسیر شبکه به API میسترال از ایران سنجیده نشده و فهرست کشورهای پشتیبانی‌شده‌ای که بشود به آن استناد کرد شناسایی نشد؛ بنابراین دربارهٔ لایهٔ سرویس ابری این واحد داده‌ای ثبت نمی‌شود. اما وزن این مدل زیر پروانه آپاچی ۲ منتشر شده است، و یک واحد وزن‌باز روی زیرساخت مالکیتی مستقر می‌شود، مستقل از حساب کاربری یا فهرست کشوری. این نتیجه از متن پروانه استخراج شده، نه از سنجش شبکه.
نقاط قوت مستند
- پروانه آپاچی ۲ بدون سقف کاربر و بدون شرط نام‌گذاری، پیکربندی‌ای کمیاب در ردهٔ واحدهای سنگین
- وزن منتشرشده، یعنی امکان استقرار روی زیرساخت مالکیتی بدون وابستگی به فهرست کشوری
- ۴۱ میلیارد پارامتر فعال، یعنی هزینهٔ محاسباتی هر توکن به‌مراتب کمتر از رقم ۶۷۵ میلیارد کل است
ظرفیت‌های بهبود و ملاحظات فنی
- ۶۷۵ میلیارد پارامتر باید به‌طور کامل در حافظه جای بگیرد؛ رقم ۴۱ میلیارد فعال این الزام را کاهش نمی‌دهد و نیاز سخت‌افزاری واقعی است.
- پنجرهٔ زمینهٔ ۲۵۶ هزار توکن در این مرجع میانی است، در برابر یک میلیون در چند واحد دیگر و ده میلیون در لاما ۴ اسکات.
- میسترال نرخی به ازای میلیون توکن منتشر نمی‌کند، بنابراین هزینهٔ عملیاتی API از پیش قابل محاسبه نیست.
- فارسی در فهرست زبان‌های اعلام‌شدهٔ کارت مدل ذکر نشده است. این فهرست صراحتاً کامل نیست، پس نتیجه‌گیری «عدم پشتیبانی» ثبت نمی‌شود؛ ثبت‌شده این است: نام‌برده‌نشده.
جمع‌بندی فنی
برای استقرار یک واحد سنگین درون زیرساخت مالکیتی که پروانهٔ بهره‌برداری در آن فاکتور تعیین‌کننده باشد، این گزینهٔ نخست ماست. برای بالاترین امتیاز کدنویسی یا بزرگ‌ترین پنجرهٔ زمینه، گزینه‌های دیگر را بررسی کنید.
پرسش‌هایی که واقعا پرسیده می‌شود
با ۴۱ میلیارد پارامتر فعال، این واحد روی یک کارت گرافیک اجرا می‌شود؟
خیر. ۴۱ میلیارد رقم بار محاسباتی هر توکن است، نه رقم حافظه. برای اجرا باید تمام ۶۷۵ میلیارد پارامتر بارگذاری‌شده باشد، چون در هر گام محاسباتی ممکن است هر بخشی از آن فراخوانی شود.
پروانهٔ آپاچی ۲ واقعاً بهره‌برداری تجاری را مجاز می‌داند؟
بله. آپاچی ۲ پروانه‌ای استاندارد بدون سقف کاربر و بدون شرط نام‌گذاری است. توجه شود این پروانه در تمام واحدهای میسترال یکسان نیست: وکسترال تی‌تی‌اس بهره‌برداری تجاری را ممنوع می‌کند.