زیرساختی که آمازون در هوش مصنوعی عرضه می‌کند

آمازون در این مرجع دو لایه است، و کاربران آن دو را یکی می‌گیرند

وقتی کسی می‌گوید «هوش مصنوعی آمازون»، دو لایه کاملا متفاوت ممکن است منظورش باشد. یکی نوا است: هفت مدلی که خود آمازون ساخته. دیگری Bedrock است: لایه‌ای که مدل سازنده‌های دیگر را روی زیرساخت آمازون عرضه می‌کند.

و این لایه بزرگ است. صفحه قیمت‌گذاری Bedrock بخش نرخ‌گذاری جداگانه دارد برای AI21 Labs، آمازون نوا، آمازون تایتان، انتروپیک، کوهر، دیپ سیک، Luma AI، متا، میسترال، اوپن ای آی، کوئن، Stability AI، TwelveLabs و Writer. این بیشترین تعداد سازنده‌ای است که در این مرجع زیر یک زیرساخت واحد جمع شده‌اند.

نتیجه عملی: اگر جایی خواندید که فلان شرکت روی زیرساخت هوش مصنوعی آمازون ساخته شده، احتمال زیادی هست که واحد مدلی که واقعا اجرا می‌شود اصلا محصول آمازون نباشد. کلاد از انتروپیک، لاما از متا و کامند از کوهر همگی روی همان بدراک عرضه می‌شوند.

دویست زبان در سلول مشخصات، پانزده زبان در پاورقی

جدول مشخصات نوا یک ردیف دارد با عنوان «زبان‌های پشتیبانی شده» و برای هر چهار مدل متنی رقم «+۲۰۰» را ثبت می‌کند. همان سلول یک نشانه پاورقی دارد و متن پاورقی این است: «بهینه شده برای این ۱۵ زبان: انگلیسی، آلمانی، اسپانیایی، فرانسوی، ایتالیایی، ژاپنی، کره‌ای، عربی، چینی ساده شده، روسی، هندی، پرتغالی، هلندی، ترکی و عبری.»

عربی هست. ترکی هست. فارسی نیست.

این دقیقا همان الگویی است که در دسته صداگذاری هم مستند کردیم: رقم بزرگ در سلولی که مصرف کننده می‌خواند، فهرست واقعی در پاورقی ای که نمی‌خواند. «+۲۰۰» یعنی مدل با آن زبان‌ها کار می‌کند. «۱۵» یعنی آمازون برای کیفیت آنها تعهد داده. برای متن فارسی، شما در دسته اول قرار دارید نه دوم، و این تفاوت را باید پیش از برآورد هزینه دانست نه پس از آن.

مدل گفتاری این خط، نوا سونیک، شفاف‌تر مستند شده: پنج زبان، انگلیسی آمریکا و بریتانیا، فرانسوی، ایتالیایی، آلمانی و اسپانیایی. اینجا هیچ حدسی لازم نیست.

دسترسی در این معماری فهرست مرکزهای داده است، نه فهرست کشور

هر سازنده دیگری در این مرجع یک فهرست کشورهای پشتیبانی شده منتشر می‌کند. آمازون به جای آن فهرست منطقه استقرار دارد، و این تفاوت معماری واقعی است: مدل در یک مرکز داده مشخص اجرا می‌شود و مسیر شبکه شما باید به همان مرکز داده برسد.

نوا پریمیر تنها در دو مرکز داده مستقر است: US East (N. Virginia) و AWS GovCloud (US-West). پرو، لایت و مایکرو در N. Virginia، توکیو، سیدنی، لندن و GovCloud مستقر هستند و از طریق cross-region inference به اوهایو، اورگان، استکهلم، ایرلند، فرانکفورت، پاریس، توکیو، سنگاپور، سیدنی، سئول و بمبئی هم می‌رسند. کانواس و ریل در N. Virginia، ایرلند و توکیو مستقرند و سونیک در N. Virginia، استکهلم و توکیو.

در هیچ یک از این فهرست‌ها یک منطقه خاورمیانه ثبت نشده. آمازون منطقه خاورمیانه در زیرساخت خود دارد، اما نوا از آن سرو نمی‌شود. نزدیک‌ترین مرکز داده‌ای که یک مدل نوا واقعا در آن اجرا می‌شود بمبئی است یا فرانکفورت.

درباره ایران مشخصا: آمازون هیچ فهرست کشورهای پشتیبانی شده قابل استناد منتشر نمی‌کند، و قرارداد مشتری AWS رعایت برنامه‌های تحریمی را به عهده خود مشتری واگذار می‌کند. پس وضعیت را نه باز ثبت می‌کنیم و نه مسدود. آنچه می‌گوییم این است که مدرکی برای استناد پیدا نکردیم و شبکه را هم آزمایش نکرده‌ایم.

قوی‌ترین واحد خط، محدودترین واحد خط

نوا پریمیر پنجره متن یک میلیون توکنی دارد و سقف خروجی اش ده هزار توکن است. این نسبت، صد به یک، بازترین نسبت این کاتالوگ است و خود این عدد نشان می‌دهد مدل برای چه بار کاری طراحی شده: حجم ورودی بسیار بالا و خروجی کوتاه.

اما همان جدول سه محدودیت دیگر هم ثبت می‌کند که کمتر کسی بررسی می‌کند. پریمیر fine tuning ندارد. provisioned throughput ندارد. و فقط در دو منطقه مستقر است. یعنی قوی‌ترین واحد این خط کم دسترس‌ترین و کم انعطاف‌ترین آن هم هست. کاربردی که آمازون برایش تعریف کرده در همان مشخصات ثبت شده: پریمیر نقش «معلم» را دارد و واحدهای کوچک‌تر را از طریق distillation آموزش می‌دهد.

اگر دنبال واحدی هستید که واقعا در پروداکشن مستقر کنید، پرو و لایت گزینه‌های عملی این خط هستند، نه پریمیر.

چیزی که در این معماری قابل مستندسازی نیست

قیمت هیچ واحد نوایی. صفحه قیمت‌گذاری Bedrock جدول‌ها را دارد اما اعداد را سمت کلاینت تزریق می‌کند، و اچ تی ام ال ی که سرور ما دریافت می‌کند به جای رقم واقعی یک placeholder دارد. یعنی عددی برای استخراج وجود ندارد، پس ستون قیمت مدل‌های نوا در فهرست ما خالی مانده.

این را ثبت می‌کنیم چون یک مشکل واقعی برای هر کسی است که می‌خواهد پیش از ثبت نام هزینه را برآورد کند، و چون این دومین باری است که در این مرجع با همین الگو مواجه شده‌ایم. صفحه پلن‌های گوگل هم همین رفتار را دارد.