زیرساختی که آمازون در هوش مصنوعی عرضه می کند

آمازون در این مرجع دو لایه است، و کاربران آن دو را یکی می گیرند

وقتی کسی می گوید «هوش مصنوعی آمازون»، دو لایه کاملا متفاوت ممکن است منظورش باشد. یکی نوا است: هفت مدلی که خود آمازون ساخته. دیگری Bedrock است: لایه ای که مدل سازنده های دیگر را روی زیرساخت آمازون عرضه می کند.

و این لایه بزرگ است. صفحه قیمت گذاری Bedrock بخش نرخ گذاری جداگانه دارد برای AI21 Labs، آمازون نوا، آمازون تایتان، انتروپیک، کوهر، دیپ سیک، Luma AI، متا، میسترال، اوپن ای آی، کوئن، Stability AI، TwelveLabs و Writer. این بیشترین تعداد سازنده ای است که در این مرجع زیر یک زیرساخت واحد جمع شده اند.

نتیجه عملی: اگر جایی خواندید که فلان شرکت روی زیرساخت هوش مصنوعی آمازون ساخته شده، احتمال زیادی هست که واحد مدلی که واقعا اجرا می شود اصلا محصول آمازون نباشد. کلاد از انتروپیک، لاما از متا و کامند از کوهر همگی روی همان بدراک عرضه می شوند.

دویست زبان در سلول مشخصات، پانزده زبان در پاورقی

جدول مشخصات نوا یک ردیف دارد با عنوان «زبان های پشتیبانی شده» و برای هر چهار مدل متنی رقم «+۲۰۰» را ثبت می کند. همان سلول یک نشانه پاورقی دارد و متن پاورقی این است: «بهینه شده برای این ۱۵ زبان: انگلیسی، آلمانی، اسپانیایی، فرانسوی، ایتالیایی، ژاپنی، کره ای، عربی، چینی ساده شده، روسی، هندی، پرتغالی، هلندی، ترکی و عبری.»

عربی هست. ترکی هست. فارسی نیست.

این دقیقا همان الگویی است که در دسته صداگذاری هم مستند کردیم: رقم بزرگ در سلولی که مصرف کننده می خواند، فهرست واقعی در پاورقی ای که نمی خواند. «+۲۰۰» یعنی مدل با آن زبان ها کار می کند. «۱۵» یعنی آمازون برای کیفیت آنها تعهد داده. برای متن فارسی، شما در دسته اول قرار دارید نه دوم، و این تفاوت را باید پیش از برآورد هزینه دانست نه پس از آن.

مدل گفتاری این خط، نوا سونیک، شفاف تر مستند شده: پنج زبان، انگلیسی آمریکا و بریتانیا، فرانسوی، ایتالیایی، آلمانی و اسپانیایی. اینجا هیچ حدسی لازم نیست.

دسترسی در این معماری فهرست مرکزهای داده است، نه فهرست کشور

هر سازنده دیگری در این مرجع یک فهرست کشورهای پشتیبانی شده منتشر می کند. آمازون به جای آن فهرست منطقه استقرار دارد، و این تفاوت معماری واقعی است: مدل در یک مرکز داده مشخص اجرا می شود و مسیر شبکه شما باید به همان مرکز داده برسد.

نوا پریمیر تنها در دو مرکز داده مستقر است: US East (N. Virginia) و AWS GovCloud (US-West). پرو، لایت و مایکرو در N. Virginia، توکیو، سیدنی، لندن و GovCloud مستقر هستند و از طریق cross-region inference به اوهایو، اورگان، استکهلم، ایرلند، فرانکفورت، پاریس، توکیو، سنگاپور، سیدنی، سئول و بمبئی هم می رسند. کانواس و ریل در N. Virginia، ایرلند و توکیو مستقرند و سونیک در N. Virginia، استکهلم و توکیو.

در هیچ یک از این فهرست ها یک منطقه خاورمیانه ثبت نشده. آمازون منطقه خاورمیانه در زیرساخت خود دارد، اما نوا از آن سرو نمی شود. نزدیک ترین مرکز داده ای که یک مدل نوا واقعا در آن اجرا می شود بمبئی است یا فرانکفورت.

درباره ایران مشخصا: آمازون هیچ فهرست کشورهای پشتیبانی شده قابل استناد منتشر نمی کند، و قرارداد مشتری AWS رعایت برنامه های تحریمی را به عهده خود مشتری واگذار می کند. پس وضعیت را نه باز ثبت می کنیم و نه مسدود. آنچه می گوییم این است که مدرکی برای استناد پیدا نکردیم و شبکه را هم آزمایش نکرده ایم.

قوی ترین واحد خط، محدودترین واحد خط

نوا پریمیر پنجره متن یک میلیون توکنی دارد و سقف خروجی اش ده هزار توکن است. این نسبت، صد به یک، بازترین نسبت این کاتالوگ است و خود این عدد نشان می دهد مدل برای چه بار کاری طراحی شده: حجم ورودی بسیار بالا و خروجی کوتاه.

اما همان جدول سه محدودیت دیگر هم ثبت می کند که کمتر کسی بررسی می کند. پریمیر fine tuning ندارد. provisioned throughput ندارد. و فقط در دو منطقه مستقر است. یعنی قوی ترین واحد این خط کم دسترس ترین و کم انعطاف ترین آن هم هست. کاربردی که آمازون برایش تعریف کرده در همان مشخصات ثبت شده: پریمیر نقش «معلم» را دارد و واحدهای کوچک تر را از طریق distillation آموزش می دهد.

اگر دنبال واحدی هستید که واقعا در پروداکشن مستقر کنید، پرو و لایت گزینه های عملی این خط هستند، نه پریمیر.

چیزی که در این معماری قابل مستندسازی نیست

قیمت هیچ واحد نوایی. صفحه قیمت گذاری Bedrock جدول ها را دارد اما اعداد را سمت کلاینت تزریق می کند، و اچ تی ام ال ی که سرور ما دریافت می کند به جای رقم واقعی یک placeholder دارد. یعنی عددی برای استخراج وجود ندارد، پس ستون قیمت مدل های نوا در فهرست ما خالی مانده.

این را ثبت می کنیم چون یک مشکل واقعی برای هر کسی است که می خواهد پیش از ثبت نام هزینه را برآورد کند، و چون این دومین باری است که در این مرجع با همین الگو مواجه شده ایم. صفحه پلن های گوگل هم همین رفتار را دارد.