MLPerf آخرین نتایج استنتاج و بنچمارک جدید ذخیره‌سازی را منتشر می‌کند.

MLCommons نتایج آخرین آزمایش بنچمارک MLPerf Inference (v3.1) خود را منتشر کرد. در این نتایج انویدیا دوباره شتاب‌دهنده برتر بود، اما اینتل (CPU Xeon) و Habana نیز کارایی خوبی داشتند. گوگل در کارایی TPU (v5e) جدید خود به اوج رسید. MLCommons همچنین یک بنچمارک جدید MLPerf Storage (v0.5) را معرفی کرد که برای اندازه‌گیری کارایی ذخیره‌سازی تحت بارهای کاری آموزشی یادگیری ماشین طراحی شده است. در ادامه به جزئیات این نتایج خواهیم پرداخت.

بررسی آخرین نتایج استنتاج 120 سیستم که شامل بیش از 12000 نتیجه استنتاج کارایی، 5000 نتیجه استنتاج توان و تعدادی نتایج دسته ذخیره‌سازی می‌شود، یک چالش بزرگ است. از منظر سودمندی، MLCommons دسترسی مستقیم به صفحات گسترده نتایج را فراهم می‌کند که به کاربران سیستم اجازه می‌دهد تا تنظیمات سیستمی خاص و ارزیابی‌های بنچمارک را برای مقایسه بررسی کنند. شکل‌های 1 تا 3 جزئیات این نتایج و بنچمارک‌ها را نشان می‌دهند.

MLPerf Inference v3.1 دو بنچمارک جدید را به مجموعه معرفی کرد. اولی یک مدل زبان بزرگ (LLM) است که از مدل مرجع GPT-J برای خلاصه کردن مقالات خبری CNN استفاده می‌کند. این بنچمارک نتایج را از 15 منبع مختلف به دست آورد که نشان‌دهنده پذیرش سریع هوش مصنوعی مولد است. بنچمارک دوم یک توصیه‌کننده به‌روز است که با استفاده از مدل مرجع DLRM-DCNv2 و مجموعه داده‌های بزرگ‌تر سعی در ارائه یک تجسم جامع و به‌روز از رویکردهای فعلی در صنعت دارد. به گفته MLCommons، این آزمایش‌های جدید، با اطمینان از این که بنچمارک‌های استاندارد صنعتی نشان‌دهنده آخرین روند پذیرش هوش مصنوعی برای کمک به راهنمایی مشتریان، فروشندگان و محققان هستند، به پیشرفت هوش مصنوعی کمک می‌کنند.

بنچمارک ذخیره‌سازی جدید (نسخه 5.5) دو سال است که در دست ساخت است. MLCommons می‌گوید: "این اولین مجموعه بنچمارک هوش مصنوعی و یادگیری ماشین منبع باز است که کارایی فضای ذخیره‌سازی را برای بارهای کاری آموزشی یادگیری ماشین ارزیابی می‌کند". این بنچمارک از طریق همکاری بیش از 12 سازمان پیشرو صنعت و دانشگاهی ایجاد شد و شامل انواع تنظیمات ذخیره‌سازی از جمله فایل سیستم موازی، ذخیره‌سازی محلی، و ذخیره‌سازی نرم‌افزار محور (Software defined) است. MLPerf Storage ابزاری موثر برای خرید، تنظیم و بهینه‌سازی فضای ذخیره‌سازی برای برنامه‌های یادگیری ماشین و همچنین برای طراحی سیستم‌ها و فناوری‌های نسل بعدی خواهد بود.

MLCommons تاکید می‌کند که آموزش شبکه‌های عصبی هم بارکاری محاسباتی و هم فشرده‌ای است که به ذخیره‌سازی با کارایی بالا نیاز دارد تا کارایی کلی و دسترسی‌پذیری سیستم را حفظ کند. برای بسیاری از مشتریانی که نسل بعدی مدل‌های یادگیری ماشین را توسعه می‌دهند، یافتن تعادل مناسب بین منابع ذخیره‌سازی و محاسباتی و در عین حال اطمینان از استفاده کارآمد از هر دو یک چالش است.

MLPerf Storage برای کمک به غلبه بر این مشکل با مدل‌سازی دقیق الگوهای ورودی و خروجی ایجاد شده توسط بارهای کاری یادگیری ماشین، به ارائه انعطاف‌پذیری برای ترکیب و تطبیق سیستم‌های ذخیره‌سازی مختلف با انواع مختلف شتاب‌دهنده، کمک می‌کند. البته، انتخاب سخت‌افزار ذخیره‌سازی، پروتکل/فایل سیستم و شبکه همگی بر کارایی تأثیر می‌گذارند. مشخصات بنچمارک و خلاصه نتایج‌ در شکل‌های 4 تا 6 گزارش شده است.

بدیهی است که این روزهای اولیه برای MLPerf Storage است و مدتی طول می کشد تا شرکت اقدامات کامل خود را انجام دهد. در حال حاضر برنامه هایی برای افزودن وجود دارد. وبلاگ سیمرغ را دنبال کنید تا از به‌روزترین اخبار فناوری مطلع شوید.

1. یادگیری ماشین چیست؟

یادگیری ماشین شاخه‌ای از هوش مصنوعی و علوم کامپیوتر است که بر استفاده از داده‌ها و الگوریتم‌ها برای تقلید از روشی که انسان‌ها یاد می‌گیرند تمرکز دارد و به تدریج دقت آن را بهبود می‌بخشد. برای آشنایی بیشتر با این موضوع می‌توانید مقاله یادگیری ماشین را بخوانید.

2. MLperf چیست؟

MLperf یک مجموعه بنچمارک است که برای ارزیابی آموزش و استنتاج کارایی زیرساخت‌های محلی و ابری استفاده می شود.

3. فضای ذخیره‌سازی ابری چیست؟