MLCommons یک معیار هوش مصنوعی جدید را برای آزمایش سرعت پاسخ به سؤالات کاربران راه اندازی می کند

گروه بنچمارک هوش مصنوعی MLCommons روز چهارشنبه مجموعه جدیدی از آزمایش ها و نتایج را منتشر کرد که سرعت دستگاه های پیشرفته می توانند برنامه های هوش مصنوعی را اجرا کنند و به کاربران پاسخ دهند.

دو معیار جدید اضافه شده توسط MLCommons، سرعتی را که تراشه‌ها و سیستم‌های هوش مصنوعی می‌توانند پاسخ‌هایی را از مدل‌های هوش مصنوعی قدرتمند و پر از داده تولید کنند، اندازه‌گیری می‌کنند. نتایج تقریباً نشان می‌دهند که یک برنامه هوش مصنوعی مانند ChatGPT با چه سرعتی می‌تواند به درخواست کاربر پاسخ دهد.

یکی از معیارهای جدید قابلیت اندازه گیری سرعت اسکریپت پرسش و پاسخ را برای مدل های زبان بزرگ اضافه کرد. Llama 2 نام دارد و شامل 70 میلیارد پارامتر است و توسط Meta Platforms توسعه یافته است.

مقامات MLCommons همچنین دومین تولید کننده متن به تصویر را به مجموعه محک زنی به نام MLPerf بر اساس مدل Stable Diffusion XL Stability AI اضافه کردند.

سرورهای مجهز به تراشه‌های H100 انویدیا، ساخته‌شده توسط شرکت‌هایی مانند گوگل، سوپرمیکرو آلفابت، و خود انویدیا به راحتی هر دو معیار جدید را از نظر عملکرد خام به دست آوردند. بسیاری از سازندگان سرور، طرح هایی را بر اساس تراشه کم قدرت L40S این شرکت ارائه کرده اند.

سازنده سرور Krai با استفاده از تراشه هوش مصنوعی Qualcomm که انرژی بسیار کمتری نسبت به پردازنده‌های پیشرفته Nvidia مصرف می‌کند، طراحی معیار تولید تصویر را معرفی کرده است.

اینتل همچنین طراحی مبتنی بر تراشه های شتاب دهنده Gaudi2 خود را معرفی کرد. این شرکت نتایج را “جامد” توصیف کرد.

عملکرد اولیه تنها معیاری نیست که هنگام استقرار برنامه های هوش مصنوعی اهمیت دارد. تراشه‌های هوش مصنوعی پیشرفته مقادیر زیادی انرژی مصرف می‌کنند و یکی از مهم‌ترین چالش‌های پیش روی شرکت‌های هوش مصنوعی، استقرار تراشه‌هایی است که عملکرد بهینه را با کمترین توان ممکن ارائه می‌دهند.

MLCommons یک کلاس مرجع جداگانه برای اندازه گیری مصرف برق دارد.

© تامسون رویترز 2024

(این داستان توسط کارکنان NDTV ویرایش نشده است و به طور خودکار از یک فید سندیکایی تولید شده است.)