ผลจาก MLPerf Inference 3.0 ชี้ ประสิทธิภาพเพิ่มขึ้นกว่า 30% ในหลาย ๆ เจ้า

0

ตามที่เห็นกันว่าโลกของ AI/ML ได้เติบโตขึ้นอย่างรวดเร็วในช่วงไม่กี่ปีที่ผ่านมา และหนึ่งในเครื่องมือที่จะวัดผล AI/ML ได้ดีที่สุดนั่นคือ MLPerf ที่มีชุดทดสอบ Benchmark วัดผลว่ามีประสิทธิภาพมากน้อยเพียงใดอย่างเป็นมาตรฐาน ซึ่งล่าสุด MLCommons ผู้ที่พัฒนา MLPerf ได้เปิดผล MLPerf Inference 3.0 ซึ่งชี้ให้เห็นว่าประสิทธิภาพหลาย ๆ เจ้าสูงขึ้นกว่า 30%

MLCommons ได้ปล่อยผล MLPerf Inference 3.0 ออกมา ซึ่งถือว่าเป็นเวอร์ชัน Major Update ต่อจาก MLPerf Inference 2.1 ที่ออกมาเมื่อกันยายน 2022 และจากผลลัพธ์การทดสอบประสิทธิภาพ (Performance) มากกว่า 5,000 ครั้ง พบว่าผลลัพธ์ครั้งใหม่นี้ได้แสดงให้เห็นศักยภาพที่เพิ่มสูงขึ้นในส่วนของฮาร์ดแวร์สำหรับ Inference เกือบทั้งหมด

โดยผู้ที่ได้เข้าร่วมการทดสอบใน MLPerf Inference 3.0 เช่น  Alibaba, ASUS, Azure, cTuning, Deci, Dell, GIGABYTE, H3C, HPE, Inspur, Intel, Krai, Lenovo, Moffett, Nettrix, Neuchips, Neural Magic, Nvidia, Qualcomm, Quanta Cloud Technology, rebellions, SiMa, Supermicro, VMware และ xFusion

ทั้งนี้ มีบางเจ้าที่ประสิทธิภาพเพิ่มสูงขึ้นมากกว่า 30% ด้วย โดยหนึ่งในนั้นคือ NVIDIA

ผู้อำนวยการฝ่ายการตลาดผลิตภัณฑ์ แห่ง NVIDIA คุณ Dave Salvator ชี้ให้เห็นว่าผลลัพธ์ที่ได้ เป็นเพราะ H100 GPUs ที่วางจำหน่ายในตลาดแล้วนั้นสามารถผลการทดสอบประสิทธิภาพบน RetinaNet โมเดลตรวจจับวัตถุ (Object Detection) ได้มีประสิทธิภาพเพิ่มสูงขึ้นกว่า 54% ด้วยการปรับปรุง Software Optimization เพิ่มเติมจากปีที่ผ่านมา

เรียกได้ว่าโลกของ AI/ML กำลังพุ่งทะยานไปอย่างก้าวกระโดด ทั้งเรื่องนวัตกรรมที่สามารถทำงานได้อย่างซับซ้อนยิ่งขึ้นและประสิทธิภาพที่สามารถจัดการงานต่าง ๆ ได้เร็วขึ้นอย่างมหาศาล ซึ่งไม่แน่ว่าในอนาคตอันใกล้นี้ AI/ML อย่าง ChatGPT หรือ Midjourney นั้นอาจจะเป็นสิ่งที่ใคร ๆ ก็เข้าถึงได้ง่าย โดยที่ไม่ต้องเสียเงิน Subscription อีกต่อไปแล้ว ก็เป็นได้

ที่มา: https://venturebeat.com/ai/mlperf-inference-3-0-results-show-30-performance-gain-across-multiple-vendors/