ในงาน AMD Advancing AI นอกจากฮาร์ดแวร์อย่าง AMD Instinct MI300 Series ที่เปิดตัวออกมาอย่างเป็นทางการแล้ว ทาง AMD ยังได้เปิดตัว “AMD ROCm 6” แพลตฟอร์มซอฟต์แวร์เปิด (Open Software Platfrom) ที่สามารถช่วยเสริมปรับปรุงประสิทธิภาพของ Generative AI ให้ทำงานบน GPU สำหรับ Data Center ของ AMD หรือ AMD Instinct นั้นเร็วขึ้นกว่าเดิม และสามารถต่อประสานในการรัน AI Workload ต่าง ๆ ได้ง่ายขึ้นด้วย
โดย AMD ROCm 6 นั้นเป็นแพลตฟอร์มซอฟต์แวร์ที่จะช่วยเร่งให้การพัฒนาและประสิทธิภาพ Generative AI บนอุปกรณ์ซีรีส์ AMD Instinct อย่างเช่นรุ่น AMD Instinct MI300 Series นั้นมีประสิทธิภาพดีขึ้นกว่าเดิม เช่น การใช้โมเดล Llama 2 รันบน AMD Instinct MI300X ที่สามารถทำงานได้เร็วขึ้นราว 8 เท่าเมื่อเทียบกับเวอร์ชันก่อนหน้า หรือหากเทียบกับ NVIDIA H100 ด้วย Llama 2 ที่โมเดลขนาด 13 พันล้านพารามิเตอร์ก็มีประสิทธิภาพสูงกว่าราว 20%
และ Key Features ที่สำคัญคือ ROCm 6 สามารถสนับสนุนให้ Generative AI อย่าง LLM แบบต่าง ๆ จะมีประสิทธิภาพสูงขึ้น ด้วยการปรับแต่ง Optmize เพื่อรองรับให้ FlashAttention, HIPGraph และ vLLM ทำงานได้เร็วขึ้นกว่าเดิม โดยเฉพาะ vLLM ที่เร็วขึ้นเป็นเท่าตัว
อีกทั้ง ROCm ยังพร้อมเสริมประสบการณ์ให้กับนักพัฒนาระบบให้สามารถพัฒนา AI ได้สะดวกขึ้น ด้วยการมีชุด Library มาเป็นระบบนิเวศน์แบบพร้อมใช้งาน ทั้งโมเดล เฟรมเวิร์ก หรืออัลกอริทึม AI ต่าง ๆ ที่ Open Source สามารถเลือกหยิบใช้ได้ทันที เช่น Hugging Face, PyTorch, TensorFlow ฯลฯ อีกมากมาย ซึ่ง ROCm นี้จะทำให้การพัฒนาโซลูชัน AI บนหน่วยประมวลผลของ AMD นั้นง่ายขึ้นกว่าเดิมอย่างมีนัยสำคัญ
นอกจากนี้ ภายในงานได้มี 3 บริษัทสตาร์ทอัป ได้แก่ Databricks, Essential AI และ Lamini มาร่วมพูดคุยถึงการสร้างโซลูชัน AI ที่ได้ใช้งาน AMD Instinct MI300X ร่วมกับ ROCm 6 ที่ชี้ให้เห็นว่าสามารถเร่งความเร็วการพัฒนาซอฟต์แวร์ AI และรองรับโมเดลที่ใหญ่ขึ้นซับซ้อนขึ้นได้ ซึ่งมีความเป็นไปได้ AI แบบดั้งเดิมนั้นจะหมดไปเนื่องจาก LLMs ประสิทธิภาพสูงมาก และ Instinct กับ ROCm นั้นจะเป็นส่วนที่สำคัญที่จะทำให้องค์กรสามารถส่งมอบโซลูชันที่แตกต่างให้กับลูกค้าองค์กรได้
และที่สำคัญ OpenAI ผู้สร้างและพัฒนา ChatGPT นั้นยังมีแผนที่จะสนับสนุนการใช้ GPU จาก AMD ซึ่ง MI300 คืออีกตัวที่ OpenAI กำลังพิจารณาให้ไปอยู่ในมาตรฐานของ Triton ที่คาดว่าน่าจะเริ่มต้นสนับสนุนได้ในเวอร์ชัน 3.0 เรียกว่าเป็นก้าวสำคัญที่ AMD Instinct MI300 Series และ ROCm ที่จะทำให้มีนักพัฒนาระบบมาปรับใช้อุปกรณ์ AMD มากขึ้น
หากใครสนใจรายละเอียด AMD ROCm 6 แพลตฟอร์มซอฟต์แวร์เปิดที่ช่วยเร่งประสิทธิภาพในการพัฒนา AI บนอุปกรณ์ AMD สามารถอ่านเพิ่มเติมได้ที่ลิงก์นี้ หรือที่ ROCm Developer Hub