Google เปิดตัวโมเดลภาษาขนาดใหญ่รุ่นล่าสุดชื่อว่า PaLM 2 ซึ่งใช้ชุดข้อมูลประเภทข้อความในการฝึก AI มากกว่ารุ่นก่อนหน้าเมื่อปี 2022 ถึง 5 เท่า ทำให้โมเดลใหม่ล่าสุดนี้สามารถประมวลผลโค้ดขั้นสูง คณิตคำนวณ และงานเขียนเชิงสร้างสรรค์ได้ล้ำขึ้นกว่าเดิม
PaLM2 โมเดลภาษาขนาดใหญ่ (Large language model หรือ LLM) ของ Google รุ่นล่าสุด ที่พึ่งเปิดตัวในงาน Google I/O เมื่อสัปดาห์ก่อน ได้รับการฝึกจาก Token (ชุดคำที่ใช้ฝึก LLM) มากถึง 3.6 ล้านล้านชุด ซึ่งช่วยฝึกให้โมเดลสามารถแนะนำหรือคาดการณ์คำถัดไปที่จะปรากฏต่อขึ้นมาในประโยคได้
ในขณะที่ PaLM (Pathways Language Model) รุ่นก่อนหน้าที่ออกมาเมื่อปี 2022 ได้รับการฝึกจาก Token เพียง 780 พันล้านชุดเท่านั้น
ด้วยชุดข้อมูลฝึกที่มีปริมาณมากขึ้น ก็ทำให้ PaLM 2 ประมวลผลได้มีประสิทธิภาพยิ่งขึ้น รวมถึงการคาดการณ์อนุมานที่เร็วขึ้น พารามิเตอร์ในการแสดงผลที่น้อยลง และต้นทุนการแสดงผลที่ต่ำลงไปด้วย
อ่านรายละเอียดเพิ่มเติมเกี่ยวกับ PaLM 2 ได้ที่: https://blog.google/technology/ai/google-palm-2-ai-large-language-model/