Stability AI ผู้ให้บริการเทคโนโลยี Stable Diffusion แปลงข้อความเป็นภาพยอดนิยม ล่าสุดได้เปิดตัวโมเดลที่อาจจะเรียกว่าเป็นหนึ่งในโมเดลที่เล็กที่สุดของโมเดลภาษา ณ ตอนนี้ คือ “Stable LM 2 1.6B” ที่ขนาดเล็กลงกว่าเดิม แต่ประสิทธิภาพกลับดีขึ้นกว่าที่ผ่านมา
Stable LM 2 1.6B คือโมเดล LLM ที่สามารถทำสังเคราะห์ข้อความ (Text Generation) ซึ่งก่อนหน้านี้ Stability AI ได้เปิดตัวเวอร์ชัน 3 พันล้านพารามิเตอร์กับ 7 พันล้านพารามิเตอร์เมื่อช่วงปี 2023 ที่ผ่านมา แต่เวอร์ชันนี้เล็กลงเหลือเพียง 1.6 พันล้านพารามิเตอร์เท่านั้น
โดยโมเดล StableLM ตัวนี้คือโมเดลที่ 2 ของ Stability AI ที่ปล่อยออกมาในปี 2024 นี้ ที่มุ่งเน้นสำหรับการเขียนโค้ดเป็นหลัก
“โดยทั่วไป โมเดลที่ถูกเทรนบนข้อมูลและวิธีการที่คล้าย ๆ กันนั้นมักจะทำงานได้ดีกว่าโมเดลที่เล็กกว่า” Carlos Riquelme หัวหน้าทีมภาษาแห่ง Stability AI กล่าว “แต่อย่างไรก็ดี เมื่อเวลาผ่านไป หลังจากโมเดลได้ถูกพัฒนาให้ใช้อัลกอริทึมที่ดีขึ้น และถูกเทรนบนข้อมูลที่มีคุณภาพสูงกว่า พวกเราจึงได้เห็นว่าบางทีโมเดลที่เล็กกว่าก็สามารถทำได้ดีกว่าโมเดลขนาดใหญ่บางตัวได้”
สำหรับโมเดล Stable LM ตัวใหม่ที่มีขนาดเล็กลงอย่างมากนี้ มุ่งเน้นที่จะลดกำแพงที่ขวางกั้นนักพัฒนาระบบให้สามารถเข้ามาสู่ระบบนิเวศน์ Generative AI ได้ง่ายขึ้นกว่าเดิม ผสานกับข้อมูลใน 7 ภาษาได้แก่ ภาษาอังกฤษ สเปน เยอรมัน อิตาลี ฝรั่งเศส โปรตุเกส และดัตช์
น่าติดตามอย่างยิ่งว่าโมเดล Generative AI ในอีกมุมที่มีความพยายามทำให้มีขนาดเล็กลงเรื่อย ๆ ในขณะที่ยังคงมีประสิทธิภาพที่ดีอยู่นั้นจะไปอยู่ที่จุดใด และเมื่อเวลาที่โมเดลกับการประมวลผลสอดรับกันได้พอดี การมีโมเดล LLM รันอยู่ทุกหนทุกแห่งก็คงไม่ไกลเกินจริงแน่นอน