ในการใช้งาน Generative AI คำว่า “หลอน (Hallucination)” หรืออาการหลอนของ AI ไม่รู้คำตอบที่ถูกต้องแต่กลับสร้างคำตอบที่ผิด ๆ หรือคิดไปเองขึ้นมาให้แทนนั้น คือสิ่งที่ต้องพึงระวังอย่างยิ่ง ซึ่งล่าสุดนักวิจัยจาก Google อาจจะกำลังเขย่าวงการ AI อีกครั้ง ด้วยการสอนให้ AI รู้จักพูดว่า “ฉันไม่รู้ (I don’t know)”
โดยนักวิจัย Google ได้สร้างวิธีการใหม่ในชื่อ ASPIRE (ย่อมาจาก Adaptation with Self-Evaluation to Improve Selective Prediction) ที่อาจจะช่วยปฏิวัติวงการได้ ด้วยการส่งเสริมให้ระบบ AI ไม่มั่นใจในคำตอบได้
สำหรับงานวิจัยนี้ ผู้ที่อยู่เบื้องหลังงานวิจัยดังกล่าวคือคุณ Jiefeng Chen และ Jinsung Yoon จาก Google ที่ได้นำมาแสดงในงานสัมมนา EMNLP 2023 ที่ผ่านมา ซึ่งทั้งสองกำลังพยายามบุกเบิกให้มีการเปลี่ยนแปลงในการใช้ผลลัพธ์จาก AI ในการนำไปตัดสินใจดำเนินการอะไรต่อได้อย่างน่าเชื่อถือ (Reliable) มากยิ่งขึ้นกว่าเดิม
ทั้งสองมองว่ามันเป็นสิ่งที่สำคัญมาก ๆ สำหรับ AI โดยเฉพาะอย่างยิ่งเมื่อเป็นข้อมูลอะไรที่มีความละเอียดอ่อนหรือสำคัญมาก ๆ อย่างเช่น ข้อมูลสุขภาพ แทนที่ AI จะตอบคำตอบที่ดูมีโอกาสจะผิดออกมา อาจจะดีกว่าถ้าให้ AI ตอบออกมาว่า “ฉันไม่รู้”
หลักการเบื้องต้น คือการนำเอา “ค่าความมั่นใจ (Confidence Score)” มาใช้วัดผลเพิ่มเติมอีกครั้ง ผ่าน 3 สถานะในเฟรมเวิร์ก ASPIRE ซึ่งโมเดลจะมีการประเมินผลโอกาสความถูกต้องอีกครั้งก่อนที่จะให้คำตอบมาจริง ๆ
สำหรับผู้ที่สนใจรายละเอียดของระบบ ASPIRE สามารถอ่านเพิ่มเติมในงานตีพิมพ์ได้ที่นี่
ที่มา: https://venturebeat.com/ai/googles-new-aspire-system-teaches-ai-the-value-of-saying-i-dont-know/