Facebook เปิดเฟรมเวิร์ค deep learning ใหม่ Pythia สำหรับการประมวลผลภาพและทำ language model

0
https://venturebeat.com/wp-content/uploads/2019/05/facebook-ai.jpg?w=578&strip=all

ความมุ่งมั่นของ Facebook ต่อเหล่าขา developer community ทั้งหลายยังคงแข็งแกร่งเช่นเคย โดยเมื่อช่วงมกราคมที่ผ่านมาก็มีการ opensource library ที่มีชื่อว่า Spectrum สำหรับการประมวลผลภาพ รวมไปถึงเมื่อปลายปีที่ผ่านมาก็มี PyText เฟรมเวิร์คสำหรับการทำโมเดลประมวลภาษาธรรมชาติ (natural language processing) หรือว่าเมื่อเดือนพฤศจิกายนที่ผ่านมาก็มีแพลตฟอร์ม Horizon สำหรับทำ AI reinforcement learning ออกมา และล่าสุดวันนี้ หน่วยวิจัย AI ของ Facebook ก็ประกาศเฟรมเวิร์คใหม่ชื่อ Pythia ที่จะทำให้เหล่า data scientist สามารถบิวท์ (build) ทำซ้ำ (reproduce) และเปรียบเทียบ (benchmark) โมเดล AI ได้อย่างรวดเร็ว

ตามที่ทาง Facebook ได้อธิบายในบล็อคโพสนั้น Pythia นั้นได้บิวท์อยู่บนเฟรมเวิร์ค PyTorch ของบริษัท ซึ่งจะมุ่งเน้นสำหรับงานเรื่องการมองเห็น (vision) และภาษา (language) เช่น การตอบคำถามที่เกี่ยวข้องกับข้อมูลภาพ หรือการสร้าง caption อธิบายภาพได้อย่างอัตโนมัติ

สิ่งนี้ได้รวมเอาโมเดลวิจัย AI ของ Facebook ตัวท็อปๆ จากการแข่งขัน AI มาไว้แล้วด้วย อย่างเช่น โมเดล LoRRA ซึ่งเป็นโมเดล vision และ language model ที่ชนะทั้งการแข่งขัน VQA Challenge 2018 และ Vizwiz Challenge 2018 ที่ผ่านมา โดยสิ่งนี้จะทำให้เห็นถึงระบบ AI ที่เป็น state-of-the-art ที่ผ่านมานั้นสามารถเอาชนะการ benchmark กับผลทดสอบระดับต้นๆ ก่อนหน้านี้ได้อย่างไร อีกทั้งยังสามารถเปรียบเทียบประสิทธิภาพของโมเดลที่สร้างขึ้นมาใหม่เทียบกับโมเดลเหล่านี้ได้ด้วย

นอกจากนี้ Pythia ยังรองรับการเทรนแบบกระจาย (distributed training) กับข้อมูล dataset ที่หลากหลายรูปแบบได้ อีกทั้งยังสามารถปรับค่า loss, metric, scheduling และ optimizer ได้แบบ custom และโมดูลที่มักใช้งานกันโดยทั่วไปใน layer ต่างๆ นั้นก็มีให้เลือกใช้โดยรองรับการเทรนแบบกระจายได้ด้วย อีกทั้งยังมีคลังข้อมูลที่บิวท์อินมาให้ด้วยอีก เช่น VQA, VizWiz, TextVQA และ VisualDialog และมีฟีเจอร์การทำ multitasking ที่ทำให้สามารถเทรนบนคลังข้อมูลหลายๆ อันพร้อมกันได้

ตอนนี้ Pythia อยู่บน GitHub เป็นที่เรียบร้อยแล้ว สามารถทดลองทดสอบใช้งานได้เลย

Source : https://venturebeat.com/2019/05/21/facebook-open-sources-deep-learning-framework-pythia-for-image-and-language-models/