Fast.AI ทำลายสถิติความเร็วในการแข่งขัน ImageNet

0
https://news.developer.nvidia.com/wp-content/uploads/2018/08/fastai.jpg

นักวิจัยจาก fast.ai ได้เปิดเผยผลลัพธ์สถิติความเร็วใหม่ในการเทรนข้อมูล dataset ImageNet ด้วยความถูกต้อง 93% โดยใช้เวลาเพียงแค่ 18 นาทีเท่านั้น

คุณ Andrew Shaw ศิษย์เก่า fast.ai และคุณ Yaroslav Bulatov นักวิจัยที่ Defense Innovation Unit Experimental (DIU) สามารถทำสถิติใหม่โดยใช้ NVIDIA Tesla V100 Tensor Core GPU 128 ตัวบนคลาวด์ Amazon Web Services (AWS) ร่วมกับการใช้เฟรมเวิร์ก fastai และไลบราลี PyTorch ในการเทรน ซึ่งผลลัพธ์นั้นสามารถดำเนินการได้เร็วกว่าเดิมถึง 40% จากสถิติต่างๆ ที่ผ่านมา

“DIU และ fast.ai กำลังจะเปิดตัวซอฟต์แวร์และอนุญาตให้ใครก็ตามสามารถเทรนและติดตามผลการเทรนโมเดลต่างๆ บน AWS ได้อย่างง่ายได้ โดยใช้ best practice ที่ได้สร้างขึ้นมาจากในโครงการนี้” คุณ Jeremy Howard ผู้ก่อตั้ง fast.ai กล่าว “พวกเราเข้าสู่การแข่งขันนี้เพราะพวกเราต้องการที่จะแสดงให้เห็นว่าคุณไม่จำเป็นจะต้องมีทรัพยากรที่ใหญ่มากในการที่จะทำงานวิจัย AI ที่ cutting edge ใหม่ๆ และพวกเราก็แสดงให้เห็นแล้วว่าสามารถทำได้สำเร็จ”

นักวิจัยยังกล่าวอีกว่าพวกเขาได้รับการสนับสนุนเครื่องที่สามารถใช้งานทำสถิติความเร็วสูงสุดก่อนหน้านี้มาจากทีม AWS

“กลุ่มเครื่องมือที่สร้างโดย fast.ai นั้นมุ่งเน้นไปที่เรื่องการทำรอบ iteration ได้เร็ว โดยใช้การทดลองแบบเดี่ยว (single-instance) ในขณะที่ระบบ nexus-scheduler ที่สร้างโดย DIU นั้นมุ่งเน้นไปที่เรื่องความทนทาน (robustness) และการทดลองบนเครื่องหลายๆ เครื่อง (multi-machine)” คุณ Howard กล่าว

https://news.developer.nvidia.com/wp-content/uploads/2018/08/rect-crop-compare-1.png
Snippet ส่วนหนึ่งจาก Jupyter Notebook ที่แสดงให้เห็นวิธีการ crop ที่แตกต่างกัน โดย FastAi Rectangular Crop เป็นวิธีการใหม่ที่นำเสนออกมา

 

ทีมงานกล่าวว่าพวกเขาสามารถทำลายสถิติความเร็วโดยใช้ AWS 16 instance ซึ่งมีราคาที่ใช้งานการเทรนทั้งหมด 40 ดอลลาร์สหรัฐ

“พวกเรายังดำเนินการยังไม่เสร็จดี พวกเรายังมีไอเดียอื่นๆ ในการ optimize เพิ่มเติมซึ่งพวกเราจะทดลองต่อไป” คุณ Howard กล่าว “มันยังมีอีกหลายอย่างมากมายที่จะสามารถทำได้เร็วขึ้นกว่านี้อีก”

คุณสามารถอ่านรายละเอียดเพิ่มเติมได้ในบล็อคของ fast.ai

Source : https://news.developer.nvidia.com/fast-ai-breaks-imagenet-record-with-nvidia-v100-tensor-core-gpus/