محدودیت حافظه گرافیک در deep learning روی داده های حجیم

Question

سلام
اگرحجم داده ی آموزش ما 20 گیگ باشد ولی حافظه GPU ما 4 گیگ باشد
1- کدوم تولباکس های deep learning میتوانند این داده رو با استفاده از کارت گرافیک ترین کنن ؟ چون کل دیتا روی حافظه گرافیک جا نمیشه به صورت یکجا ؟
2- کدوم تولباکس رو توصیه می کنید ؟از نظر سرعت و کارایی ؟
3- روی R هم تولباکس خوبی که روی GPU بشه ران بشه وجود داره؟
5- گرافیک های 1080 موجود مدل های متفاوتی دارند کدوم رو توصیه می کنید ؟
6- گرافیک الان من GTX 650 Ti هست چطور میتونم متوجه بشم اون تولباکس این کارت رو پشتیبانی میکنه ؟
با تشکر

Answer 1

سلام
1.هیچ نیازی به لود تمام دیتاست در حافظه کارت گرافیک نیست . چون عملی نیست (مگر برای دیتاستهای بسیار بسیار کوچیک که اونم عملا کاری نمیشه کرد). الان از بچ استفاده میشه و هربار بخشی از داده ها در قالب یک بچ یا دسته به شبکه ارائه میشه و از این جهت نیازی به نگرانی نیست.
2.تورچ خیلی خوبه mxnet هم خوبه . تنسورفلو هم خیلی خوبه . کفی هم خوبه. به ترتیب اگر بخوایم بگیم از نظر سرعت تورچ مناسبه (هرچند نیئون بهترین سرعت رو داره اما روی هم رفته تورچ بهتره) بعد کفی و بعد تنسورفلو.
3.بله اگه از mxnet استفاده کنید رپر R رو هم ارائه میده
5. در بخش گرافیک ها توضیح دادم در سایت لطفا اونجا رو مطالعه کنید. ترجیحا سعی کنید از مدلهایی که اورکلاک خیلی بالایی دارن استفاده نکنید چون احتمال به مشکل خوردن تو محاسبات دارید (ناپایداری عددی ممکنه بوجود بیاد- برای من اومد). اطلاعات بیشتر رو از همون بخش و کامنتها پیگیری کنید
6. تولباکس ها و فریم ورکها کارت گرافیک ها رو پشتیبانی نمیکنن منظورم این هست که اونها قابلیت هایی رو پشتیبانی میکنن که باید چک کنید کارت شما از اون پشتیبانی میکنه یا نه . نکته مهم اینجا compute capability هست که اکثر فریم ورکها از ورژن 3 به بالا پشتیبانی میکنن تو ورژنهای اخیرشون چون cudnn که تاثیر بسیار زیادی تو کارایی داره از این ورژن به بعد رو پشتیبانی میکنه (البته ورژن 4 به بعدش فک میکنم . الان هم که ورژن 5 و 6 پشتیبانی میشه )
تو تولباکسها دقت به ورژن compute capabilty کنید متوجه میشید ایا کارت شما پشتیبانی میشه یا خیر در بخش ابزارهای سایت هم من لیستی از کارتهای مختلف رو با ورژن های مختلف compute capability ها گذاشتم . هرچند اگه از اخرین ورژن gpuz هم استفاده کنید این اطلاعات رو بهتون میده