آیا در فاز آموزش یک دسته(batch) شامل 256 تصویر فقط شامل تصاویر یک کلاس است یا تصاویر همه کلاسها را شامل میشود؟

Question

سلام و عرض ادب
دوستانی که imageNet کار کردند اینکه 1000 تا کلاس هست موقع ترین شبکه ، اول یک کلاسی ترین میشود و بعد اینکه این کلاس تموم شد کلاس دیگه ترین میشه ؟ یا اینکه کلا بصورت رندوم هست فرضا در iteration اول بچ ما 256 باشه این 256 تا عکس همشون از یک کلاس انتخاب میشوند یا بصورت رندم از تمامی کلاس ها انتخاب میکند ؟

Answer 1

سلام
همه با هم بروز میشن. بچ تصاویر هم کاملا رندوم هست اینطور نیست اول یک کلاس وارد بشه بعد کلاس بعدی و الی اخر.
اینکه مثلا از یه کلاس 2 تا تصویر باشه از یک کلاس یکی ازدیگری 10 تا و یکی هم اصلا تو یه بچ نباشه همه برمیگرده به اون شیوه شافل شدن. شما تصاویر رو شافل میکنید بعد به ترتیب مثلا 10 تا یا بقول شما 256 تا رو بر میدارید و به شبکه میدید دفعه بعد یکسری تصاویر دیگه انتخاب میشن و الی اخر
یعنی وقت یک تصویر ایکسی میاد بر اساس لیبل مشخص میشه کجای کاریم و چقدر در یک جهت خاص باید پیش رفت تا خطای برای اون کلاس کاهش پیدا کنه. این پروسه انقدر تکرار میشه تا نهایتا همه به یک نقطه قابل قبول از نظر ما برسن و دقت مد نظر ما بدست بیاد

Comments

شافل شدن داده ها تکنیک خاص خودشون داره ؟ تابع خاصی داره برای اینکار ؟ اگر بله ، در تمامی فریم ورک ها هست ؟  و اینکه قبل از ترین شبکه داده هایی که در هاردمون هستند موقع شافل زدن همه ی اون داده ها کجا ذخیره میشوند ؟ یا اینکه بصورت رندم تصاویر رو از فایل امیج نت برمیدارد ؟ با اینکار امکان نداره تصاویر تکراری در آموزش مثلا epoch اول صورت بگیرد؟

---

شافل همون بر زدنه! یعنی همون بصورت رندوم ترتیب هرچیزی رو بهم زدن. یعنی درهم و برهم کردن.
 اگه آموزش تبدیل دیتاست برای کفی که در سایت هست رو بخونید بنظرم خیلی راحت متوجه میشید. اتفاقی که می افته به این شکله این مثال ساده رو در نظر بگیرید شما فرض کنید 10 تا تصویر روی هاردتون دارید. ادرس این تصاویر رو در یک لیست ذخیره میکنید به ترتیب . تصویر1 تصویر 2 تصویر 3 و الی آخر. حالا هر وقت هم بخوایید تصاویر رو بخونید این لیست رو باز میکنید و ادرسش رو میخونید. موقع خوندن هم میشه تصویر 1 تصویر 2 تصویر 2 و الی آخر. چون پشت سر هم به ترتیب ذخیره شدن.
حالا برای اینکه رندوم کنیم خوندن تصاویر و کار با اونها رو خیلی راحت نام فایلها در اون لیست رو شافل کنید باز یعنی موقع خوندن از لیست اندیس رو بصورت رندوم انتخاب کنید بعد اندیس انتخاب شده رو بذارید کنار. دور بعدی یه عدد دیگه برای اندیس انتخاب میشه دور بعدی یکی دیگه و همینطور الی اخر تا همه تصاویر خونده بشن. مثلا بار او 9 انتخاب میشه بار بعدی 2 انتخاب میشه بار بعدی 6 انتخاب میشه و همینطور الی اخر.
در مورد ایمیج نت یا هر دیتاست دیگه هم اصل به همین صورت هست . در مورد تکراری بودن تصاویر در یک ایپاک هم اگه بچ رو متناسب با اندازه داده ترینینگ بگیرید نه