خطای out of memory و nan% در دیجیتس (DIGITS)

Question

من با دیجیتس یکم کار کردم. برا دیتا با حجم وپیکسل بالا روی سیستم من خطای out of memory رو داد بعد یه جا خوندم batch size رو میتونم تغییرش بدم. من از قسمت ترین train توی ساخت شبکه رفتم توی تنظیمات اپشنالش batch رو یک دادم.اینبار بدون خطا ترین کرد.ولی وقتی رفتم تستش کنم دیدم نمیتونه کلسیفای کنه. یعنی برا همه ی کلاسها nan% نشون داد با اینکه باید عددی رو نشون میداد که با چه احتمالی پیدا کرده. بعد دیدم این خطا یعنی هیچ عددی نمیتونه پیدا کنه.
حالا سوال من اینه آیا باید از یه جای دیگه سایز بچ رو تغییر بدم از کجا؟چند بدمش؟ و اون خطا با درست انتخاب کردن بچ سایز حل میشه آیا؟

Answer 1

سلام .
اون خطای nan که معمولا بخاطر بالا بودن نرخ یادگیری ، عدم استفاده از بچ نورمالیزیشن و مقدار دهی اولیه بد(زیاد) بوجود میاد.
اولین کار شما باید کاهش نرخ یادگیری باشه و اگر معماری عمیق یا نسبتا عمیقی دارید سعی کنید از بچ نورمالیزیشن استفاده کنید. برای مقدار دهی اولیه هم اگر عمیق هست یا نسبتا عمیق میتونید از مقداردهی اولیه Xavier استفاده کنید. اگر شبکه کم عمق هست از Gaussian با مقدار 0.01 .

برای کاهش batch-size هم سعی کنید batch-size مربوط به تست رو کاهش بدید بعد اگر باز مشکل بود برید سراغ -batch-size مربوط به ترینینگ . چون برای بدست اوردن گرادیانت پایدار و جلوگیری از oscillation های احتمالی و زیاد بچ باید یه مقدار متناسب داشته باشه . معمولا بچ های بین 32 تا 512 کارایی خوبی میدن .