آموزش pspnet

Question

سلام
من نیاز دارم که شبکه pspnet رو برای semantic segmetation آموزش بدم. از معماری mxnet در حال حاضر استفاده می کنم، چون مدل های pretrain در این معماری برای کاربرد من، نتایج بهتری داشتن. مسئله اینکه برای آموزش نمی تونم batch size رو بزرگتر از 4 قرار بدم.
سیستم عامل ubutnu 18.04
کارت گرافیک 1080 ti با حافظه 11g هست.
از نسخه mxnet با cuda10
مجموعه داده های ade20k

Answer 1

سلام دوست عزیز
اگه بخواید بچ رو زیاد کنید شاید لازم باشه
-- اندازه تصویر ورودی رو کوچکتر کنید (فیچر مپ کمتری تولید بشه)
-- از optimizer های بدون momentum مثل SGD استفاده کنید (وزن های ‌iteration قبلی ذخیره نشه).
-- دیتا تون رو بچ بچ بفرستید سمت gpu .

موفق باشید

Comments

سلام
ممنون بابت پاسخ.
حقیقتش سوال اصلی من در مورد order مصرف حافظه برای شبکه های semantic segmentation مثل pspnet یا deeplab هستش. به این معنا که برای آموزش چنین شبکه هایی نیاز به چه میزان حافظه است. آیا داشتن یک کارت گرافیک 11G می تواند کافی باشد یا در چنین مواردی حتماْ نیاز به منابع بیشتری است.
پاسخی که شما فرمودید به صورت کلی صحیح است ولی برای کاربرد  semantic segmentation تصاویر با ابعاد کوچک، اطلاعات را از بین برده و دقت را کاهش می دهد. از طرفی از آنجا هدف بنده finetune هست، خیلی ساختار شبکه را نمی توانم دستکاری کنم.
لطفاْ اگر از دوستان کسی در زمنیه ی semantic segmentation تجربه ای دارد، راهنمایی کنید.

---

موضوع تز بنده semantic segmentation بوده با این مدل هایی هم که میگید کار کردم. بنده کارت 11 گیگ نداشتم. یه 8 گیگ داشتم و چند تا 16 گیگ. رو 8 کم میاورد ولی رو 16 اوکی بود.
با کم کردن ابعاد ورودی دقت افت میکنه ولی لازم نیست که معماری رو دست بزنید.
این شبکه ها چون از تصویر میان به ویژگی بعد دوباره میرن به تصویر سگمنت شده خیلی مموری میگیرن.
اگه براتون مقدوره 16 گیگ تهیه کنید.
اگه نیاز به توضیحات بیشتر داشتید - میتونید با بنده تماس بگیرید