ببرسی کاهش ابعاد در شبکه های عصبی عمیق

Question

با سلام.من میخواستم موضوعی برای پایان نامه انتخاب کنم که تا حدودی جدید باشه.
میخواستم بدونم آیا استفاده از روشهای مختلف کاهش ابعاد تاثیری در عملکرد شبکه های عصبی عمیق ( بخصوص باور عمیق ) داره ؟ ( در تشخیص سرطان سینه )
با تشکر.

Comments

علاوه بر جوابی که گرفتید و صحیح هم هست. برای کاهش ابعاد از deep auto encoder ها میتونید استفاده کنید و نتایج بهتری بگیرید.

Answer 1

سلام.اگه میخواید برای تشخیص سرطان سینه از تصاویر پزشکی مثل تصاویر ماموگرافی استفاده‌کنید پیشنهاد میکنم بجای شبکه باورعمیق از شبکه کانولوشن عمیق استفاده‌کنید و این شبکه ها خودشون کاهش بعد انجام‌میدن و نیاز ب استفاده از تکنیک های کاهش بعد درکنار شبکه های کانولوشن عمیق نیست(باتوجه به عملکرد خوب این شبکه ها) و حتی خود این شبکه رومیتونید برای مرحله feature extraction استفاده کنید.
حتی تو‌گروه تلگرام، آقای پزشکی به یکی از دوستان پیشنهاد کردن که بخاطراینکه دیگه خیلی کم از شبکه باور عمیق استفاده میشه بجای اون از شبکه های جدیدی مث spatial transformer networks استفاده کنن.
شبکه باورعمیق برای گفتار خیلی بهتر از تصویر جواب میده و پیشنهاد میکنم برا پردازش تصاویرتون از شبکه های دیگه ای غیر از باورعمیق استفاده کنید.اما تصمیم نهایی با خودشماست.موفق باشید

Comments

سلام.
برای ارجاع های آینده:  لکچر 13 ام آموزش دانشگاه استنفورد در مورد soft /hard attention و spatial transformer network ها بخوبی توضیح میده که دیدنش پیشنهاد میشه.

---

سلام و تشکر از پاسخی که دادین
در اصل دیتا ست ما تصویر نیست و داده هست (wbcd)
مقاله پایه ای هم که انتخاب شده از شبکه باور عمیق برای آموزش اولیه و از شبکه پس انتشار خطا برای تصحیح اون استفاده کرده و نتایج خوبی هم داشته.
تنها میخواستم ببینم برای بهبود نتایج میشه تو انتخاب ویژگی ها و ... از الگوریتمهای موجود مثل همین pca برای بهبود عملکرد استفاده کرد ؟
در مورد وارد کردن دیتا ست و استفاده از اون تو شبکه باور عمیق هم مشکلاتی داشتم که اگر مثال عملی باشه خیلی ممنون میشم.
با تشکر

---

سلام.خواهش میکنم
اگه لینکی از این مقاله پایه تون در اختیارمون بزارید بهتر میشه راهنمایی کرد.اما با توجه به گفته های شما و اینکه از باور عمیق برای pre-train استفاده شده،استفاده از الگوریتمهای کاهش بعد میتونه باعث بهبود دقت بشه.خود مقاله برای کاهش بعد از روش خاصی استفاده نکرده؟
اما در کل استفاده از روشها و الگوریتمهای کاهش بعد چه feature selection (مانند SBS,SFS) و چه feature extraction(مانند PCA,LDA)بخاطر حذف ویژگی های غیر مفید و کاهش ابعاد مسئله میتونه تاثیر زیادی دربهبود کارایی داشته باشه.
سوال آخرتون رو تاپیک جداگانه بیان کنید تا دوستانی که با شبکه باور عمیق کار کردن بتونن کمکتون کنن.
موفق باشید

---

سلام
بسیار تشکر میکنم که با حوصله جواب میدین.
دیتا ست : http://s2.picofile.com/file/8263457226/wbcd_m2.xlsx.html
مقاله پایه : http://s2.picofile.com/file/8263550684/Breast_cancer_classification_using_deep_belief_networks.pdf.html
دوتا کلاس خوش خیم و بد خیم در ستون دوم هست.ستون اول هم که ای دی هست .با 30 تا ویژگی
من تو نحوه ترین کردن این دیتا ست یا مشابه اون تو شبکه dbn مشکل دارم و به نوعی تازه کارم.

---

سلام.خواهش میکنم امیدوارم مشکل تون با این پاسخ ها حل بشه.
فقط یه نکته،با توجه ب دادگانی که اینجا گذاشتید و فایل مقاله تون باید بگم که طبق نوشته ی این  مقاله و مقاله(Akay,2009) که در متن مقاله تون ارجاع داده بود دادگانWBCD شامل ۹ ویژگی F1 تا F9 هست و دو کلاس خوش خیم و بد خیم،اما دادگانی که اینجا گذاشتید ۳۰ ویژگی داره،مطمئنید این دادگان رو از UCI دانلود کردید و درسته؟
ببینید طبق متن مقاله این سیستم CAD مرحله ی کاهش بعد نداشته و همین ۹ ویژگی رو بعنوان ورودی به شبکه باور عمیق و شبکه پس انتشار داده،و شما میتونید از الگوریتم های کاهش بعد استفاده کنید برای بهبود دقت این مقاله،هرچند دقت این مقاله خودش بالاست و ۹۹/۶۸ درصد هست و یکم کار شما را سخت میکنه.
تو این مقاله با توجه ب ضعف شبکه پس انتشار که گیر افتادن در بهینه های محلی است از شبکه باور عمیق برای مرحله پیش تعلیمpre-train  استفاده کرده که با بدست آوردن ماتریس وزن های اولیه از شبکه باور عمیق این مشکل شبکه پس انتشار رو حل کنه.
برای استفاده از دادگان تون هم باید بگم که: کد شبکه باور عمیق و پس انتشار در اینترنت موجود هست و دانلود کنید.دادگانتون رو دانلود کردید در مسیر جاری متلب کپی کنید و در محیط متلب اون رو import کنید،دقت کنید باید در کد مربوط به شبکه قسمتی که مربوط به لود کردن دادگان هست رو ویرایش کنید و مسیر دادگان خودتون رو جایگزین کنیدو اون خودش بعد از لود کردن طی مراحل آموزش ازش استفاده میکنه و شما کار خاصی نیاز نیست انجام بدید(مجدد پیشنهاد میکنم با دوستانی که با شبکه باور عمیق کار کردن حتما مشورت کنید در این‌مورد)
.....

---

سلام
درسته ولی استادمون گفتن اول روی همین دیتا ست تست کنین.
اگر لینک یا مستنداتی در  زمینه آموزش شبکه باور عمیق به صورت گام به گام و ساده موجود باشه بینهایت ممنون میشم .
با تشکر

---

داکیومنت تولباکس شبکه باور عمیق که توسط بچه های امیرکبیر این تولباکس ارائه شده رو مطالعه کنید.همچنین فیلم های آموزشی در اینترنت سرچ بزنید برای شبکه باور عمیق هست.
http://www.google.com/url?sa=t&source=web&cd=1&ved=0ahUKEwjos6rx0r3OAhUDsBQKHWqNC0EQFggbMAA&url=http%3A%2F%2Fceit.aut.ac.ir%2F~keyvanrad%2Fdownload%2FDeeBNet%2520Toolbox%2FDeeBNetPerDoc%2520v1.pdf&usg=AFQjCNFH9bCNbiDXZT4Er2Kq8igQa76FOw&sig2=KZuoYrj7knPySEeg1ga4ng

در ضمن با توجه به زیاد بودن تعداد ویژگی های این دادگان تون حتما کاهش بعد تاثیری خوبی روی دقت دسته بندی تون داره،فقط اول شبکه ها رو با همین ۳۰ ویژگی آموزش و تست کنید و سپس مراخل کاهش بعد اضافه کنید که نتیجه بهبود رو مشاهده کنید.
موفق باشید

---

سپاس فراوان.