ابهام در لایه تماما متصل الکس نت

Question

سلام...ممنون میشم راهنمایی کنید...در معماری الکس لایه های تماما متصل اون عدد 4096 منظور چه هست؟ (6در6در256 خروجی ادغام به لایه تماما متصل است) ....4096 تا فیلتره که ویژگی های قبل از خودش رو به ترتیب به صورت بردار دراورده و یا 4096 تا نورون هست که به تمام ورودی های لایه قبل از خودش تمام متصل شده؟! وچرا ازش 2 تا استفاده شده؟ممنون

Answer 1

سلام
در لایه های تماما متصل شما تعداد نورون ها رو دارید (در لایه کانولوشن هم همینطوره منتها اونجا اشتراک وزن هست و فیلتر وزن اینجا فقط یک وزن هست به ازای هر نورون ) .
لایه تماما متصل در شبکه کانولوشن مثل نمونه شبکه عصبی چند لایه است فرقی ندارن .
اینکه چرا دوتا استفاده کردن معمولا در اون زمان ایده این بوده که شبکه کانولوشن بعنوان یک فیچر اکستکترو بهش نگاه میشده و بعد یک شبکه عصبی بعدش قرار میگیرفت . چیزی که از Lenet5 رایج شد و تا همین اواخر هم مرسوم بود (الان هم کم و بیش هست) .
اون رو مثل یک شبکه عصبی دو لایه ببینید شما .
اینکه چرا بیشتر نکردن چون اگر میکردن بحث سربار پردازشی رو باید تحمل میکردن و بالاتر از اون با مشکلات عمق بیشتر باید دست و پنجه نرم میکردن . مشکلات اموزش معماری های عمیق هنوز وجود داشت و عمیق تر کردن باعث میشد شبکه در اموزش با مشکل مواجه بشه تا همون لایه هم که اموزش دادن و به دقت مناسب رسیدن بعد یکی دو هفته براشون کافی بوده خصوصا که فاصله زیادی با قبل خودشون داشتن. دلیلی ندیدن بیشتر بکنن دردسرهای خودشون رو

Comments

سلام...سید جان شرمندم کردی...ممنونتم