مرز بین عمیق و کم عمق بودن در شبکه های عصبی چیست؟

Question

با سلام
من می خواستم بدونم مرز بین شبکه های عصبی عمیق و کم عمق کجاست؟ در واقع آستانه ای که برای تعداد لایه ها یا سایر موارد تعریف می شود برای مشخص شدن عمیق بودن شبکه، چیست؟

بسیار ممنونم

Answer 1

سلام
قبل از باب شدن شبکه های عمیقی که میشناسیم. شبکه های عصبی دارای لایه ورودی - یک لایه مخفی - و لایه خروجی بودند. و امروزه با بکار گرفتن شبکه های با لایه مخفی بیش از یکی به شبکه های قدیمی shallow‌ می گویند. از طرف دیگه میتونیم بگیم که شبکه های عمیق دارای دو ویژگی هستند یکی اینکه تعداد لایه های زیادی دارند و دیگری اینکه دیتای زیادی برای آموزش اونها لازمه.
پ ن : در کل دلیل شهرت و محبوبیت شبکه های عمیق به خاطر بکار بردن تعداد لایه های زیاد نیست. این شبکه ها با توجه به معماریشون قدرت استخراج ویژگی را دارند که این امکان را میدهند که بتوان end-to-end‌ از آنها استفاده کرد.

Comments

سلام
خیلی ممنون از توضیحاتتون.
لطف کردید.
در جمله آخرتون منظورتون اینه که با توجه به وصل نشدن هر نورون به همه نورون های قبلی در این شبکه ها تعداد پارامترها قابل مدیریت هستند برای امکان استخراج ویژگی و حالا که در یک شبکه امکان استخراج ویژگی با کلاس بندی توام شده امکان آموزش end to end را داریم یا نه؟
متشکرم

---

سلام
end-to-end یعنی اینکه تمامی بخش های شبکه بطور همزمان طراحی (آموزش) داده می شود. ابتدا معماری که بطور کلی شامل feature extractor و classification  هستش طراحی میشود و به هم متصل شده و تمامی معماری یکجا آموزش داده می شود. بعبارت دیگر لازم نیست که بخش های مختلف شبکه جدای از شبکه طراحی شود (آموزش ببیند) و سپس سر هم شود.

---

بسیار ممنونم
لطف کردید