توضیحاتی در رابطه با ماجول inception و بلوک residual (در معماری های GoogleNet و ResNet)

Question

سلام در مورد اين دو rensnet و inception معماري چيزي ميدونيد ؟ چجوريه ؟ خيلي جديد هستن گويا
ممنون ميشم اطلاعاتي اگه داريد بگيد.
مرسي

Answer 1

سلام . inception معماری نیست یه ماجول هست که در معماری گوگل نت معرفی شد.
چندان جدید نیستن مربوط به سال 2015 میشن. (رزنت اخرای سال بود که اومد)
در مورد Inception قبلا اینجا توضیح دادم .
در مورد ResNet هم باید بگم کاری که کردن این بود که برخلاف معماری های سابق که لایه ها پشت سر هم قرار میگیرفتن و همینطور عمیق میشدن اومدن از یه مفهموم بنام skip connection استفاده کردن. اونم چیزی نیست جز ارسال داده از لایه ما قبل به لایه بعدی. ایده هم این هست که در زمان آموزش لایه بعدی مفاهیم رو با توجه به اطلاعاتی که از لایه قبلیش میگیره فرامیگیره (یعنی دسترسیش به داده ورودی از منظره لایه قبل از خودشه) حالا کاری که اینها میکنن اینه الان علاوه بر اون داده ماقبل لایه زیرین رو هم به لایه بالایی ارائه میکنن و در نتیجه اطلاعات غنی تری در اختیار لایه بالایی قرار میگیره.
علاوه بر این نکته، با این کار گرادیان هم براحتی در شبکه های عمیق قابل انتقال هست. چون اینها داده ها رو از لایه قبل با لایه بعدش جمع میکردن و به لایه بالاتر میدادن موقع عملیات بک پراپگیشن گرادایان برای عمل جمع براحتی تقسیم میشه (یعنی گرادیان هرچی هست به یک اندازه از هر شاخته میگذره اینطور گرادیان بصورت خوبی به ابتدای شبکه منتقل میشه.
نکته دیگه این معماری استفاده از باتل نک هست که در گوگل نت هم برای برای جلوگیری از ازدیاد بیش از حد پارامترها استفاده شده.
تصاویر این بلاکها رو در زیر میتونید ببینید :
یک بلاک Residual :

این هم یک بلاک گلوگاه یا اصطلاحا همون bottleneck هست:

Comments

ممنونم از باسخگوييتون .
چجوري ميتونم از اين معماري استفاده كنم ؟ و چجوري بايد داده ها رو از ديتا ست وارد كنم ؟
سباس

---

سلام
استفاده اشون با بقیه معماری ها هیچ فرقی نداره . اگه از کفی استفاده میکنید کافیه فقط لایه data رو عوض کنید و لایه اخر که مربوط به دسته بندی هست (تعداد دسته های خودتون رو مشخص کنید) . بعد اماده اموزش هست.