به بخش پرسش و پاسخ یادگیری عمیق خوش آمدید,
این نسخه آزمایشی سایت است.
لطفا به نکات زیر توجه کنید:
  • برای ارتباط با مدیران میتوانید از صفحه مدیران اقدام کنید.
  • سوال و جواب ها باید به زبان فارسی باشند. استفاده از زبان انگلیسی یا فینگلیش برای پاسخ دادن مجاز نیست.
  • لطفا بعد از پرسش سوال لینک سوال خود را در گرو تلگرام (Iran Deep Learning Group) معرفی کنید تا سریعتر به جواب برسید. برای دسترسی به آخرین لینک از منابع یادگیری استفاده کنید
  • لطفا بجای عکس از متن استفاده کنید. اگر متون طولانی هستند از سایت pastebin.com برای اپلود استفاده کرده و لینک حاصل را در سوال خود قرار دهید. برای قرار دادن تصویر ، از بخش ارسال تصویر ادیتور سایت استفاده کنید.
  • بعد از دریافت پاسخ، بهترین پاسخ را از طریق کلیک بر روی علامت تیک انتخاب کنید
  • اگر با خطا و یا مشکلی مواجه شدید از بخش تماس با ما در انتهای صفحه و یا ایمیل Coderx7@gmail.com موضوع را اطلاع دهید.

با تشکر

دسته بندی ها

0 امتیاز

سلام.وقت به خیر.ایا شبکه ی کانولوشن میتونه شبیه به اتفاقی که در فرایند recall مغز در موقع تجربه یک event (مثله دیدن یک تصویر) رخ میده,عمل بکنه؟

توسط (121 امتیاز)
کمی بیشتر توضیح بدید تا بشه راهنمایی کرد. سوال خیلی گنگه
بسیار خوب.تا جایی که من متوجه شدم کاری که شبکه ی کانولوشن با تصاویر انجام میده با اتفاقی که موقع دیدن یه تصویر تو مغز اتفاق می افته یه سری تفاوت ها و شباهت هایی داره.از جمله اینکه شبکه ی کانولوشن برای فشرده سازی تصاویر تو استیج های مختلف میاد و از لایه ی pooling استفاده میکنه که این اتفاق توی مغز به جای اینکه تو سطوح مختلف اتفاق بیفته فقط در سطح سلول های گانگلیونی اتفاق میافته...یا اینکه تو شبکه ی کانولوشن تو لایه ی تماملا متصل ویزگی های استخراج شده از استیج ها میان و و با هم merge میشن که این اتفاق شبیه به اتفاقیه که توی ناحیه ی کورتکس بینایی مغز اتفاق می افته.تا اینجا رو درست متوجه شدم؟
من سیستم بینایی رو واردش نشدم که دقیق بخوام یه شباهت/تفاوت یک به یک براش مشخص کنم . در حد اطلاعاتی که در مقالات اصلی تو این زمینه داده شده اطلاعات دارم .
اما در مورد pooling و لایه تماما متصل باید بگم که پولینگ برای مدلسازی چیزی در مغز ایجاد نشده مهمترین کاری که پولینک براش ایجاد شد کاهش ابعاد بود برای کاهش سربار پردازشی که البته ماحصل اون هم یکسری نتایج خوب رو به همراه داشت مثل translation invariance که با مکس پولینگ بدست میومد.  در مورد لایه های تماما متصل هم ایده اصلی دسته بندی بوده و تقریبا قرار دادن یه شبکه mlp در انتهای شبکه که ویژگی ها رو دریافت میکرد از مرحله قبل (شبکه کانولوشن بعنوان یه فیچر لرنر/اکسترکتور در نظر گرفته میشد) و بعد دسته بندی و الخ.
داستان شبکه های کانولوشن از مقاله ویزل و هوبل اومد و نکاتی که اونجا برجسته شد باعث ایجاد این معماری و قبل از اون معماری نئوکاگنیترون (پدر شبکه کانولوشن) شد. اگه اون سری مقاله ها که مربوط به سال 52 تا 62 میلادی هست رو مطالعه کنید یا مقاله نئوکاگنیترون فوکوشیما که سال 82 فکر میکنم اومد قطعا اطلاعات بیشتری بدست میارید از اینکه کلا شبکه کانولوشن بدنبال مدلسازی چه چیزهایی بوده.
و این مدلسازی بیشتر کلی بود و به صورت یک به یک این فرایند مدل نشده . یکسری کارها هم که انجام شد بعنوان مثال برای مدلسازی فراینده های یکسان نتایج خوبی نداشتن مثل local contrast normalization که موقع الکس نت معرفی شد برای ایجاد همون طرح بازداری که در مغز هست اما عملا تاثیری نداشت و امروزه استفاده نمیشه.
به نظرم «دیدگاه» حسین یه پاسخ خیلی مناسب برای پرسش شما هستش. تنها موردی که می تونم اضافه کنم این هست که شبکه های کانولوشن تقلیدی خیلی متفاوت(!) از ساختار مغز هستن و تقریبا از اولین کار آقای لیکان به بعد پژوهشگرها خیلی مقید به تقلید ساختار از مغز نبودن و به دنبال بهینه کردن بازدهی معماری ها بودن. برای مثال کی از موارد تفاوت رو می شه به علاقه به تنک (Sparse) بودن نورون ها در شبکه های عصبی کامپیوتری در برابر فعال بودن و Firing در شبکه های عصبی مغز هستش (طبق بحثی که در یک نشست نئوروساینسی مطرح شده بود)
بسیار متشکرم جناب مهندس از بابت پاسخ.به نظر می رسه ایده ای که پشت هر کدوم از لایه های شبکه ی کانولوشن هست برگرفته از فرایندهای مغزی هستش منتها به یه سبک و سیاق دیگه.سوال اصلی من در مورد یکی از همین فرایندهاست. وقتی ما یه تصویر از یه جسم میبینیم این تصویر در مکان های مختلف یک رپرزنتیشن داره.تو شبکیه رپرزنتیشن از نوع نوری برا فعال سازی گیرنده های Rode و Cone  و بعد از اون تو سطح سلول های گانگلوینی یه رپرزنتیشن داریم که فقط به لبه ها پاسخ میده و نتیجه ی اون به فشرده سازی تصاوی می انجامه.این بازنمایی ها در قسمت های دیگه مثه تالاموس و V1 . ...اتفاق میافته.تو مدل مسکوویچ ما داریم که تو هر محلی که بازنمایی اتفاق میافاه تو همون محل اطلاعات مربوط به اون بازنمایی ذخیره میشه و به MTL (مدیال تمپورال کورتکس) فرستاده میشه.در این حالت وقتی ما یه اتفاق رو تجربه میکنیم(مثه دیدن یه قسمت از یک شی که قبلا دیده ایم)اتفاقی که میافته اینه که به دلیل این شیوه ی سیم کشی مغز(مابین مکانهایی که تصویر در اونها بازنمایی میشه با مدیال تمپورال کورتکس و همچنین کورتکس ویزوال)ما با یه درصد بالایی میتونیم حدس بزنیم اون شی چی هستش.سوال من این بود ایا تو این حوزه کاری انجام گرفته و ایا با توجه به پیشرفت های سخت افزاری که داریم امکان انجام چنین سیم کشی با استفاده از لایه های شبکه ی کانولوشن رو داریم؟
ببینید در شبکه کانولوشن در لایه های کم عمق و سطح پایین نزدیک به ویژگی خام (تصویر ورودی که بازنمایی نوری از جهان واقع هستش)‌ فیلترهای شبکه به لبه ها حساس هستند و لبه ها را بازنمایی می کنند. در لایه های عمیق تر ترکیب این بازنمایی های سطح پایین بازنمایی شده و مفاهیم سطح بالاتری چون اشیا درک می‌شوند. و در نهایت به لایه هایی می رسیم که به بازنمایی های دریافتی سطح بالا آشنا هستند و مفهوم و شی و ... را برای ما بازشناسی می کنند. شاید بشه این مدل کاری کانولوشن را کمی مشابه مدلی که شما فرمودین در نظر گرفت (ارسال بازنمایی ها به ناحیه ای که به آنها شناخت و آگاهی دارند)
در مورد پرسش شما در مورد امکان پیاده سازی این موارد بر روی سخت افزارها هم کارهایی توسط تیم های نئوروساینسی  جهت شبیه سازی این موارد در حال انجام هست ولی تا جایی که اطلاع دارم هنوز فاصله تا شبیه سازی «واقعی» و «دقیق» مغز زیاد هستش.
در مورد امکان پیاده سازی فعالیت مغزی اتفاقا یکی از دوستان در گروه تلگرام یه مطلب در همین باره قرار دادن که چهارمین ابررایانه دنیا با 1 و نیم میلیون گیگابایت رم و 705 هزار هسته ، 40 دقیقه طول میکشه تا یک ثانیه فعالیت مغزی انسان رو شبیه سازی کنه! دقت هم دارید که نورون هایی که ما استفاده میکنیم و این همه شگفتی به بار اورده ساده ترین بازسازی از نورون عصبی موجود درمغز انسان هست! حالا شما در نظربگیرید همون پیچیدگی بخواد لحاظ بشه دیگه غیرقابل تصوره .
در مورد اینکه تو این حوزه کاری صورت گرفته یا خیر بله اگه سرچ کنید قطعا نتایج مختلفی میبینید اما تو حوزه ما فعلا بازخوردی نداشتن . بین فهمیدن یک موضوع و پیدا کردن بهترین راه برای مدل کردن اون در کامپیوتر خیلی تفاوت و راه هست .به همین خاطر هم نئوکاگنیترون هیچوقت نتونست مثل شبکه کانولوشن موفقیت کسب کنه .
ممنون ار پاسختون. بله.کاملا درست میفرمایید.و به خاطر همین ویزگی شبکه های کانولوشن بود که گفتم با ساز و کار فرایندهای مغزی بی شباهت نیست منتها با یه سری تفاوت ها.جسارتا ایا امکان دسترسی به این گروه نوروساینسی وجود داره؟
بسیار ممنونم.هدف من بیشتر گرفتن ایده از چگونگی انجام این فرایند ها در مغز  برا مسایلی مثله recall هستش نه چیادع سازی کل ساختار مغزی.مقالاتی دیدم که به نوعی پتانسیل پیاده سازی همچین عملکردی رو داشتن  که از پردازنده های خاصی با چیدمان خاص(مثلا برا هر استیج از یک  پردازنده ی جداگانه استفاده میکرد و چندین استیج رو پیاده سازی کرده بودند)استفاده میکردند منتها برای recognition.

لطفا وارد شده یا عضو شوید تا بتوانید سوال بپرسید

...