به بخش پرسش و پاسخ یادگیری عمیق خوش آمدید,
این نسخه آزمایشی سایت است.
لطفا به نکات زیر توجه کنید:
  • برای ارتباط با مدیران میتوانید از صفحه مدیران اقدام کنید.
  • سوال و جواب ها باید به زبان فارسی باشند. استفاده از زبان انگلیسی یا فینگلیش برای پاسخ دادن مجاز نیست.
  • لطفا بعد از پرسش سوال لینک سوال خود را در گرو تلگرام (Iran Deep Learning Group) معرفی کنید تا سریعتر به جواب برسید. برای دسترسی به آخرین لینک از منابع یادگیری استفاده کنید
  • لطفا بجای عکس از متن استفاده کنید. اگر متون طولانی هستند از سایت pastebin.com برای اپلود استفاده کرده و لینک حاصل را در سوال خود قرار دهید. برای قرار دادن تصویر ، از بخش ارسال تصویر ادیتور سایت استفاده کنید.
  • بعد از دریافت پاسخ، بهترین پاسخ را از طریق کلیک بر روی علامت تیک انتخاب کنید
  • اگر با خطا و یا مشکلی مواجه شدید از بخش تماس با ما در انتهای صفحه و یا ایمیل Coderx7@gmail.com موضوع را اطلاع دهید.

با تشکر

دسته بندی ها

+1 امتیاز

با سلام
در روش گرادیان نزولی وقتی متوقف میشود که مشتق گرادیان تابع هدف صفر شود و در واقع به مینیمم محلی یا گلوبال برسیم . اگر به ماکزیمم محلی یا گلوبال برسیم مشتق نیز صفر میباشد در این حالت تکلیف چیه ؟

توسط (389 امتیاز)

2 پاسخ

+2 امتیاز
 
بهترین پاسخ

روش Gradient Descent در جهت خلاف شیب حرکت می کند به همین دلیل به سمت مینیمم محلی می رود و هیچگاه به سمت ماکزیمم محلی حرکت نمی‌کند. روشی که در جهت شیب حرکت میکند به سمت ماکزیمم محلی می رود و اصطلاحا به آن Gradient Ascent گفته می شود.

توسط (397 امتیاز)
انتخاب شده توسط
+2 امتیاز

سلام
مشتق صفر همیشه به معنای رسیدن به مینیمم محلی نیست. مشتق صفر یعنی جایی که شیب اون نقطه صفره.
saddle point ها هم مشتق صفر (و نزدیک به صفر دارن) . هرچند ممکنه یه saddle point نوعی مینیمم محلی هم بحساب بیاد(در این باره قبلا صحبت شده تو همین سایت یه سرچ کنید بحثای قبلی رو پیدا میکنید) ولی میخوام تصویر روشنی داشته باشید از این قضیه.
در مورد بحث ماکزیمم محلی و گلوبال محلی هم باید بگیم با فرمولی که ما داریم هیچوقت بطرف ماکزیمم محلی نمیریم . ببینید ما Gradient descent داریم و همینطور Gradient Ascent داریم . فرقشون در اینه که در گرادیان نزولی ما در خلاف جهت شیب پیش میریم. شیب یا مثبته یا منفی . شیب مثبت یعنی حرکت به سمت بالا و شیب منفی یعنی حرکت به سمت پایین .
در گردایان افزایشی ما دقیقا برعکس این قضیه عمل میکنیم.

توسط (4.3k امتیاز)
...