گرادیان نزولی (gradient descent)

گرادیان نزولی (gradient descent) یک الگوریتم بهینه سازی است که در شبکه های عصبی با کمک آن وزنهای سیناپسی تنظیم می شوند. به عبارتی با کمک گرادیان نزولی، شبکه های عصبی آموزش دیده و دانش لازم برای حل مئسله را بدست می آوردند. این الگوریتم با یک مقدار اولیه برای پارامتر بهینه سازی (وزنهای سیناپسی در شبکه های عصبی) شروع می‌کند، و براساس شیب خطا پارامتر بهینه سازی را تنظیم می‌کند. گردایان نزولی در طول تکرارهای مختلف، در جهت شبیب منفی خطا حرکت می‌کند تا به نقطه بهینه (saddle point) همگرا شود. جهت دسترسی به ادامه دوره به سایت زیر مراجعه کنید www.onlinebme.com

• #تحصیلات_و_یادگیری
• #گرادیان_نزولی
• #شبکه_عصبی
• #مسئله_بهینه_سازی
• #بهینه_سازی
• #gradient_descent