گرادیان کاهشی یا نزول گرادیان، هسته اصلی و مهمترین بخش در اغلب الگوریتمهای هوش مصنوعی به شمار می‌رود.

در این روش که یک نوع الگوریتم بهینه‌سازی به شمار می‌رود با تکرار گامهای متعدد به سمت میمنیمم تابعی پیش‌ می‌رویم که به آن تابع هزینه می‌گویند.

هرچند این روش در قرن 19 توسط کوشی، ریاضیدان معروف فرانسوی مطرح شده است، اما فرمها و افزونه‌های مختلفی برای این تکنیک ابداع شده است که مثلاً در یادگیری ماشین هدفهایی همچون پیشگیری از گیر افتادن در مینیمم موضعی و کاهش حجم محاسبات را دنبال می‌کنند.

آنچه می‌تواند به زیبایی اهمیت این الگوریتم را نمایان کند، تاکید روی این نکته است که آن چیزیکه تحت عنوان یادگرفتن برای ماشینها و ایجاد یک هوش در کامپیوتر مطرح می‌شود در این الگوریتم اتفاق می‌افتد.

​
می‌توان اینگونه گفت که اگر گونه‌های فعلی نزول گرادیان نبودند قطعاً پیشرفتهای هوش مصنوعی به این گستردگی اتفاق نمی‌افتاد.​