反向連結 · 局部最小值

梯度下降優化是一種用於求解目標函數最小化或最大化的數值[[優化算法]]。其核心思想是沿著目標函數[[梯度下降]]的相反方向，以固定或自適應的[[學習率]]逐步調整模型參數使函數值逐步逼近[[局部最小值]]甚至[[全域最小值]]。在[[機器學習]]中，常見的應用包括[[線性回歸]]與[[神經網路]]的訓練，通過計算[[損失函數]]相對於參數的梯度，並依據學習率