梯度下降算法的更新方向是损失函数的负梯度方向，因为这样可以沿着函数下降最快的方向进行参数调整。