AI 交互实验台 · 梯度优化

梯度下降:把坡度变成下一步

浏览器实际计算 · 先预测方向,再逐项核对一次更新。

起点、范围与语法

支持 + − * / ^、括号、sin cos tanh exp log sqrt abs、常数 pi / π / e。最多 240 字符,乘法必须写 *;例如 sin(x)*cos(y)+0.1*(x^2+y^2)。log 是自然对数。函数须在设置的域内有有限值。

范围 −100–100;上界须大于下界,起点须在域内。也可点击俯视图设置起点。编辑立即暂停;数值确认后应用全部当前输入,函数文字需点击“应用设置”或按 Enter。应用后清空旧轮。

当前函数值 f—
当前坡度 ‖g‖—
已提交更新—
候选位移 ‖Δ‖—

路径 · 等高线

点击设起点(清除 A) · 同一条细线上的函数值相同

地形 · 3D

证据 · 函数值变化

B 当前路径(实线) A 冻结路径(虚线)× 候选(提交前虚线) −g 与分量方向

单次计算 · 展开每一项代入与更新
① 计算两向坡度② 算位移与候选③ 提交参数

最近 12 次数值记录(图形替代)
更新 x y 当前 f
先预测,再解释

只把学习率缩小十倍,到相同函数值需要的次数是否增加十倍?换到狭长谷后还能使用原步长吗?

查看参考解释

位移并不只取决于学习率,还取决于当前位置坡度与优化器记忆。大步可能振荡,小步可能慢;坡度为零也可能是鞍点。用单步数值和路径解释变化,不能只看最后的分数。

实际计算与边界

浏览器中实际计算的微型优化实验;地形采样只是绘图。当前点、候选、运算与曲线共用同一份状态。

为何可能停止或找不到最优?

梯度在尖角可能不存在,在鞍点可能为零;本实验遇到不可导/非法梯度停止并提示。候选越出所设域时停止且保留原点,域是本实验范围,不是函数天然的边界。坡度范数小于 10⁻⁵ 只作为局部驻点停止条件。自定义函数的网格检查只能发现采样点上的问题,不能证明处处连续/可导。