理解毕达哥拉斯距离与梯度(Gradient)

这个 勾股定理 展示了我们的距离概念有多奇怪。利用公式 $a^2 + b^2 = c^2$,我们可以用一些“a”换取更多的“b”。

开始于

\displaystyle{13^2 + 0^2 = 13^2}

意思是“一个13英寸的披萨等于一个13英寸的披萨”。当然。但我们可以用一个英寸来换取:

\displaystyle{12^2 + 5^2 = 13^2}

嗯?一个12英寸的披萨和一个5英寸的披萨等于一个13英寸的披萨?

数学上成立(144 + 25 = 169),但是,但是……我们放弃了一英寸,却得到了一个五英寸的披萨!

让我们理解为什么会有这种权衡,以及如何利用它。

解释1:削平方形

一个关键见解: 更大的数字更难平方.

Shaving the Square

想象在门廊上铺瓷砖——随着门廊变大,外层需要更多的瓷砖。将一个13x13的门廊修剪成12x12,会释放出25块瓷砖,足够铺出一个新的5x5门廊!

我把这称为“剃平方”。从大正方形的外侧修剪1个单位会有更多的“刨花”,这些刨花可以用来做一个更小的正方形(从巨大的卷发上修剪一英寸可以做一件婴儿毛衣)。随着我们继续修剪,收益递减,因为我们的起点越来越小。

解释2:滑动筷子

第二个见解: 轻微滑动,大幅旋转.

想象一根筷子卡在角落里:长度是固定的,筷子的两端必须碰到墙。有哪些选择?

嗯,放在单面墙上意味着某一侧为100%(比如 $13^2 + 0^2 = 13^2$)。没那么有趣。

通过滑动筷子(从13到12),我们可以将它摆动 输出 另一面墙上摆动5个单位!

pythagorean theorem slide sides

你需要试试——小小的滑动就能带来巨大的摆动。随着我们不断滑动,权衡(我们能得到多大的摆动?)也在变化。

那么权衡是什么?

现在来看看a/b权衡如何运作。首先,我们使用网格坐标:x和y(水平和垂直)。给定一个固定距离(比如说13个单位),我们的选择落在圆 $x^2 + y^2 = 13^2$ 上:

pythagorean theorem X-Y tradeoff

几个点:

  • 每种可能性的距离相同,但x与y的比例不同(100% x,100% y,或像(12,5)这样的混合)
  • 我们只能移动到圆上的相邻点(相同距离的选项)
  • 我们面临的权衡是,在移动到相邻点时,用“y”换取多少“x”。如果我们在(0,13),可以移动到(5,12)。这用1个y换取了5个x。

这是“粗粒度”权衡,一次使用一个完整单位。那么0.5个单位呢?0.01呢?

切线登场! 切线 显示了当前路径的轨迹,即指向相邻点的方向。我们沿着切线移动一个微小的量来得到下一个相邻点。切线是一种近似——它并不精确指向最近的相邻点,但非常接近。

切线显示了你即将做出的权衡。

实际数量是多少?任意点(x,y)的斜率为y/x,切线斜率为-x/y,所以权衡是……已经困惑了吗?

少一点死板的代数,多一点直觉:

  • 圆的切线垂直于当前点
  • 如果你在点(5,12),那么切线斜率是5和12的某个比值
  • 记住“削平方形”:在较小坐标的方向上你会得到更好的效果(增加一个大正方形是困难的)。
  • 所以,在(5,12)处你“侧重于y”,交易将倾向于改进你的x:应该是“用5个y换12个x”。为什么不反过来呢?y越多反而越容易得到y, 更简单 越容易得到y!那会螺旋式地进入指数增长,而不是一个圆。
  • 最后,我们不能交易整个5个y!切线是关于我们最近的邻居。我们有一个12/5或2.4比1的交易。我们的下一个微小移动将以这个比例进行(然后我们将到达一个新的点,有新的切线)。

一般原则:我们的相邻点位于圆上,这鼓励平衡。在较小坐标的方向上你会得到更好的交易:在(x,y)处,权衡为y:x。

优化权衡

现在我们知道了任意点(x,y)的权衡——让我们优化吧!

在单调的场景中,我们基于纯距离获得报酬,因此每个点(或移动方向)都是一样的。

激动人心的场景:我们的(x,y)位置是一个 输入 指向某个其他函数的输入,该函数会给我们回报!现在我们要最大化那个函数。

场景是这样的:大力水手(Popeye)扔汽车赚钱。他让观众站在朝北和朝东的围栏上。观众必须直视前方(由于之前的事件,他们戴着颈托),但如果他们看到汽车从面前经过,就会付钱给大力水手。

Popeye's show

最大化均匀收益

假设每个观众看到汽车会支付1美元(收益 Payout (x,y) = x + y)。该往哪里扔?

首先,假设大力水手能量有限——他只能把汽车扔出13米。现在我们从某个点开始:把汽车纯向北扔(0, 13):

\displaystyle{P(0,13) = 0 + 13 = 13}

好的。如果他稍微向东扔呢?比如扔到(5, 12)?

\displaystyle{P(5,12) = 5 + 12 = 17}

显然更好。这应该说得通:在(0,13)处,权衡是 很棒 为了获得更多的东向观众。我们可以放弃1个北向,换来整整5个东向,如果做这笔交易,我们就“赚”了\$4。只要交易有利可图,我们就应该继续——只要我们处于不平衡状态,圆就会奖励我们增加较小的一方。沿着45度角移动13个单位是最理想的:

\displaystyle{P(13 \cdot \frac{1}{\sqrt{2}}, 13 \cdot \frac{1}{\sqrt{2}}) = P(13 \cdot .707, 13 \cdot .707) = 9.2 + 9.2 = 18.4}

不错。45度抛射能命中每侧70.7%的潜在观众。

喂。对45度抛射如何穿过每侧70.7%的观众感到困惑?没问题。

45度抛射是沿着正方形的对角线。边长为1和1的三角形的斜边为:

\displaystyle{\sqrt{1^2 + 1^2} = \sqrt{2} = 1.414}

并且边长为$(1, 1, 1.414)$。

斜边为$\sqrt{2}$不方便:很难知道一条边占整体的比例。我们将三角形除以斜边长度($\sqrt{2}$),使斜边为1,其他边变为百分比:

\displaystyle{\text{Triangle with sides} = (\frac{1}{\sqrt{2}}, \frac{1}{\sqrt{2}}, \frac{\sqrt{2}}{\sqrt{2}}) = (.707, .707, 1)}

现在我们发现,45度抛射,边长为$(1, 1, \sqrt{2})$,比例是$.707, .707, 1$。沿斜边距离的70.7%会出现在每侧。

通用技巧:找到最佳方向

我们偶然发现了找到最佳回报的方法:

  • 选择任意起始点/方向
  • 调整它:如果我们的回报提高,保留新的选择(它是盈利的)
  • 持续调整直到我们的回报不再盈利

用数学术语说,这是“寻找局部最大值”。用经济学术语说,是寻找“边际收益为零”的点。大力水手称之为“挤菠菜”。

最大化不均匀回报

现在假设北向观众提供\$2(东向仍为\$1),因此P(x,y) = x + 2*y。我们应该100%向北抛吗?

\displaystyle{ P(0, 13) = 0 + 2 \cdot 13 = 26 }

不错。但再试试45度呢?

\displaystyle{P(9.2, 9.2) = 9.2 + 2 \cdot 9.2 = 27.6 }

有趣——45度仍然更好!但是……我觉得我们走过头了!既然北向报酬更高,我们不应该更偏向北向吗?

是的。让我们记住如何“挤菠菜”(最大化回报):从北向开始,不断调整直到无利可图:

  • 收益函数意味着1北=2东(北向支付2美元,因此1单位北=2单位东)
  • 如果我们能胜过1北换2东,交易就是盈利的(例如,1北换3东将盈利1美元)

那么……交易在何处 更好 比用1个北向换2个东向好?在北向区域,圆用东向观众奖励我们(“请,请往东走……如果你放弃一点北向,我会给你一大把东向”)。

还记得圆是关于x/y、x和y、x:y等的吗?现在我们有了数字1和2。(2,1)在东向区域。我们要的是(1,2)。为什么?在(1,2)处我们达到了完美的1北向=2东向的权衡。

沿着(1,2)方向移动13个单位是:

\displaystyle{P(13 \cdot \frac{1}{\sqrt{5}}, 13 \cdot \frac{2}{\sqrt{5}}) = P(5.81, 11.62) = 5.81 + 2 \cdot 11.62 = 29.05 }

哒哒!超过29块钱,因为我们最大化了回报。

梯度原理

我们可以让这个结果更强大:

为了最大化收益,按收益比例向每个方向前进。

如果北向与东向的报酬比是2:1,那么你的轨迹应该以2:1的比例偏向北向。用更数学化的术语说:

  • Payoff(x,y) = ax + by
  • 最佳轨迹 = (a, b) [在我们的例子中,(东, 北) => (1, 2)]

这在多维空间中同样适用!给定三维空间,沿着某个方向(Payoff(x), Payoff(y), Payoff(z))。向量微积分的爱好者们,这就是为什么 梯度(gradient) 指向最大增量的方向。

$F(x,y,z)$ 的梯度为

\displaystyle{(\frac{dF}{dx},\frac{dF}{dy},\frac{dF}{dz})}

每个偏导数(dF/dx)就是沿着该方向移动的收益。

但这一切是否平衡?假设在当前位置,x 收益为 3,y 收益为 4,z 收益为 5。二维权衡轨迹如下:

\displaystyle{ (x, y) = (3,4) } \displaystyle{ (y, z) = (4, 5) } \displaystyle{ (x, z) = (3, 5) }

神奇之处在于:组合轨迹

\displaystyle{(x,y,z) = (3,4,5)}

满足所有三个要求!在 x-z 平面上,x 不关心 y——只要与 z 的比例为 (3, ?, 5),你就从 x-z 角度获得了最佳权衡。这些配对是:

  • (3, ?, 5)
  • (?, 4, 5)
  • (3, 4, ?)

你不需要数独大师也能看出 (3, 4, 5) 满足所有这些比例。

还是不信?假设 y 的收益为零。我们不想在轨迹 (3, ?, 5) 中浪费能量在一个无用的方向上。但这不可能发生,因为 y-z 权衡会是 (?, 0, 5),而 x-y 权衡会是 (3, 0, ?)。x-z 权衡让 y-z 和 x-y 能“算出”y 应该是多少,即 0。

你可能也有的问题

问:我还是不明白这到底为什么有效。50%在x和50%在y怎么就得出了0.7+0.7=1.4?

这是一个关于 为什么 空间为何如此运作的深刻问题。我曾盯着墙上的筷子几乎发狂。

我的答案是:距离就是距离。13 个单位就是 13 个单位。但在某些情况下,我们是在“测量坐标”(x 和 y 的值)而 不是距离本身。

笛卡尔坐标(x 轴,y 轴)对于对角线运动非常低效(即你是在测量三角形的边,而不是斜边)。当 $0.707^2 + 0.707^2 = 1$ 时,这衡量了我们的 x 和 y 坐标有多“低效”。我们用每个坐标的 70% 来表示一个本来可以 100% 在一个坐标上的物体(例如,如果我们使用极坐标)。

问:我有一项海外投资回报200%,一项国内投资回报5%。我有1000美元——我应该分散投资吗?

天哪,绝对不!记住,这个原理是关于 网格上的距离测量 这样的想法:x 中 50% 和 y 中 50% 比 x 中 100% 覆盖“更多地盘”。在投资中,1)资金不在网格上,2)没有距离奖励。将一半资金投入每个投资只是简单的 0.5 + 0.5 = 1.0。放弃 1 美元的海外投资意味着获得 1 美元的国内投资。

把所有钱投到最好的投资上。

问:那么这一切都没用吗?

天哪,绝对不!问问自己:我是在坐标系上测量距离吗?

许多事物是用 x-y 坐标来测量的(物理现象等),并且 具有毕达哥拉斯距离权衡。

但并非每个图形都是相同的. 不涉及距离的图形(如“金钱 vs. 时间”)确实 从勾股定理中得到任何提升。这让我困惑了很长时间:勾股定理适用于坐标距离!

最终想法

勾股定理如此多才多艺——它不仅仅关于三角形,它涵盖了距离的本质。每当我研究它时,似乎都能找到新的领悟。真正理解它将帮助你无处不在,从几何到向量微积分。

数学愉快。

本系列其他文章

  1. 向量微积分:理解点积(Dot Product)
  2. 向量微积分:理解叉积(Cross Product)
  3. 向量微积分:理解通量(Flux)
  4. 向量微积分:理解散度(Divergence)
  5. 向量微积分:理解环流与旋度(Circulation and Curl)
  6. 向量微积分:理解梯度(Gradient)
  7. 理解毕达哥拉斯距离与梯度(Gradient)

主题参考

加入 45 万月度读者

喜欢这篇文章?还有更多内容能帮你建立持久、直观的数学理解。加入通讯以获取额外内容和最新更新。