视频封面

视频元信息

  • 课程:吴恩达深度学习专项课程(Deep Learning Specialization)
  • 章节:2.6 更多导数示例(More Derivative Examples)
  • 时长:约 10 分钟(视频结束于约 622 秒)
  • 主题:通过多个函数示例,直观理解导数(斜率)随输入点变化而变化的概念

内容摘要(TL;DR)

本节通过 F(a)=a²、F(a)=a³、F(a)=log(a) 三个函数示例,演示导数(即斜率)在不同点取值不同的现象。核心结论:导数就是函数在某一点的斜率,且不同函数、不同点的斜率各不相同;查微积分教材公式表即可获得常见函数的导数公式。为下一节计算图与复杂函数求导做铺垫。


一、引言:为什么需要更复杂的导数示例 [00:00]

上一节示例中函数是直线,斜率处处相同。本节要展示斜率在不同点会发生变化的情况,这是理解神经网络中非线性函数求导的关键。

本节的核心目标:建立"导数 = 某一点的斜率"这一直觉,并理解斜率是"局部"概念。

理解:在深度学习中,损失函数几乎都是非线性的,其梯度在不同参数点取值不同,这正是梯度下降能"找到方向"的根本原因。


二、示例一:F(a) = a² 的导数 [00:08]

2.1 在 a = 2 处的斜率

  • 取 a = 2,则 F(a) = 2² = 4
  • 将 a 向右微调至 a = 2.001
  • 计算得 F(a) ≈ 4.004(精确值为 4.004001,视频中取 4.004 近似)
  • 即 a 增加 0.001,F(a) 增加 0.004,F(a) 的增量是 a 增量的 4 倍

结论:在 a = 2 处,导数(斜率)为 4。

用微积分记号表示: $$\frac{d}{da}F(a) = 4 \quad \text{当 } a = 2$$

易错点: 视频中的 x 轴与 y 轴并非等比例绘制,垂直高度在视觉上被压缩。不要用图上三角形的"视觉比例"去判断斜率,必须以数值计算为准。

2.2 在 a = 5 处的斜率

  • 取 a = 5,则 F(a) = 25
  • 微调至 a = 5.001,则 F(a) ≈ 25.010001
  • 即 a 增加 0.001,F(a) 增加约 0.010,F(a) 的增量是 a 增量的 10 倍

结论:在 a = 5 处,导数(斜率)为 10。

2.3 斜率随点变化的直观解释 [02:37]

在不同位置画"小三角形",会发现三角形的高与宽之比差异很大:

  • a = 2 处,斜率 = 4
  • a = 5 处,斜率 = 10

理解:这就是"非线性"的含义——函数的局部变化率不是常数。曲线越"陡",斜率越大。

2.4 微积分公式验证 [03:00]

查微积分教材公式表可得: $$\frac{d}{da}a^2 = 2a$$

验证:

  • a = 2 时,2a = 4 ✅ 与上面计算一致
  • a = 5 时,2a = 10 ✅ 与上面计算一致

通用含义: 对任意 a,若将 a 微调一个极小量,F(a) 的增量 ≈ 导数 × a 的增量,即 2a × Δa。


三、关于近似与无穷小的说明 [04:17]

视频中使用了"≈"符号,因为 4.004 并非精确值,实际还有额外的 0.001 误差项。

  • 误差来源: 我们微调 a 的幅度是 0.001,这是一个"小量",但不是无穷小量
  • 导数的严格定义: 基于无穷小的微调量
  • 若微调量趋于无穷小,则误差项消失,F(a) 的增量恰好等于 导数 × Δa

易错点: 导数是"瞬时变化率",是 Δa → 0 时的极限。用 0.001 这样的有限小量近似计算时,结果只是近似值,会残留高阶误差项。在数值计算(如数值梯度检验)中,这一点会直接影响精度。

思考:这也是数值梯度检验中常用双边差分(中心差分)而非单边差分的原因——单边差分的误差项是 O(Δa),而中心差分误差项是 O(Δa²),精度更高。


四、更多示例:F(a) = a³ [05:56]

4.1 公式

查微积分教材公式表: $$\frac{d}{da}a^3 = 3a^2$$

4.2 在 a = 2 处验证

  • a = 2,F(a) = 2³ = 8
  • 微调至 a = 2.001,F(a) ≈ 8.012(即 2.001³ ≈ 8.012)
  • 导数公式预测:3 × 2² = 3 × 4 = 12
  • 验证:a 增加 0.001,F(a) 增加 0.012,正好是 12 倍 ✅

结论:在 a = 2 处,F(a) = a³ 的导数为 12。

理解:a³ 在 a = 2 处比 a² 更"陡"(12 > 4),因为三次函数增长更快。


五、示例:F(a) = log(a)(自然对数) [07:09]

5.1 公式

视频中 log(a) 指以 e 为底的自然对数(有些书写为 ln(a)): $$\frac{d}{da}\log(a) = \frac{1}{a}$$

5.2 在 a = 2 处验证

  • a = 2,F(a) = log(2) ≈ 0.69315
  • 微调至 a = 2.001,F(a) ≈ 0.69365
  • 增量 = 0.69365 − 0.69315 = 0.005
  • 导数公式预测:1/a = 1/2 = 0.5,0.5 × 0.001 = 0.005 ✅

结论:在 a = 2 处,F(a) = log(a) 的导数为 0.5。

即:a 增加 0.001,log(a) 只增加一半(0.0005 的 10 倍 = 0.005)。

理解:log 函数增长非常缓慢,其斜率 1/a 随 a 增大而减小。a 越大,曲线越平缓,这与对数函数的图像特征一致。

拓展: 自然对数在深度学习中极为常见,例如交叉熵损失函数(Cross-Entropy Loss)中大量使用 log。其导数 1/a 的简洁形式使得反向传播中的梯度计算非常高效。


六、本节两大核心结论 [09:30]

结论一:导数就是函数的斜率

  • 导数 = 函数在某一点的斜率
  • 斜率可以随点的不同而变化
  • 对比:
    • 直线(如 F(a) = 3a):斜率处处相同
    • 曲线(如 F(a) = a²、F(a) = log(a)):斜率随点变化

结论二:导数公式可以查表获得

  • 打开微积分教材或查阅 Wikipedia,即可获得常见函数的导数公式
  • 无需每次从头推导,记住常用公式即可

本节示例汇总表:

函数 F(a) 导数 dF/da a = 2 时斜率 a = 5 时斜率
a² 2a 4 10
a³ 3a² 12 75
log(a) 1/a 0.5 0.2
3a(上节) 3 3 3

考点: 上述三个导数公式(2a、3a²、1/a)是深度学习反向传播推导的基础,必须熟练掌握。


七、承上启下:下一节预告 [10:20]

本节结束了对导数直觉的建立。下一节将进入计算图(Computation Graph),并学习如何用它来计算更复杂函数的导数——这是理解神经网络反向传播算法的关键一步。

思考:本节所有示例都是单变量标量函数。在神经网络中,函数是多元的(参数众多),需要用到偏导数与链式法则,而计算图正是系统化应用链式法则的工具。


关键标签 / 关键词

导数、斜率、微积分、a²、a³、log(a)、自然对数、瞬时变化率、无穷小、近似误差、计算图、反向传播、梯度下降、吴恩达、深度学习专项课程、数值梯度、链式法则


生成时间:2026-10-10 21:29:33 生成平台:VideoNote www.xygy.top