
视频元信息
- 课程:吴恩达深度学习专项课程(Deep Learning Specialization)
- 章节:2.6 更多导数示例(More Derivative Examples)
- 时长:约 10 分钟(视频结束于约 622 秒)
- 主题:通过多个函数示例,直观理解导数(斜率)随输入点变化而变化的概念
内容摘要(TL;DR)
本节通过 F(a)=a²、F(a)=a³、F(a)=log(a) 三个函数示例,演示导数(即斜率)在不同点取值不同的现象。核心结论:导数就是函数在某一点的斜率,且不同函数、不同点的斜率各不相同;查微积分教材公式表即可获得常见函数的导数公式。为下一节计算图与复杂函数求导做铺垫。
一、引言:为什么需要更复杂的导数示例 [00:00]
上一节示例中函数是直线,斜率处处相同。本节要展示斜率在不同点会发生变化的情况,这是理解神经网络中非线性函数求导的关键。
本节的核心目标:建立"导数 = 某一点的斜率"这一直觉,并理解斜率是"局部"概念。
理解:在深度学习中,损失函数几乎都是非线性的,其梯度在不同参数点取值不同,这正是梯度下降能"找到方向"的根本原因。
二、示例一:F(a) = a² 的导数 [00:08]
2.1 在 a = 2 处的斜率
- 取 a = 2,则 F(a) = 2² = 4
- 将 a 向右微调至 a = 2.001
- 计算得 F(a) ≈ 4.004(精确值为 4.004001,视频中取 4.004 近似)
- 即 a 增加 0.001,F(a) 增加 0.004,F(a) 的增量是 a 增量的 4 倍
结论:在 a = 2 处,导数(斜率)为 4。
用微积分记号表示: $$\frac{d}{da}F(a) = 4 \quad \text{当 } a = 2$$
易错点: 视频中的 x 轴与 y 轴并非等比例绘制,垂直高度在视觉上被压缩。不要用图上三角形的"视觉比例"去判断斜率,必须以数值计算为准。
2.2 在 a = 5 处的斜率
- 取 a = 5,则 F(a) = 25
- 微调至 a = 5.001,则 F(a) ≈ 25.010001
- 即 a 增加 0.001,F(a) 增加约 0.010,F(a) 的增量是 a 增量的 10 倍
结论:在 a = 5 处,导数(斜率)为 10。
2.3 斜率随点变化的直观解释 [02:37]
在不同位置画"小三角形",会发现三角形的高与宽之比差异很大:
- a = 2 处,斜率 = 4
- a = 5 处,斜率 = 10
理解:这就是"非线性"的含义——函数的局部变化率不是常数。曲线越"陡",斜率越大。
2.4 微积分公式验证 [03:00]
查微积分教材公式表可得: $$\frac{d}{da}a^2 = 2a$$
验证:
- a = 2 时,2a = 4 ✅ 与上面计算一致
- a = 5 时,2a = 10 ✅ 与上面计算一致
通用含义: 对任意 a,若将 a 微调一个极小量,F(a) 的增量 ≈ 导数 × a 的增量,即 2a × Δa。
三、关于近似与无穷小的说明 [04:17]
视频中使用了"≈"符号,因为 4.004 并非精确值,实际还有额外的 0.001 误差项。
- 误差来源: 我们微调 a 的幅度是 0.001,这是一个"小量",但不是无穷小量
- 导数的严格定义: 基于无穷小的微调量
- 若微调量趋于无穷小,则误差项消失,F(a) 的增量恰好等于 导数 × Δa
易错点: 导数是"瞬时变化率",是 Δa → 0 时的极限。用 0.001 这样的有限小量近似计算时,结果只是近似值,会残留高阶误差项。在数值计算(如数值梯度检验)中,这一点会直接影响精度。
思考:这也是数值梯度检验中常用双边差分(中心差分)而非单边差分的原因——单边差分的误差项是 O(Δa),而中心差分误差项是 O(Δa²),精度更高。
四、更多示例:F(a) = a³ [05:56]
4.1 公式
查微积分教材公式表: $$\frac{d}{da}a^3 = 3a^2$$
4.2 在 a = 2 处验证
- a = 2,F(a) = 2³ = 8
- 微调至 a = 2.001,F(a) ≈ 8.012(即 2.001³ ≈ 8.012)
- 导数公式预测:3 × 2² = 3 × 4 = 12
- 验证:a 增加 0.001,F(a) 增加 0.012,正好是 12 倍 ✅
结论:在 a = 2 处,F(a) = a³ 的导数为 12。
理解:a³ 在 a = 2 处比 a² 更"陡"(12 > 4),因为三次函数增长更快。
五、示例:F(a) = log(a)(自然对数) [07:09]
5.1 公式
视频中 log(a) 指以 e 为底的自然对数(有些书写为 ln(a)): $$\frac{d}{da}\log(a) = \frac{1}{a}$$
5.2 在 a = 2 处验证
- a = 2,F(a) = log(2) ≈ 0.69315
- 微调至 a = 2.001,F(a) ≈ 0.69365
- 增量 = 0.69365 − 0.69315 = 0.005
- 导数公式预测:1/a = 1/2 = 0.5,0.5 × 0.001 = 0.005 ✅
结论:在 a = 2 处,F(a) = log(a) 的导数为 0.5。
即:a 增加 0.001,log(a) 只增加一半(0.0005 的 10 倍 = 0.005)。
理解:log 函数增长非常缓慢,其斜率 1/a 随 a 增大而减小。a 越大,曲线越平缓,这与对数函数的图像特征一致。
拓展: 自然对数在深度学习中极为常见,例如交叉熵损失函数(Cross-Entropy Loss)中大量使用 log。其导数 1/a 的简洁形式使得反向传播中的梯度计算非常高效。
六、本节两大核心结论 [09:30]
结论一:导数就是函数的斜率
- 导数 = 函数在某一点的斜率
- 斜率可以随点的不同而变化
- 对比:
- 直线(如 F(a) = 3a):斜率处处相同
- 曲线(如 F(a) = a²、F(a) = log(a)):斜率随点变化
结论二:导数公式可以查表获得
- 打开微积分教材或查阅 Wikipedia,即可获得常见函数的导数公式
- 无需每次从头推导,记住常用公式即可
本节示例汇总表:
| 函数 F(a) | 导数 dF/da | a = 2 时斜率 | a = 5 时斜率 |
|---|---|---|---|
| a² | 2a | 4 | 10 |
| a³ | 3a² | 12 | 75 |
| log(a) | 1/a | 0.5 | 0.2 |
| 3a(上节) | 3 | 3 | 3 |
考点: 上述三个导数公式(2a、3a²、1/a)是深度学习反向传播推导的基础,必须熟练掌握。
七、承上启下:下一节预告 [10:20]
本节结束了对导数直觉的建立。下一节将进入计算图(Computation Graph),并学习如何用它来计算更复杂函数的导数——这是理解神经网络反向传播算法的关键一步。
思考:本节所有示例都是单变量标量函数。在神经网络中,函数是多元的(参数众多),需要用到偏导数与链式法则,而计算图正是系统化应用链式法则的工具。
关键标签 / 关键词
导数、斜率、微积分、a²、a³、log(a)、自然对数、瞬时变化率、无穷小、近似误差、计算图、反向传播、梯度下降、吴恩达、深度学习专项课程、数值梯度、链式法则
生成时间:2026-10-10 21:29:33 生成平台:VideoNote www.xygy.top