吴恩达深度学习第1课 2.5：导数

视频封面

视频元信息

标题：2.5 导数（Derivatives）
所属课程：吴恩达深度学习专项课程 · 神经网络与深度学习 · 第二周
时长：约 7 分钟
本视频定位：为深度学习中的反向传播打下微积分直觉基础

内容摘要（TL;DR）

本视频用最简单的线性函数 f(a) = 3a 讲解导数的直观含义：导数就是斜率。通过给自变量 a 一个微小增量（如 0.001），观察函数值 f(a) 的变化量，得出"函数值变化量是自变量变化量的 3 倍"，从而理解导数 = 高度 / 宽度。视频强调：学深度学习只需直觉理解导数即可，复杂的微积分会被封装进前向函数和反向函数中。

一、开场：为什么需要理解导数 [00:00]

学习建议

吴恩达在开场先安抚对微积分有恐惧心理的学习者：

很多人从大学毕业后就再没碰过微积分，看到公式容易产生畏难情绪。
核心建议：先看完视频，然后只要你能成功完成作业和编程作业，就足以应用深度学习。
在第四周课程中，会定义两类函数（前向函数 forward functions 和 反向函数 backward functions），把微积分相关的一切都封装进去，届时你就不需要再为微积分细节操心。

理解：这是吴恩达一贯的教学策略——先建立直觉，再封装工具。他并不要求你成为数学家，而是要求你理解"为什么这样做"，具体计算交给框架。

谁可以跳过本视频

如果你已经非常熟悉微积分和导数，可以跳过本视频。 但对于其他人，请继续往下看，建立对导数的直觉理解。

二、用线性函数建立导数直觉 [01:36]

案例设定：f(a) = 3a

视频绘制了函数 f(a) = 3a，这是一条直线。为建立导数的直觉，选取函数上的几个点来观察：

观察点 1：a = 2

当 a = 2 时，f(a) = 3 × 2 = 6。
现在给 a 一个微小的增量（nudge），把 a 从 2 增加到 2.001（向右移动 0.001）。
此时 f(a) = 3 × 2.001 = 6.003。
观察这个"小三角形"：宽度（自变量增量）= 0.001，高度（函数值增量）= 0.003。
结论：函数值的上升量是自变量增加量的 3 倍。

观察点 2：a = 5

当 a = 5 时，f(a) = 3 × 5 = 15。
给 a 增加 0.001 到 5.001，则 f(a) = 15.003。
同样地，函数值上升量是自变量增加量的 3 倍，斜率同样是 3。

核心结论

无论 a 取什么值，这个函数的斜率始终等于 3。 也就是说，无论 a 是多少，只要把它增加 0.001，f(a) 就会增加 3 倍于此的量。

推导：因为 f(a) = 3a 是线性函数，其图像是一条直线，直线上任意两点构成的"高度/宽度"比值恒定，所以斜率处处相等。

三、导数的定义与记号 [03:06]

导数 = 斜率

考点：导数（derivative）本质上就是斜率（slope）。 "导数"听起来吓人，但"斜率"是更友好的说法。每当你听到"导数"，就在脑中替换成"函数的斜率"。

斜率的正式定义：绿色小三角形的高度除以宽度。

在本例中即：0.003 / 0.001 = 3。

导数的数学记号

记号	含义
df(a)/da	函数 f(a) 关于 a 的导数
d/da · f(a)	同上，另一种写法

理解：两种写法等价，f(a) 放在分子上或写成 d/da 作用于 f(a) 都可以，不影响含义。

这个公式的含义：如果我把 a 向右微调一点点，那么 f(a) 的上升量将是 a 变化量的 3 倍。

四、导数的正式数学定义（拓展） [05:16]

视频中为了直观，用 0.001 这个"小量"来解释导数。但严格的数学定义中，这个增量要无限小（infinitesimal，无穷小）。

不是 0.001，不是 0.0001，而是比任何有限小量都更小、趋近于 0 的量。
正式定义：无论你给 a 一个多么微小的增量（趋近于无穷小），如果 f(a) 的上升量始终是这个增量的 3 倍，那么导数就等于 3。

理解：这就是微积分中极限（limit）思想的体现。数学上写作：

df/da = lim(Δa→0) [f(a+Δa) − f(a)] / Δa

推导：对于 f(a) = 3a，代入得 [3(a+Δa) − 3a] / Δa = 3Δa / Δa = 3，与 Δa 无关，所以极限恒为 3。

【拓展】为什么深度学习不要求严格的极限定义？

深度学习中的梯度下降、反向传播，本质是大量"微小扰动 → 观察变化"的工程化应用。
框架（如 PyTorch、TensorFlow）通过自动微分（automatic differentiation） 自动计算导数，你无需手推极限。
吴恩达在第四周讲的前向/反向函数，就是把"求导"这一步封装成可复用的模块（对应计算图与链式法则）。

五、本视频小结与下节预告 [06:54]

核心要点回顾

导数 = 斜率，是对"自变量微小变化引起函数值变化"的度量。
对于直线 f(a) = 3a，斜率处处为 3，即无论 a 取何值，斜率都不变。
直观验证方法：在函数图像上任意位置画小三角形，高度 / 宽度 的比值恒为 3:1。

下节预告

下一视频将看一个更复杂的例子，其中函数在不同点上的斜率（导数）可以不同——这正是非线性函数（如 sigmoid、ReLU 等激活函数）的关键特性，也是神经网络中梯度下降能"找到最低点"的根本原因。

思考：线性函数斜率恒定，意味着梯度下降时步长效果固定；而实际神经网络用的都是非线性激活函数，斜率随位置变化，这才需要"沿着梯度方向逐步逼近最小值"的策略。

关键标签 / 关键词

#深度学习 #吴恩达 #微积分 #导数 #斜率 #反向传播 #梯度下降 #神经网络基础 #前向函数 #反向函数 #自动微分 #机器学习数学基础

易错点与提醒汇总

易错点 1：把"导数"当成高深概念而畏惧——它只是斜率。

易错点 2：误以为所有函数斜率都恒定——只有线性函数才处处斜率相同，非线性函数斜率随点变化。

易错点 3：混淆"增量"与"导数"——0.001 是自变量的增量，3 才是导数（斜率）。

提醒：本视频的 0.001 只是教学用的近似，正式定义要求增量趋近于无穷小。