吴恩达深度学习第1课 2.2：逻辑回归

视频封面

视频元信息

课程：吴恩达深度学习专项课程（Deep Learning Specialization）
章节：第2周 2.2 逻辑回归（Logistic Regression）
时长：约 6 分钟
语言：官方中英双语字幕
备注：视频开头约 0–58 秒为片头/前情回顾，转录质量较差（存在语音识别错误），核心内容从 58.6 秒开始。

内容摘要（TL;DR）

本节介绍逻辑回归模型的基本形式：参数为权重向量 w 和偏置 b，输出 ŷ = σ(wᵀx + b)。重点说明为何不能直接用线性函数做二分类（输出可能超出 [0,1]），以及 Sigmoid 函数如何将任意实数映射到 (0,1) 区间作为概率估计。最后强调本课程将 w 和 b 分开表示，不采用 θ 与 x₀=1 的替代记号。

一、逻辑回归的参数与输出 [00:58]

逻辑回归模型的参数包括：

w：权重向量（weight vector），维度与输入特征 x 相同
b：偏置（bias），一个实数标量

给定输入 x 和参数 w、b，我们需要生成输出 ŷ。

理解：这与线性回归的参数形式一致，区别在于输出层的处理方式不同。

二、为什么不能直接用线性函数做二分类 [01:20]

一个直观但不可行的方案是：

ŷ = wᵀx + b

这本质上是输入的线性函数，在线性回归中是标准做法，但对于二分类问题并不合适。

易错点/核心原因：二分类中我们希望 ŷ 表示「y = 1 的概率」，因此 ŷ 必须落在 [0, 1] 区间内。而 wᵀx + b 的取值可以远大于 1，也可以是负数，无法约束在概率有效范围内。

因此，线性函数不能直接作为二分类的输出。

思考：这是从「回归」到「分类」的关键转折——输出需要具备概率语义，因此必须引入非线性映射。

三、Sigmoid 函数与逻辑回归输出 [02:02]

逻辑回归的输出定义为：

ŷ = σ(z)，其中 z = wᵀx + b

即对线性组合结果施加 Sigmoid 函数。

Sigmoid 函数的图像特征 [02:17]

横轴为 z，纵轴为 σ(z)
函数从 0 平滑上升到 1
当 z = 0 时，σ(z) = 0.5（曲线与纵轴交点）
值域为 (0, 1)

Sigmoid 函数的公式 [02:43]

σ(z) = 1 / (1 + e^(−z))

其中 z 为任意实数。

极限行为分析 [02:51]

条件	e^(−z) 的行为	σ(z) 的结果
z 非常大（正）	e^(−z) → 0	σ(z) ≈ 1/(1+0) ≈ 1
z 非常小（大负数）	e^(−z) → 很大	σ(z) ≈ 1/(很大的数) ≈ 0

考点：Sigmoid 函数将 (−∞, +∞) 映射到 (0, 1)，这正是它能作为概率输出的原因。z 越大越接近 1，z 越小越接近 0。

理解：Sigmoid 的平滑性和值域约束，使其成为二分类输出层的自然选择。这也是后续神经网络激活函数的雏形。

四、逻辑回归的学习目标 [04:03]

实现逻辑回归的核心任务是：

学习参数 w 和 b，使得 ŷ 成为「y = 1 的概率」的良好估计。

思考：这里体现了机器学习的一般范式——定义模型形式（σ(wᵀx+b)），然后通过优化参数使预测逼近真实标签的概率。

五、记号约定说明（重要） [04:19]

吴恩达特别说明了参数记号的两种约定：

本课程采用的约定

w 和 b 分开表示
b 对应偏置项

其他课程可能见到的约定 [04:35]

定义额外特征 x₀ = 1
此时 x ∈ ℝ^(nx+1)
定义 ŷ = σ(θᵀx)
参数向量 θ = [θ₀, θ₁, θ₂, ..., θnx]
- θ₀ 扮演 b 的角色
- θ₁ 到 θnx 扮演 w 的角色

提醒：本课程不采用 θ 与 x₀=1 的替代记号。如果你之前在其他课程见过这种写法，不用担心，只是记号不同；如果没见过，也完全不必在意。

理解：将 b 与 w 分开，在神经网络编程实现中更方便（如梯度更新、广播机制），这是工程实践上的选择。

六、本节小结与下节预告 [05:48]

本节已介绍逻辑回归模型的形式：ŷ = σ(wᵀx + b)
下一步需要定义代价函数（cost function），用于训练参数 w 和 b
代价函数将在下一节视频中讲解

关键标签/关键词

逻辑回归 Logistic Regression Sigmoid函数 二分类 Binary Classification 权重向量 偏置 参数记号 概率估计 吴恩达 深度学习 激活函数 代价函数 神经网络基础

拓展补充【拓展】

1. Sigmoid 函数的导数性质

σ'(z) = σ(z) · (1 − σ(z))

这一性质在反向传播中极为重要，因为导数可以用函数值本身表示，计算效率高。思考：这也是为什么 Sigmoid 在早期神经网络中被广泛使用的原因之一。

2. Sigmoid 的局限（后续课程会涉及）

梯度消失：当 z 很大或很小时，σ'(z) → 0，导致梯度更新缓慢
输出非零中心：可能影响收敛速度
因此在深层网络中，隐藏层常用 ReLU 替代 Sigmoid，但输出层做二分类时仍常用 Sigmoid

3. 逻辑回归与线性回归的本质区别

维度	线性回归	逻辑回归
任务	回归（连续值）	二分类（概率）
输出	wᵀx + b	σ(wᵀx + b)
值域	(−∞, +∞)	(0, 1)
损失函数	均方误差	交叉熵（下节讲解）