写在最前
这个是 2026-2027-fi 计算机基础的 第三节课 总结。
来源：P3-for reference.pptx
参考教材：《Python语言程序设计基础（第三版）》
本文件按原课件的章节标题和内容归纳结构，并标注与教材知识点的对应关系，未修改原 PPT。PPT 页码指 PowerPoint 中从 1 开始的幻灯片顺序；教材页码指书本正文印刷页码，不等同于 PDF 阅读器显示的文件页序。
本课件讲授机器学习概念和线性回归，而教材主要讲 Python 程序设计。因此，下文将对应关系分为“直接对应”“编程基础支撑”和“教材未覆盖”，不把机器学习算法与 Python 语法章节强行等同。
一、整体结构
原课件共 55 页。第 1 页为封面，第 2–3 页为全套机器学习课程目录；本文件实际正文只展开第 1 章和第 2 章。为便于查找与复习，将内容归纳为以下 7 个模块。
| 模块 | 原课件页码 | 页数 | 原课件章节 | 内容范围 |
|---|---|---|---|---|
| 封面与总目录 | 1–3 | 3 | 全套课程目录 | 人工智能、机器学习及后续章节总览 |
| 1. 机器学习概览与应用 | 4–10 | 7 | Chapter 1 | 应用场景、AI/ML/深度学习关系、机器学习定义 |
| 2. 学习类型与典型任务 | 11–18 | 8 | Chapter 1 | 监督学习、无监督学习、强化学习、回归、分类、聚类等 |
| 3. 一元线性回归基础 | 19–26 | 8 | Chapter 2 | 训练集、特征、目标、模型、参数、预测值与真实值 |
| 4. 平方误差代价函数 | 27–33 | 7 | Chapter 2 | 平方误差、参数与代价的关系、曲线、曲面和等高线 |
| 5. 梯度下降 | 34–41 | 8 | Chapter 2 | 迭代更新、导数、学习率、局部最小值、批量梯度下降 |
| 6. 多特征回归与特征缩放 | 42–53 | 12 | Chapter 2 | 多变量模型、尺度差异、均值归一化、Z-score、收敛诊断 |
| 7. 特征工程与多项式回归 | 54–55 | 2 | Chapter 2 | 组合原始特征、构造高次特征、非线性曲线拟合 |
二、分节索引
封面与总目录（第 1–3 页）
| 页码 | 内容要点 |
|---|---|
| 1 | 主题封面：Artificial Intelligence / Machine Learning |
| 2 | 机器学习概览及监督学习算法目录 |
| 3 | 模型诊断、性能调优和机器学习开发流程目录 |
第 2–3 页是全套课程目录，并不代表其中所有章节都包含在本文件中。
模块 1：机器学习概览与应用（第 4–10 页）
| 页码 | 内容要点 |
|---|---|
| 4 | Chapter 1 标题页：Machine Learning Overview |
| 5–7 | 网页搜索、语音识别、垃圾邮件分类和行业应用 |
| 8 | 人工智能、机器学习、深度学习的包含关系 |
| 9 | 最短路径、搜索、语音识别和自动驾驶等应用示例 |
| 10 | Arthur Samuel 对机器学习的经典定义 |
这一模块先用应用建立直观认识，再说明机器学习是人工智能的一部分，深度学习又属于机器学习。
模块 2：学习类型与典型任务（第 11–18 页）
| 页码 | 内容要点 |
|---|---|
| 11 | 机器学习分为监督学习、无监督学习和强化学习；监督学习包括回归与分类 |
| 12 | 监督学习通过带标签的数据学习输入 x 到输出 y 的关系 |
| 13–14 | 房价预测作为回归示例；回归输出连续数值 |
| 15 | 猫狗识别作为分类示例；分类输出有限类别，并学习决策边界 |
| 16 | 监督学习与无监督学习的区别：是否提供正确标签 |
| 17 | 客户数据聚类示例 |
| 18 | 无监督学习的常见任务：聚类、降维、异常检测 |
复习时应先区分“是否有标签”，再区分监督学习中的“预测数值”和“预测类别”。
模块 3：一元线性回归基础（第 19–26 页）
| 页码 | 内容要点 |
|---|---|
| 19 | Chapter 2 标题页：Linear Regression Model |
| 20 | 用房屋面积预测价格，线性回归通过直线拟合带标签数据 |
| 21 | 术语：训练数据、输入特征 x、目标 y、样本数 m、第 i 个样本 |
| 22 | 训练集进入学习算法得到函数 f；模型根据输入产生预测值 ŷ |
| 23 | 一元线性回归只有一个输入特征 |
| 24 | 模型 f(x)=wx+b；w、b 是训练时需要调整的参数 |
| 25 | 不同 w、b 对直线斜率和截距的影响 |
| 26 | 预测值 ŷ 与真实值 y 的比较 |
这部分建立线性回归的基本符号系统。x 和 y 是数据，w 和 b 是模型参数，ŷ 是模型给出的预测。
模块 4：平方误差代价函数（第 27–33 页）
| 页码 | 内容要点 |
|---|---|
| 27 | 平方误差代价函数，用于衡量模型与训练数据的拟合程度 |
| 28 | 暂时令 b=0，把目标简化为最小化 J(w) |
| 29–31 | 分别计算 w=1、w=0.5、w=0 时的预测误差和代价 |
| 32 | 参数 w 与代价 J(w) 的关系，目标是找到代价最低点 |
| 33 | 同时考虑 w、b 时的代价曲面和等高线图 |
代价函数不是单个样本的误差，而是汇总训练集中全部样本误差后得到的模型评价指标。
模块 5：梯度下降（第 34–41 页）
| 页码 | 内容要点 |
|---|---|
| 34 | 在代价曲面上寻找下降方向和最低点 |
| 35 | 梯度下降更新公式；学习率 α 与导数；w、b 必须同步更新 |
| 36 | 导数为正或负时参数更新方向不同 |
| 37 | 学习率过小导致收敛慢，过大可能越过最低点甚至发散 |
| 38 | 到达局部最低点时导数为 0，参数不再变化 |
| 39 | 接近最低点时导数和更新步长逐渐减小 |
| 40 | 线性回归、平方误差和批量梯度下降公式汇总 |
| 41 | 线性回归平方误差代价函数为凸函数，存在单一全局最低点 |
梯度下降是迭代算法：先计算当前位置的梯度，再按学习率更新参数，重复直到代价函数收敛。
模块 6：多特征回归与特征缩放（第 42–53 页）
| 页码 | 内容要点 |
|---|---|
| 42–43 | 从单一特征扩展到多个特征；特征下标、样本下标和多变量模型 |
| 44 | 房屋面积和卧室数量的特征值、参数值及一次预测计算 |
| 45–46 | 特征尺度差异会造成参数尺度差异，并影响梯度下降路径 |
| 47 | 按最大值缩放，使不同特征进入相近数值范围 |
| 48 | 均值归一化 |
| 49 | Z-score 标准化，使用均值和标准差 |
| 50 | 判断缩放后特征范围是否合适 |
| 51 | 用每次迭代的代价曲线检查梯度下降是否收敛 |
| 52 | 代价上升或振荡通常提示代码错误或学习率过大 |
| 53 | 按数量级尝试学习率，并在相邻数量级之间增加候选值 |
这一模块把数据预处理与优化过程联系起来：合适的特征尺度可以让梯度下降更快、更稳定。
模块 7：特征工程与多项式回归（第 54–55 页）
| 页码 | 内容要点 |
|---|---|
| 54 | 特征工程：变换或组合原始特征，例如由长和宽构造面积 |
| 55 | 多项式回归：加入 x²、x³ 等高次特征拟合曲线，并注意特征缩放 |
多项式回归仍可写成参数与特征的线性组合；非线性来自对原始输入进行平方、立方等变换。
三、PPT 知识点与教材对应
| PPT 页码 | PPT 知识点 | 教材对应章节 | 教材印刷页码 | 对应层级与说明 |
|---|---|---|---|---|
| 5–10 | AI、机器学习和深度学习的应用与定义 | 附录 B.1 大语言模型概述 | 377–378 | 部分相关。教材只在大语言模型附录中涉及 AI，不系统介绍机器学习 |
| 11–18 | 监督学习、无监督学习、强化学习、回归、分类、聚类、降维、异常检测 | 附录 C 数据处理和挖掘（数字版） | 395 | 主题直接相关。附录学习目标明确列出聚类、分类、回归和机器学习基本概念，但详细内容需通过二维码阅读，不在当前 PDF 中 |
| 20–21 | 训练样本、输入特征、目标值和样本数量 | 6.2 列表类型；7.4 一维数据格式化；7.5 二维数据格式化 | 205–210、248–253 | 编程基础支撑。教材讲数据如何用序列和二维结构表示，但不讲训练集术语 |
| 22–24 | 输入经过函数得到预测；f(x)=wx+b；参数 w、b |
2.2.3 变量和保留字；2.2.4 表达式和赋值语句；5.1–5.2 函数定义与调用 | 53–56、164–170 | 编程基础支撑。变量、表达式和函数可直接用于实现模型公式 |
| 25–26 | 改变参数并比较预测值与真实值 | 3.1 数字类型；3.2 数字运算 | 84–95 | 编程基础支撑。数值类型和算术运算对应公式计算 |
| 27–33 | 平方误差、求和、平均和代价函数 | 3.2 数字运算；4.4 循环结构；5.1 函数定义；6.2 列表类型 | 91–95、144–148、164–167、205–210 | 编程基础支撑。可用循环或列表处理多个样本，并把代价计算封装为函数；平方误差理论未在教材讲解 |
| 34–41 | 梯度下降、学习率、导数、同步更新、凸函数 | 2.2.4 表达式和赋值语句；4.4.2 while 循环；5.2.3 函数执行过程 |
55–56、146、169–170 | 算法实现基础。循环和赋值支持迭代更新，梯度下降及微积分内容由 PPT 提供 |
| 42–44 | 多特征、特征向量和多变量模型 | 6.2 列表类型；6.4 元组类型；7.5 二维数据格式化 | 205–215、251–253 | 编程基础支撑。列表、元组和二维数据可表示样本与特征矩阵 |
| 45–50 | 特征尺度、最大值缩放、均值归一化、Z-score 标准化 | 3.2 数字运算；5.1 函数定义；6.2 列表操作；7.4–7.5 数据格式化 | 91–95、164–167、205–210、248–253 | 编程基础支撑。教材提供运算与批量数据处理基础，不讲标准化在机器学习中的作用 |
| 51–53 | 代价曲线、收敛判断、学习率选择 | 4.1 分支结构；4.4 循环结构 | 130–133、144–148 | 算法实现基础。可用条件与循环实现停止规则和参数试验，诊断原则由 PPT 提供 |
| 54–55 | 特征工程和多项式回归 | 2.2.4 表达式和赋值语句；3.2 数字运算；5.1 函数定义 | 55–56、91–95、164–167 | 编程基础支撑。教材可支持构造 x²、x³ 等新特征，但不讲回归建模理论 |
对应关系总结
- 机器学习理论以 PPT 为主：教材附录 C 的数字版涉及聚类、分类、回归和机器学习概念，但当前 PDF 只保留学习目标与二维码；损失函数、梯度下降和特征缩放应以 PPT 为主。
- 教材提供实现工具：数字运算、变量、列表、二维数据、循环和函数可以用来把 PPT 中的公式写成 Python 程序。
- 最值得配套阅读的教材部分：第 3 章数字运算、第 4 章循环、第 5 章函数、第 6 章列表与元组、第 7 章一维和二维数据格式化。
四、目录中列出、但本文件未包含正文的内容
以下主题出现在课件第 2–3 页的总目录中，但本文件没有相应章节正文。第 15 页虽用分类举例，第 17–18 页虽用聚类等无监督任务举例，但不能视为第 3 章或其他专题已经完整展开。
| 目录编号 | 目录标题 | 中文说明 |
|---|---|---|
| 3 | Classification | 分类算法专题 |
| 4 | Overfitting and underfitting | 过拟合与欠拟合 |
| 5 | Advanced learning algorithms—Neural networks | 神经网络 |
| 6 | Vectorization and model construction | 向量化与模型构建 |
| 7 | Bias and variance—Diagnosing bias and variance | 偏差与方差诊断 |
| 8 | Bias and variance in NN—Establishing a baseline level of performance | 神经网络中的偏差、方差与性能基线 |
| 9 | ML development process—Adding data | 通过增加数据改进模型 |
| 10 | ML development process—Transfer learning | 迁移学习 |
| 11 | ML development process—Fairness, bias, and ethics | 公平性、偏见与伦理 |
| 12 | Skewed datasets—Error metrics | 偏斜数据集与误差指标 |
| 13 | Advanced learning algorithms—Decision trees | 决策树 |
| 14 | Decision tree learning—Tree ensembles | 树模型集成 |
五、复习时的关键辨析
- 回归与分类：回归预测连续数值，分类预测有限类别。二者都可以属于监督学习。
- 参数与特征：
x是输入特征，w和b是模型参数。训练过程调整参数，不是把每个训练样本的特征改成参数。 - 单样本误差与代价函数：
ŷ⁽ⁱ⁾-y⁽ⁱ⁾描述第i个样本的预测误差；J(w,b)汇总全部训练样本，用于评价一组参数。 - 同步更新：一次梯度下降应先根据旧参数同时计算
w、b的新值，再一起替换旧值。 - 学习率与更新步长：标准梯度下降中的学习率
α通常保持不变；接近最低点时，导数变小使更新步长自然减小。课件第 39 页标题容易让人误以为α自动变化。 - 特征缩放与参数尺度：特征数值范围大时，与之对应的参数常需更小；把各特征缩放到相近范围有助于梯度下降稳定收敛。
- 多项式回归：对输入构造
x²、x³等新特征后，模型可以拟合曲线，但对这些高次特征通常也要做缩放。
六、使用说明
- 先建立概念地图：复习第 8、11、16、18 页，明确 AI、机器学习、深度学习以及监督/无监督学习之间的关系。
- 掌握线性回归主线：按“数据与符号 → 模型 → 代价函数 → 梯度下降 → 特征缩放”的顺序学习第 20–53 页。
- 结合教材实现：需要把公式写成 Python 时，重点查教材第 3–7 章；不要在教材中寻找完整的机器学习理论推导。
- 区分总目录和实际内容：第 2–3 页列出的第 3–14 章属于后续课程规划，不在本课件正文范围内。
- 图示页：本课件大量使用散点图、代价曲线、等高线和公式图示。本整理按渲染后的全部 55 页建立索引，不代替对原图和公式的逐页学习。