《人工智能数学基础》详细读书笔记

Author: 陆伟峰、谷瑞、蔡炳育、王美艳 Published: 2023-6 | 清华大学出版社 | ISBN: 9787302632368 Core Thesis: 学习人工智能不需要成为数学博士——微积分、线性代数、概率统计三大支柱的核心概念,结合Python编程实践,就足以理解AI算法的数学原理。 Reading Date: 2026-05-14 Tags: AI数学 线性代数 微积分 概率统计 神经网络 Python


一、全书概览

一句话总结

一本面向高职院校学生和AI初学者的数学入门教材,用Python把抽象的数学概念变成可计算的代码,让"纸笔计算"和"编程计算"并行。

全书结构

| 篇 | 章节 | 主题 | 核心内容 | |----|------|------|----------| | 微积分篇 | 第1-5章 | 变化与优化 | 极限、导数、极值、梯度下降法 | | 线性代数篇 | 第6-10章 | 空间与变换 | 向量、矩阵、行列式、特征值 | | 概率统计篇 | 第11-17章 | 不确定性与推断 | 概率、随机变量、回归分析、Pandas数据处理 | | 应用篇 | 第18-19章 | AI实战 | 全连接神经网络、卷积神经网络 |

作者背景

| 作者 | 背景 | |------|------| | 陆伟峰 | 苏州工业园区服务外包职业学院副教授,数学/AI教学,指导学生数学建模竞赛获奖 | | 谷瑞 | 同校副教授,出版《Python基础编程》《TensorFlow深度学习开发实战》等 | | 蔡炳育 | 同校副教授,获江苏省教学成果二等奖,出版教材5部 | | 王美艳 | 华东师范大学硕士,李代数与量子群方向,多年大学数学教学经验 |


二、逐章要点

第1章:函数与极限

核心观点

函数是描述世界的基本语言,极限是微积分的基石——理解AI算法中的"逼近"和"收敛"概念。

关键概念

| 概念 | 定义 | 在AI中的应用 | |------|------|-------------| | 函数 | 输入与输出的对应关系 | 神经网络本质上就是一个复杂函数 | | 极限 | 函数在某一点的趋近值 | 损失函数的收敛性分析 | | 连续性 | 函数图像不断裂 | 保证优化过程的平滑性 |

SymPy示例

import sympy as sp
x = sp.Symbol('x')
f = x**2 + 2*x + 1
sp.limit(f, x, 0)  # 计算极限

第2章:导数

核心观点

导数描述了"变化率"——它是深度学习反向传播算法的数学基础。

关键概念

| 概念 | 定义 | 几何意义 | |------|------|----------| | 导数 | 函数在某一点的瞬时变化率 | 切线的斜率 | | 偏导数 | 多元函数对某一变量的变化率 | 沿着某个坐标轴方向的斜率 | | 链式法则 | 复合函数的求导法则 | 神经网络反向传播的核心 |

在AI中的核心应用

损失函数 L(w) 关于权重 w 的导数 → 梯度 → 告诉权重应该往哪个方向调整

第3章:极值

核心观点

AI训练的本质就是找极值——让损失函数最小化。

关键概念

  • 极值点:导数为零的点(极大值/极小值)
  • 全局极值 vs 局部极值:深度学习中常见的"陷入局部最优"问题
  • 鞍点:在某些方向是极大值,某些方向是极小值

第4章:多元函数导数与极值

核心观点

神经网络的参数动辄百万级,需要处理的是"超高维"空间中的极值问题。

关键概念

  • 梯度:多元函数在各方向的偏导数组成的向量,指向函数增长最快的方向
  • Hessian矩阵:二阶偏导数矩阵,描述函数的"曲率"

第5章:梯度下降法

核心观点

梯度下降是AI训练中最重要的优化算法——沿着梯度的反方向走一小步,不断迭代,最终找到最小值。

算法流程

1. 随机初始化参数 w
2. 计算梯度 ∇L(w)
3. 更新参数:w = w - α × ∇L(w)  (α是学习率)
4. 重复2-3,直到收敛

梯度下降变体对比

| 变体 | 特点 | 适用场景 | |------|------|----------| | 批量梯度下降(BGD) | 用全部数据计算梯度 | 数据量小,精确 | | 随机梯度下降(SGD) | 用一个样本计算梯度 | 数据量大,速度快 | | 小批量梯度下降(Mini-batch) | 用一批样本计算梯度 | 最常用,平衡精度和速度 | | 动量法(Momentum) | 引入"惯性"加速收敛 | 损失函数曲面复杂时 | | Adam | 自适应学习率 | 深度学习默认优化器 |

Python实现

import numpy as np

def gradient_descent(X, y, lr=0.01, epochs=1000):
    w = np.random.randn(X.shape[1])
    for _ in range(epochs):
        gradient = X.T @ (X @ w - y) / len(y)
        w = w - lr * gradient
    return w

第6章:向量

核心观点

向量是AI中最基本的数据结构——一个样本、一个特征、一个词嵌入,都是向量。

关键概念

| 概念 | 定义 | AI应用 | |------|------|--------| | 向量 | 有序的数字数组 | 词向量、特征向量 | | 向量加法 | 对应分量相加 | 特征融合 | | 向量点积 | 对应分量乘积之和 | 注意力机制中的相似度计算 | | 向量范数 | 向量的"长度" | 正则化、归一化 | | 余弦相似度 | 两个向量夹角的余弦值 | 文本相似度、推荐系统 |


第7章:矩阵

核心观点

神经网络的前向传播就是矩阵乘法——一层一层地把输入矩阵变换成输出矩阵。

关键概念

| 概念 | 定义 | AI应用 | |------|------|--------| | 矩阵 | 二维数字数组 | 权重矩阵 | | 矩阵乘法 | 行×列的点积 | 神经网络前向传播 | | 转置 | 行列互换 | 反向传播中的梯度传播 | | 逆矩阵 | 矩阵的"倒数" | 线性方程组求解 | | 单位矩阵 | 对角线为1的方阵 | 恒等变换 |


第8章:行列式

核心观点

行列式描述了线性变换对"面积/体积"的缩放——当行列式为0时,变换"压扁"了空间。

关键概念

  • 行列式 ≠ 0:矩阵可逆,变换是"满秩"的
  • 行列式 = 0:矩阵不可逆,信息有损失

第9章:线性方程组

核心观点

线性回归的正规方程就是解线性方程组。

求解方法

| 方法 | 适用场景 | Python实现 | |------|----------|-----------| | 高斯消元法 | 小型方程组 | numpy.linalg.solve | | 矩阵求逆法 | 方阵且可逆 | numpy.linalg.inv | | 最小二乘法 | 超定方程组(方程>未知数) | numpy.linalg.lstsq |


第10章:特征值和特征向量

核心观点

特征值分解揭示了线性变换的"本质方向"——在这些方向上,变换只缩放不旋转。

关键概念

| 概念 | 定义 | AI应用 | |------|------|--------| | 特征值 λ | 变换的缩放倍数 | PCA降维 | | 特征向量 v | 变换不变的"本质方向" | 主成分方向 | | 特征分解 | 将矩阵分解为特征值和特征向量 | 谱分析 | | SVD分解 | 更通用的矩阵分解 | 推荐系统、降维 |

PCA(主成分分析)流程

原始数据 → 中心化 → 计算协方差矩阵 → 特征分解 → 
  → 取前k个特征向量 → 投影到低维空间

第11章:概率基础

核心观点

AI的本质是在不确定性中做决策——概率论提供了量化不确定性的数学工具。

关键概念

| 概念 | 定义 | AI应用 | |------|------|--------| | 概率 | 事件发生的可能性 | 分类器的置信度 | | 条件概率 | 已知某条件下事件的概率 | 贝叶斯分类 | | 贝叶斯定理 | P(A|B) = P(B|A) × P(A) / P(B) | 垃圾邮件过滤、医学诊断 | | 独立性 | 两个事件互不影响 | 朴素贝叶斯假设 |


第12章:随机变量

核心概念

  • 离散随机变量:取有限个值(如掷骰子)
  • 连续随机变量:取区间内任意值(如身高)
  • 概率分布:描述随机变量取各个值的概率

常见分布

| 分布 | 适用场景 | AI应用 | |------|----------|--------| | 伯努利分布 | 是/否二选一 | 二分类 | | 二项分布 | n次独立试验的成功次数 | A/B测试 | | 正态分布 | 自然现象的普遍分布 | 误差建模、初始化权重 | | 均匀分布 | 等概率取值 | 随机初始化 |


第13章:数字特征

关键概念

| 特征 | 定义 | 意义 | |------|------|------| | 期望 | 随机变量的"平均值" | 长期趋势 | | 方差 | 数据偏离期望的程度 | 不确定性大小 | | 协方差 | 两个变量一起变化的程度 | 特征相关性 | | 相关系数 | 标准化的协方差(-1到1) | 特征选择 |


第14章:相关分析

核心观点

在AI特征工程中,理解特征之间的相关性至关重要——高度相关的特征可能导致冗余。


第15章:回归分析

核心观点

回归分析是机器学习的"老祖宗"——从线性回归到神经网络,本质上都是回归问题的不同解法。

回归类型

| 类型 | 模型 | 损失函数 | |------|------|----------| | 线性回归 | y = w₁x₁ + w₂x₂ + ... + b | MSE(均方误差) | | 多项式回归 | y = w₀ + w₁x + w₂x² + ... | MSE | | 逻辑回归 | y = σ(w·x + b) | 交叉熵 |


第16章:数据处理与Pandas

核心观点

实际的数据科学工作,80%的时间花在数据处理上——Pandas是Python数据处理的标准工具。

Pandas核心操作

| 操作 | 方法 | 示例 | |------|------|------| | 读取数据 | pd.read_csv() | 导入CSV文件 | | 数据筛选 | df[df['age'] > 18] | 条件过滤 | | 分组聚合 | df.groupby('city').mean() | 按城市分组求均值 | | 缺失值处理 | df.dropna() / df.fillna() | 处理空值 | | 数据透视 | df.pivot_table() | 交叉分析 |


第17章:数据处理基本方法

关键方法

| 方法 | 目的 | 常用技术 | |------|------|----------| | 数据清洗 | 去除脏数据 | 去重、缺失值处理、异常值检测 | | 数据变换 | 统一数据尺度 | 归一化、标准化 | | 特征工程 | 提取有用特征 | 特征选择、特征提取、特征编码 | | 数据分割 | 训练/验证/测试 | train_test_split |


第18章:全连接神经网络

核心观点

全连接神经网络是最基础的深度学习模型——理解它,就理解了深度学习的基本范式。

网络结构

输入层 → 隐藏层1 → 隐藏层2 → ... → 输出层
  ↓         ↓          ↓             ↓
 x       W₁·x+b₁    W₂·a₁+b₂      Wₙ·aₙ₋₁+bₙ
          ↓ ReLU       ↓ ReLU         ↓ Softmax/Sigmoid
          a₁           a₂             y_pred

关键组件

| 组件 | 作用 | 常见选择 | |------|------|----------| | 激活函数 | 引入非线性 | ReLU, Sigmoid, Tanh | | 损失函数 | 衡量预测与真实值的差距 | MSE(回归)、交叉熵(分类) | | 优化器 | 更新权重以最小化损失 | SGD, Adam | | 学习率 | 控制更新步长 | 0.001 ~ 0.1 |


第19章:卷积神经网络

核心观点

CNN的核心思想是"局部感知+权重共享"——模仿人类视觉系统处理图像的方式。

CNN三大组件

| 组件 | 功能 | 类比 | |------|------|------| | 卷积层 | 用"过滤器"提取局部特征 | 放大镜扫描图片 | | 池化层 | 降维,保留主要信息 | 缩小图片但保留轮廓 | | 全连接层 | 综合特征,做最终判断 | 大脑整合信息做决策 |

卷积操作示意

输入图片(28×28×1) → 卷积(32个3×3过滤器) → 激活(ReLU) → 
  → 池化(2×2) → 卷积(64个3×3过滤器) → 激活 → 池化 → 
  → 展平 → 全连接 → 输出

三、关键概念速查

| 概念 | 定义 | 一句话理解 | AI应用 | |------|------|------------|--------| | 导数 | 函数的变化率 | "有多快" | 反向传播 | | 梯度 | 多元函数的方向导数向量 | "往哪走最快" | 梯度下降 | | 矩阵乘法 | 行×列的点积 | "变换" | 前向传播 | | 特征值 | 矩阵变换的缩放倍数 | "拉伸了多少" | PCA降维 | | 概率分布 | 随机变量取值的概率规律 | "可能性有多大" | 分类置信度 | | 贝叶斯定理 | 用新信息更新概率 | "有了证据后重新评估" | 贝叶斯分类 | | 回归分析 | 用变量预测结果 | "找规律" | 预测模型 | | 交叉熵 | 衡量两个概率分布的差异 | "预测有多离谱" | 分类损失函数 | | 激活函数 | 给网络引入非线性 | "没有它就只有线性" | ReLU | | 卷积 | 局部加权求和 | "用过滤器看图片" | 图像处理 |


四、核心框架/模型

AI的三大数学支柱

         人工智能
         ╱   │   ╲
    微积分  线性代数  概率统计
     ╱ ╲      ╱ ╲      ╱ ╲
   导数 梯度  矩阵 特征值 概率 统计
     │      │      │      │
   反向传播 前向传播 不确定性 回归分析

从数学到AI的映射

数学概念          → AI中的对应
─────────────────────────────────
函数 f(x)          → 神经网络 model(x)
求导 df/dx         → 反向传播 autograd
梯度 ∇f            → 优化器 optimizer
矩阵乘法 AB        → 全连接层 Linear
特征分解           → PCA降维
概率 P(A|B)        → 分类器输出
期望 E[X]          → 预测值
方差 Var(X)        → 不确定性估计
最小二乘法         → 线性回归

五、金句摘录

"本书既有理论又有应用,既可以用纸笔计算,也可以用Python编程计算。" "本书专门为数据科学和人工智能相关产业的从业者、高职院校的学生打造,旨在为读者提供学习数据科学和人工智能所需的数学基础知识。"


六、行动清单

每天

  • [ ] 用Python实现一个数学概念(如用numpy计算导数近似值)

每周

  • [ ] 完成一章的练习题,用SymPy/Numpy/Pandas验证
  • [ ] 在Kaggle上找一个对应的小项目实践

每月

  • [ ] 用学过的数学知识,从头实现一个简单神经网络
  • [ ] 阅读一篇AI论文,识别其中用到的数学概念

七、社区评价

来源:微信读书 + 电商平台。

高分书评

"AI数学基础的实用入门教材" — 微信读书

面向高职院校学生和AI初学者,将抽象的数学概念与Python编程结合,让学习过程更加直观。

京东/当当好评

读者认为本书"结构清晰、循序渐进",特别是第18-19章的神经网络应用部分,将前面学过的数学知识串联起来。


八、争议与批评

| 批评点 | 来源 | 核心论据 | 是否成立 | |--------|------|----------|----------| | 面向高职院校,深度有限 | 计算机专业学生 | 作为本科教材可能不够深入,缺乏严格的数学证明 | 部分成立——本书定位就是高职院校,目标读者不同 | | 代码示例不够丰富 | 程序员 | 期望更多Python实战代码,而非纸笔计算 | 部分成立——书中确实偏理论,编程部分可以更充实 | | 缺少深度学习进阶内容 | 进阶学习者 | 只介绍了全连接和CNN,缺少RNN、Transformer等 | 成立——作为"基础"教材可以理解 |

我的判断

  • 有道理:如果你已经有编程基础且想深入理解深度学习,这本书可能太浅。它适合"数学零基础+AI入门"的学习者。
  • 不成立:批评"深度不够"忽略了本书的目标定位——高职院校教材,面向的是需要快速上手AI应用而非理论研究的学习者。

九、一句话总结

一本面向AI初学者的"够用就好"的数学入门教材——用微积分理解优化、用线性代数理解网络结构、用概率统计理解不确定性,再结合Python实践,最后落到全连接和卷积神经网络的应用上,是高职院校学生和转行AI从业者的实用起点。


笔记生成:2026-05-14 by 喵喵 🐈