ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

机器学习期末复习题及答案:四条主线串起KNN、SVM、PCA与评估指标

机器学习期末复习题及答案:四条主线串起KNN、SVM、PCA与评估指标

简介:面向高校机器学习课程期末复习的题库型资料包,适合正在梳理知识框架、检验掌握程度并冲刺考试的学生使用。内容按单项选择题、多项选择题、名词解释、简答题和编程题五类题型组织,覆盖训练集与测试集划分、欠拟合与过拟合、K近邻、朴素贝叶斯判定公式、SVM核函数与线性不可分、决策树ID3/C4.5/CART、线性回归与回归评估指标、聚类分析及神经网络基础等高频考点,并配有参考答案与编程实现步骤。资源包共1个docx文件,约20KB,体积轻便,便于打印或导入笔记软件反复查阅。目前已有13141人学习,说明其题型结构与考点覆盖具有一定参考价值。读者可借助分题型练习快速定位薄弱环节,结合答案核对概念辨析与公式记忆,并通过简答、编程题的步骤梳理建立从理论到实现的完整复习路径。

1. 机器学习期末复习地图:四条主线把零散题目串起来

机器学习期末复习资料最容易踩的坑,是把“机器学习期末复习题及答案”当成零散选择题来背。更稳的做法是先把地图立起来:一条线看学习方式,分监督与无监督;一条线看任务类型,分分类、回归、聚类、降维;一条线看模型,KNN、朴素贝叶斯、决策树、SVM、线性回归、KMeans、PCA各归其位;最后一条线看工程流程,训练集测试集、数据清洗、拟合状态、评估指标。期末题常把四条线交叉出题,比如“PCA属于什么学习”“KNN导入哪个库”“MAE和MSE怎么区分”。这份复习资料适合已经上过课、需要系统回看和考前查漏的人;零基础逐条背,反而容易被干扰项带偏。

2. 监督学习分类线:KNN、朴素贝叶斯、决策树与SVM的判定要点

2.1 KNN与朴素贝叶斯:有监督分类的两条入门主线

K近邻算法在题目里常被问“属于哪种学习方式”,答案要落到有监督学习。它的基本思路是:拿待分类样本和已有带标签样本算距离,找最近的K个邻居,由邻居标签投票决定类别。这里的关键不是“邻居”两个字,而是“带标签样本”和“距离度量”。如果没有标签,KNN没法完成分类训练;如果距离度量受量纲影响很大,标准化就会影响结果。梳理下来会发现,KNN的复习重点集中在四件事:有监督属性、K值影响、距离度量、sklearn导入函数。

K值是最容易出对比题的地方。K值过小,模型对近处噪声敏感,训练集表现可能很好,换一批数据就翻车,偏向过拟合;K值过大,邻居范围太宽,类别边界被抹平,容易欠拟合。这个判断和“训练误差低、测试误差高”是连在一起的,不能只背一句“K小过拟合”。有些题干会问“KNN算法是A有监督、B无监督、C半监督、D自主学习”,标准判断依据就是训练样本是否带标签;KNN用带标签样本投票,因此归入有监督学习。聚类才更典型地属于无监督学习,PCA降维也属于无监督学习,这三者在选择题里经常互相冒充。

朴素贝叶斯的核心是概率统计分类。题干里有时写成“素贝叶斯”,要按“朴素贝叶斯”理解。它的判定公式常考: [ H(x)=\arg\max P(C_i)\prod P(a_k|C_i) ] 这里的重点是argmax,不是max、min或log。argmax要的是“哪个类别让后验概率最大”,输出的是类别,不是最大概率值本身。公式结构是先验概率乘条件概率连乘,再比较各类别得分。实际计算时,如果某个条件概率为0,连乘会把整个类别得分压成0,所以系统复习时要知道“防零概率”的平滑处理;期末题若只考公式,先抓住argmax、先验、条件概率连乘三件事。

下面用资源里的KNN数据集走一遍最小可运行流程:

# 导入KNN分类器 from sklearn.neighbors import KNeighborsClassifier # 特征值:二维特征,共10个样本 X = [[3, 2], [3, 1], [1, 3], [3, 4], [2, 2], [7, 4], [5, 3], [9, 2], [7, 3], [7, 0]] # 标签:0和1两类 y = [0, 0, 0, 0, 0, 1, 1, 1, 1, 1] # 实例化模型,n_neighbors就是K值 model = KNeighborsClassifier(n_neighbors=3) # 训练模型 model.fit(X, y) # 预测新样本 pred = model.predict([[4, 3]]) print(pred)

逻辑说明:先导入KNeighborsClassifier,再把特征矩阵X和标签向量y传入fit完成训练,最后用predict输出新样本类别。参数说明:n_neighbors=3表示取最近的3个邻居投票;X必须是二维结构,每个子列表是一个样本的两个特征;y长度要和样本数一致。这里最容易忽略的是X的维度,单个样本预测也要写成[[4, 3]],不能写成[4, 3],否则库函数会按错误维度解析。

2.2 决策树与SVM:树结构、划分标准、超平面与核函数

决策树的题干常问“原理是什么”。回答要抓住树结构和节点含义:决策树是一个类似流程图的树结构,分支节点表示对一个特征进行测试,根据测试结果把样本分到不同分支,叶节点代表一个类别。这个定义看似简单,但选择题会围绕“生成算法”和“划分标准”设干扰。资源里出现“决策树生成有几种算法”的题,教材口径常列ID3、C4.5、CART三种,干扰项会写成“ID4算法”之类。复习时要把算法和划分标准对上:ID3常和信息增益关联,C4.5常和信息增益率关联,CART常和基尼指数关联。这个对应关系比单背“有三种”更抗变体。

决策树的重点还包括剪枝和过拟合。树越深、分支越细,训练集拟合越好,但测试集可能变差;剪枝就是控制复杂度的一种手段。多项选择题里“决策树算法的划分标准”可能给出信息增益、基尼指数等选项,不能把“训练数据”“分类”混进划分标准。另一类题会问“决策树算法包括哪些”,答案应落在ID3、C4.5、CART这些生成算法上,而不是落在评估指标上。复习时可以把“树结构解释”“生成算法”“划分标准”“剪枝”四块分开记,避免题干换一个问法就找不到落点。

SVM的复习要先过“线性可分”这一关。一维空间里,分开两个线性可分的点集合只需找一个点;二维空间里需要一条分类直线;三维空间里需要一个分类平面;n维空间里需要找一个超平面。这个逐维递进的描述很适合简答题。线性不可分则是说,数据集不能用一个线性分类器直接分开,直线、平面或超平面都做不到。此时常用核函数把原空间映射到更高维空间,再找分隔超平面。资源里问“SVM常用核函数”,教材口径常列线性核、多项式核、高斯核;单选题给“高斯核函数”时要能选出来,同时要识别“贝叶斯核函数”“网络核函数”“二项式核函数”这类干扰项,其中“多项式核”是常见核,“二项式核”不是这里的标准说法。

把四个分类模型放在一起看,选择题的边界会清楚很多:

模型学习方式核心思想常见判断题易混点
KNN有监督最近K个邻居投票KNN属于哪类学习与聚类混淆
朴素贝叶斯有监督贝叶斯定理加条件概率连乘判定公式选哪个argmax写成max
决策树有监督特征测试分支,叶节点给类别生成算法有哪几种ID4、划分标准混淆
SVM有监督找分隔超平面,核函数处理非线性常用核函数、线性不可分核函数名称干扰

2.3 从题干到答案:分类题的常见变体与复习落点

分类线在期末卷里不会只考定义,更常见的是把“模型属性、库函数导入、公式、核函数、算法数量”混在一起。比如“用sklearn K近邻算法需要导入函数库”,正确落点是from sklearn.neighbors import KNeighborsClassifier;干扰项会写成import numpy as np、import matplotlib.pyplot as plt、from math import sqrt。这些干扰项不是完全无关,它们分别是数值计算、绘图、数学函数库,复习时要能说出“这个库是干什么的”,而不是只记一个正确选项。

“K近邻算法是A有监督学习、B无监督学习、C半监督学习、D自主学习”这种题,判断依据是训练数据有没有标签。KNN在训练阶段存的是带标签样本,预测阶段靠邻居标签投票,所以是有监督。朴素贝叶斯同样用带标签样本估计先验和条件概率,也归入有监督。决策树和SVM在分类任务里也都是有监督。相反,聚类分析通常没有标签,PCA降维也不需要标签,它们更容易出现在“无监督学习”选项里。把这条线记住,遇到“某算法属于哪种学习”就可以先看标签。

公式题要特别小心符号。朴素贝叶斯判定公式里,argmax是选类别,P(C_i)是先验,∏P(a_k|C_i)是各特征条件概率的连乘。若选项把argmax换成exp、min、log,或者把连乘拆错,都是干扰。复习时不要只背字母,要能口头解释:先算每个类别下的得分,再取得分最高的类别。SVM核函数题则要抓住“常用”和“教材口径”。高斯核函数、线性核、多项式核是常考名称;“贝叶斯核函数”“网络核函数”不是标准核函数名称。遇到“有几种”的题,还要结合题干里的教材口径,不能把网络上所有核函数都往里塞。

这一章的重点不是把四个模型背成四段孤立的定义,而是能用“是否有标签、任务输出是什么、核心判定规则是什么、sklearn怎么导入”四问快速定位。KNN看邻居和K值,朴素贝叶斯看概率和argmax,决策树看树结构与划分标准,SVM看超平面与核函数。把这四问写在一页纸上,分类选择题的干扰项就会少很多。

3. 回归与无监督线:线性回归、聚类与PCA的边界区分

3.1 线性回归:连续目标、简单与多元、正则化回归的边界

线性回归在期末题里常以名词解释、简答和编程题三种形式出现。名词解释要落到“针对一个或多个特征与连续目标变量之间的关系建模”。简单线性回归针对单个特征,定义式常写为: [ y=\omega_0+\omega_1x ] 其中ω0是截距,ω1是特征系数,x是解释变量,y是连续响应值。多元线性回归则把单个特征扩展为多个特征,用多个系数共同解释目标变量。这里要和分类分清:分类的输出y是离散类别,回归的输出y是连续值。题干若问“输入一个数据,训练模型推断出它的类别,且y必须是离散的”,那是分类,不是回归。

线性回归的编程步骤在资源里给得很清楚:导入库函数、导入数据集、建模(模型实例化)、模型拟合(模型训练)、预测、模型评价。这个六步流程可以迁移到很多sklearn模型。以简单线性回归为例:

# 导入线性回归模型 from sklearn.linear_model import LinearRegression # 特征X必须是二维结构,每个样本一个子列表 X = [[1], [2], [3], [4], [5]] # 连续目标值 y = [3, 4, 6, 8, 9] # 实例化线性回归模型 model = LinearRegression() # 拟合训练数据 model.fit(X, y) # 预测新样本 pred = model.predict([[6]]) print(pred) print(model.coef_, model.intercept_)

逻辑说明:fit用训练数据估计回归系数和截距,predict对新特征输出连续预测值,coef_是特征系数,intercept_是截距。参数说明:X写成[[1], [2], ...]是因为sklearn要求二维特征矩阵;如果直接写[1, 2, 3, 4, 5],常见报错就是维度不对。这个点在编程题里很容易翻车,复习时要形成条件反射:单个特征也要reshape成二维。

回归模型的多项选择题还会考“回归模型有哪些”。资源里出现简单线性回归、多元线性回归、弹性回归等说法,同时用“最小算子回归”“有限元回归”做干扰。系统梳理时可以把线性回归家族分成普通线性回归和正则化回归:岭回归、Lasso(最小绝对收缩与选择算子)、弹性网络都属于带正则项的回归模型。弹性网络可以理解为结合了L1和L2正则的思路。期末复习不必展开推导,但要知道“正规化回归模型”指的是正则化回归,不是“正规方程”四个字随便换。题目若把“简单线性回归”放进正则化回归选项里,要判断它是不是带正则项;普通简单线性回归本身不是正则化模型。

回归模型性能评估也要和分类指标分开。回归里常见平均绝对误差MAE、均方误差MSE、均方根误差RMSE、决定系数R²。资源单选题问“回归模型性能评估平均绝对误差”,选项里给RMSE、MSE、MAE、R Square,正确答案落在MAE。另一题问“均方差”,选项里给RMSE、MSE、RMSD、R Square,要看清题干用词。均方误差反映估计量与被估计量之间差异程度,平方会放大较大误差;平均绝对误差用绝对值,量纲更直观;RMSE是MSE开根号,量纲回到原目标变量。复习时把缩写和中文名对上,比死记选项更稳。

3.2 聚类分析:无监督、簇内相似与簇间差异

聚类分析的核心定义是:按照某个特定标准,比如距离准则,把一个数据集分割成不同的类或簇,使得同一簇内数据对象的相似性尽可能大,不同簇之间数据对象的差异性尽可能大。这个定义里有三个关键词:无监督、相似性、簇。聚类没有现成标签,所以它不叫分类;它看的是数据内部结构,而不是用标签训练一个分类边界。资源单选题问“聚类分析有几种算法”,教材口径可能列三种常见方法;这里要提醒一句,题目里的“几种”通常是教材列举数量,不是算法总数。实际聚类方法很多,常见的有划分式、层次式、密度式等思路,KMeans是划分式聚类里最常考的代表。

KMeans的复习重点包括:需要预先指定簇数K、用距离衡量样本到簇中心的远近、反复更新簇中心直到稳定、对初始中心和特征尺度敏感。期末题如果不考代码,至少要知道“聚类属于无监督”“簇内相似大、簇间差异大”“KMeans要设K”。如果考代码,导入通常是from sklearn.cluster import KMeans,实例化时写KMeans(n_clusters=2),再fit(X)或fit_predict(X)。这里不要和KNN混:KNN的K是邻居数,KMeans的K是簇数;KNN是有监督分类,KMeans是无监督聚类。两个都有K,但含义完全不同,这是选择题的高频陷阱。

聚类和分类的差别还可以用“有没有y”来判断。分类任务有训练标签,模型学习从特征到类别的映射;聚类任务没有训练标签,算法根据样本间相似度自己分组。资源里“分类”名词解释强调把每个数据集的元素x映射到目标类别y,且y必须是离散的;聚类则没有这个已给出的y。复习时可以把这两个定义并排写:分类是“有标签找边界”,聚类是“无标签找结构”。这样遇到“KNN是聚类吗”“KMeans是分类吗”就不会被“都有类别”带偏。

3.3 PCA降维:无监督变换与分类任务的边界

PCA降维在选择题里常问“属于哪种学习”。资源明确给出PCA降维是无监督学习。原因不是它不能用于分类前处理,而是PCA本身在计算主成分时不需要标签。它做的是线性变换,把原始特征投影到方差较大的方向上,用较少的主成分保留主要信息。复习时要把“用途”和“学习方式”分开:PCA可以辅助分类,但PCA算法本身不依赖类别标签,所以归入无监督。这个点和“KNN可以用于分类,但KNN本身是有监督”一样,判断学习方式看训练时用不用标签,不看最终任务。

PCA的重点还有“降维”与“特征选择”的区别。特征选择是从原特征里挑一部分保留,PCA是把原特征线性组合成新的主成分,新特征不是原来某一列的直译。期末题若问“PCA降维是什么学习”,选无监督;若问“PCA的作用”,答降维、去相关、压缩特征、保留主要方差。复习时不用把协方差矩阵推导写满,但要知道主成分按方差大小排序,前几个主成分保留信息多。特征标准化对PCA影响很大,因为方差受量纲影响;这一点和KNN对距离敏感有相似之处。

把回归与无监督线放在一张表里,边界更清楚:

主题学习方式输出典型问题易混点
简单线性回归有监督连续值定义式、编程步骤与分类输出混淆
多元线性回归有监督连续值多特征建模与正则化回归混淆
聚类分析无监督簇编号聚类定义、KMeans与KNN混淆
PCA降维无监督主成分PCA属于哪类学习与特征选择混淆

这一章的复习落点是“输出类型”和“标签有无”。线性回归输出连续值,分类输出离散类别,聚类没有标签,PCA不需要标签。只要这两条判断稳住,题目把“回归”“分类”“聚类”“降维”四个词换位置,也能拆开。

4. 评估与预处理线:训练测试集、欠拟合过拟合、指标与数据清洗

4.1 训练集与测试集:为什么要分、欠拟合与过拟合怎么判断

资源简答题问“为什么要把数据集分成训练集与测试集”。回答的核心是泛化:拟合模型时完全依靠训练集数据完成拟合,训练集上精度高,不代表换一批数据还保持高贴合度;测试集用来验证模型在新数据上的表现。单项选择题里“机器学习把数据集分成训练集和测试集”就是这条线。复习时要把训练集、测试集、验证集区分开:训练集用于拟合参数,测试集用于最终评估,验证集常用于调参;期末题若不提验证集,先把训练集和测试集的分工说清。

欠拟合和过拟合是评估线的核心概念。欠拟合指模型在训练数据和预测结果时精确度均不高,未能把握核心特征;过拟合指模型拟合过度,训练集表现很好,但换到测试集就变差,常见原因是特征选取过多、模型复杂度过高、数据量不足。资源里“解决模型欠拟合的方法”给过增加训练数据量、对模型进行裁剪、增加训练过程迭代次数、正则化等选项,标准答案落在增加迭代次数。这里有一个容易踩坑的地方:正则化通常用于缓解过拟合,不是欠拟合的首选解法。复习时不能把选项背成“欠拟合就正则化”,而要看训练误差和测试误差的对照。

状态训练误差测试误差常见原因处理方向
欠拟合高高模型太简单、特征不足、迭代不足增加模型复杂度、补有效特征、增加迭代
过拟合低高模型太复杂、特征过多、数据太少正则化、剪枝、增加数据、简化模型
合适拟合低低且接近训练复杂度与数据匹配保持并验证稳定性

这张表要会自己画。题干若说“模型精确度均不高,未能把握核心特征”,那是欠拟合;若说“训练集精度高,测试集精度低”,那是过拟合。两者处理方向相反,不能混。资源名词解释里“欠拟合”定义已经点出“训练数据和预测结果时模型精确度均不高”,这比只背“欠拟合就是没学好”更准确。过拟合的定义则要补上“训练集表现好、泛化差”这一层,虽然资源里强调“拟合过度、特征值选取过多”,复习时要能扩展。

4.2 性能评估指标:准确率、查准率、查全率与回归误差

分类任务的评估指标要和回归任务分开。资源名词解释里“性能评估”列出准确率、查准率、查全率、综合评价指标;“分类准确度”定义是分类正确的样本占总样本的比例: [ Accuracy=\frac{n_{correct}}{n_{total}} ] 查准率关注“预测为正的样本里有多少真的是正”,查全率关注“真实为正的样本里有多少被找出来”。两者会拉扯,所以有F1这类综合评价指标。期末选择题若问“机器学习性能评估是对什么进行评估”,资源给的是查准率和查全率;这提醒我们,性能评估不只是准确率一个词。复习时至少能说出:准确率看整体正确比例,查准率看预测正例的纯度,查全率看正例的覆盖程度。

回归任务的指标则是MAE、MSE、RMSE、R²。平均绝对误差MAE是预测值与真实值差绝对值的平均;均方误差MSE是差平方的平均;RMSE是MSE开根号;R²看模型对目标变量变异的解释程度。资源单选题里“平均绝对误差”对应MAE,“均方差”对应RMSE或MSE要看题干具体表述,不能只看“均”字就选。均方误差的名词解释是“反映估计量与被估计量之间差异程度的一种度量”,这个定义比较宽,但选择题要落到具体缩写。

下面用几行代码把分类指标和回归指标的计算路径分开:

# 分类指标:准确率、查准率、查全率 from sklearn.metrics import accuracy_score, precision_score, recall_score y_true = [0, 1, 1, 0, 1] y_pred = [0, 1, 0, 0, 1] print(accuracy_score(y_true, y_pred)) print(precision_score(y_true, y_pred)) print(recall_score(y_true, y_pred)) # 回归指标:MAE、MSE、RMSE from sklearn.metrics import mean_absolute_error, mean_squared_error import numpy as np y_reg_true = [3, 4, 6, 8, 9] y_reg_pred = [2.8, 4.2, 5.9, 8.1, 9.2] print(mean_absolute_error(y_reg_true, y_reg_pred)) print(mean_squared_error(y_reg_true, y_reg_pred)) print(np.sqrt(mean_squared_error(y_reg_true, y_reg_pred)))

逻辑说明:分类指标接收真实标签和预测标签,回归指标接收真实连续值和预测连续值;mean_squared_error输出MSE,再开根号得到RMSE。参数说明:y_true、y_pred长度要一致;分类标签可以是0/1,回归目标必须是连续数值。复习时不要只记函数名,要能说出指标含义,否则题干换个中文名就容易选错。

4.3 数据清洗:缺失值、离群值、噪声与不一致性

数据清洗是多项选择题的高频点。资源里“数据清洗包括”给出缺失值处理、离群值检查等,干扰项有训练数据、分类。数据清洗的定义是:通过填补缺失值、光滑噪声数据、平滑或删除离群点、解决数据的不一致性来清理数据。复习时可以把数据清洗拆成四件事:缺失值处理、离群值检查、噪声平滑、不一致性处理。训练数据划分不属于清洗,分类也不属于清洗;这两个词很容易因为出现在机器学习流程里被误选。

缺失值处理要区分删除和填补。样本缺失比例很高时可以删除;少量缺失可以用均值、中位数、众数或模型预测填补。离群值检查要看业务和分布,不能一律删除;离群值可能是噪声,也可能是重要异常。噪声平滑常用分箱、回归、聚类等思路。不一致性包括单位不一致、编码不一致、重复记录等。期末题如果只考多选,先抓住“缺失值处理”和“离群值检查”这两个确定项,再把“训练数据”“分类”排除。

提示:数据清洗不要和特征工程混为一谈。清洗解决“脏”和“不一致”,特征工程解决“怎么构造更有表达力的特征”。期末选择题里两者可能同时出现,判断时看动作是修补数据还是生成新特征。

这一章的复习落点是“流程位置”。训练集测试集解决评估可信度,欠拟合过拟合解决模型状态判断,指标解决怎么量化好坏,数据清洗解决输入质量。四块连起来就是一条完整的评估线:先分数据,再看拟合状态,再选指标,再回头检查数据质量。期末题常把其中两个点拼在一道题里,比如“模型训练集精度高、测试集精度低,应该正则化还是增加迭代”,只要能画出训练误差和测试误差的对照表,就不容易被选项带走。

5. 易错点排查:五个最容易翻车的复习盲区

5.1 概念类易错:正则化、学习方式与教材口径

易漏点一:把正则化当成欠拟合的通用解法。为什么漏:复习时容易把“解决模型问题”都归到正则化,看到欠拟合、过拟合都想到正则项;资源单选题里“解决欠拟合的方法”确实出现了正则化选项,但标准答案落在增加训练过程迭代次数。正则化的作用是约束模型复杂度,主要缓解过拟合;欠拟合是模型太简单或迭代不足,处理方向是增加模型表达力、补有效特征、增加迭代。怎么补:做一张训练误差与测试误差对照表,先判断状态再选手段。训练误差高、测试误差也高,优先想欠拟合;训练误差低、测试误差高,优先想过拟合和正则化。考试时不要看到“正则化”三个字就选,要把它放回状态判断里。

易漏点二:把KNN、聚类、PCA的学习方式混在一起。为什么漏:KNN和KMeans都带K,聚类和分类都输出类别,PCA又能辅助分类,这几个词在题干里经常交叉。KNN用带标签样本投票,是有监督分类;KMeans没有标签,是无监督聚类;PCA不需要标签,是无监督降维。怎么补:判断学习方式只看训练时用不用标签,不看最终任务是不是分类。可以写一句口令:“有y是监督,无y是无监督;KNN看邻居标签,KMeans看簇中心,PCA看主成分方差。”遇到“PCA降维是什么学习”“KNN是什么学习”“聚类是什么学习”三连问,先找标签,再找输出。

易漏点三:把教材口径的“几种”当成算法总数,或者把干扰项当成标准名称。为什么漏:期末题喜欢问“聚类分析有几种算法”“决策树生成有几种算法”“SVM常用核函数有几种”,这些“几种”往往对应教材列举数量。复习时如果只背数字,遇到选项变化就慌;如果只按网络知识扩展,又可能和教材口径冲突。决策树生成算法常列ID3、C4.5、CART,干扰项会写ID4;SVM常用核函数常列线性核、多项式核、高斯核,干扰项会写贝叶斯核、网络核。怎么补:准备两层笔记,一层写“教材列举”,一层写“真实名称和用途”。做题时先看题干是不是教材口径,再看选项名称是否标准。数字可以背,但名称对应关系更要背。

5.2 流程与代码类易漏:维度、导入与指标混用

易漏点四:sklearn线性回归和KNN的输入维度写错。为什么漏:平时看公式时X=[1,2,3,4,5]很自然,但sklearn要求特征矩阵是二维的,每个样本一行、每个特征一列。线性回归把一维列表直接传给fit,常见报错就是维度不匹配;KNN预测单个样本时写成[4,3],也会被当成错误结构。怎么补:形成固定写法,单特征写成[[1],[2],[3]],单样本预测写成[[4,3]]。如果手上只有一维列表,可以用reshape(-1,1)转成二维。复习编程题时不要只看步骤,要亲手把X和y的形状写出来,确认样本数和标签数一致。

易漏点五:评估指标混用,看到“均方”就选错。为什么漏:MAE、MSE、RMSE、R²四个缩写长得很像,中文名又都有“误差”或“方”;分类的准确率、查准率、查全率也容易和回归指标混在一起。资源单选题里“平均绝对误差”对应MAE,“均方差”可能对应RMSE或MSE,题干用词差一个字,选项就变。怎么补:按任务分栏。分类栏写准确率、查准率、查全率、F1;回归栏写MAE、MSE、RMSE、R²。每个缩写旁边写一句中文解释和是否开根号。做题时先判断任务是分类还是回归,再在对应栏里找指标,不要跨栏选。

这一章的五个点看起来分散,其实都指向同一个复习动作:把“状态判断、标签判断、教材口径、输入维度、任务类型”做成检查项。易错点不是靠多刷几道题就能自动消失的,需要每次做题时把判断依据写出来。比如看到“欠拟合”,先写训练误差和测试误差;看到“KNN”,先写有监督和带标签;看到“核函数”,先写线性、多项式、高斯;看到“线性回归fit”,先检查X是不是二维;看到“MAE”,先确认任务是回归。这样复盘一轮,比单纯对答案更有用。

6. 考前一周复习清单:按题型查漏补缺的路线

6.1 按题型回看:单选抓公式,多选抓边界,简答抓结构

考前一周不建议再从第一页平均用力,按题型回看更稳。单选题抓“唯一落点”:朴素贝叶斯公式的argmax、KNN的导入函数、线性回归的导入函数、SVM常用核函数、MAE对应哪个缩写、决策树生成算法数量。多选题抓“概念边界”:数据清洗包括什么、决策树算法包括什么、回归模型包括什么、神经网络能完成哪些任务、Python机器学习库有哪些。名词解释抓“定义加关键词”:欠拟合写“训练和预测精度都不高、未把握核心特征”,过拟合写“拟合过度、训练好测试差、特征过多”,线性回归写“特征与连续目标变量关系建模”,分类写“x映射到离散y”,聚类写“簇内相似大、簇间差异大”。简答题抓“结构”:决策树写树结构、分支节点、叶节点;朴素贝叶斯写贝叶斯定理、各类别概率、取最大;SVM线性可分写一维点、二维线、三维面、n维超平面;训练测试集写泛化验证。

题型回看重点自查动作
单选公式、导入库、指标缩写遮住选项说出判断依据
多选算法家族、数据清洗、任务类型每个选项写一句为什么选或不选
名词解释定义加关键词30字内说清,不堆废话
简答原理加步骤先写结构,再补细节
编程导入、实例化、fit、predict、评价检查X是否二维、y长度是否一致

6.2 错题归因:把“错了”改成“下次怎么查”

错题不要只标正确答案,要归成三类:概念混淆、库函数与维度、指标混用。概念混淆的题,回到“有标签还是无标签、输出连续还是离散、训练误差和测试误差谁高”三问;库函数与维度的题,回到“导入语句、X形状、fit和predict参数”三查;指标混用的题,回到“分类栏还是回归栏、缩写对应中文名”两栏。每道错题旁边写一句“下次先看什么”,比如“下次先看有没有y”“下次先检查X是不是二维”“下次先看任务是分类还是回归”。这比抄一遍答案更能防止同类型再错。

从那以后我每次做机器学习题,都强制先写“学习方式、任务类型、评估指标”三栏再选答案;编程题则先检查X的维度和y的长度,再谈模型效果。这个习惯不花哨,但能挡住大部分低级翻车。希望帮到你。需要这份按题型整理的机器学习期末复习题及答案,可以从资料页取用。

本文还有配套的精品资源,点击获取

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进