2026机器学习入门：十大核心算法与Python实战

2026 机器学习入门：十大核心算法一次讲透，零基础也能直接上手

如果你正打算入门机器学习，却发现自己被一堆算法名词淹没——回归、聚类、决策树、随机森林、SVM、朴素贝叶斯、神经网络……那么这篇教程就是为你准备的。

很多人学机器学习最大的痛点不是“不努力”，而是“没有主线”：今天看到一个教程讲线性回归，明天刷到一个视频讲神经网络，后天又看到有人聊聚类。学了一周，脑子里的知识是散的，拿到真实数据依然不知道从哪里下手。

这篇文章的目标很直接：把十大主流机器学习算法放在一张地图里讲清楚。每个算法我会从“解决什么问题”“核心思路是什么”“适用什么场景”“有什么坑”四个角度拆解，并且全部配上 Python + scikit-learn 的可运行示例。你不需要深厚的数学基础，只需要会一点 Python 基础语法，就能跟着把代码跑通。

读完这篇文章，你将获得三样东西：

1. 一张完整的机器学习算法地图，知道每个算法应该用在哪类问题上。
2. 可以直接复制到本地的 Python 示例代码，覆盖分类、回归、聚类三大任务。
3. 一套避坑指南，包括数据预处理、过拟合、模型评估等新手最容易犯错的地方。

1. 先建立机器学习算法的整体框架

在逐一开始讲算法之前，我们先把机器学习算法按“任务类型”分层。这一步非常重要，因为你真正的学习顺序不是从算法列表开始的，而是从“我要解决什么问题”开始的。

机器学习最核心的分类维度是两类：

• 监督学习：训练数据有标签，也就是“正确答案”。模型从带标签的数据中学习规律，然后用这个规律去预测新数据的标签。
• 无监督学习：训练数据没有标签，模型自己发现数据中的结构或模式。
• 强化学习：智能体通过与环境的交互学习策略，这属于另一个领域，本文不展开。

在监督学习内部，又分为：

在无监督学习内部，最典型的是：

建立这个框架之后，你再看任何算法教程，第一时间应该问自己：这个算法是解决回归、分类，还是聚类问题的？它为什么能解决这个问题？这一步想清楚，学习效率至少提升一倍。

下面我们按三大板块逐一拆解：回归算法、经典分类算法、聚类算法。神经网络单独作为重点板块讲解，因为它现在的地位已经远超一般监督学习算法。

2. 回归算法家族：从预测数值开始理解机器学习

回归是机器学习入门最好的切入口，因为它的目标最直观：根据已知数据预测一个数字。比如根据房屋面积预测房价，根据广告投入预测销售额，根据工作经验预测薪资。

2.1 线性回归：最简单也最基础的预测模型

线性回归的基本假设是：特征和目标值之间呈线性关系。数学表达就是：

y = w1*x1 + w2*x2 + ... + wn*xn + b

其中 x1 到 xn 是特征，w1 到 wn 是权重，b 是偏置。模型要做的事情就是通过训练数据找到一组最优的权重和偏置，使得预测值和真实值之间的误差最小。

训练线性回归模型常用的方法是最小二乘法，核心思想是让所有样本的预测误差平方和最小。在 scikit-learn 中，实现线性回归非常简洁：

# 文件路径：linear_regression_demo.py import numpy as np import matplotlib.pyplot as plt from sklearn.linear_model import LinearRegression from sklearn.model_selection import train_test_split # 构造示例数据：房屋面积 -> 房价 np.random.seed(42) X = np.random.rand(100, 1) * 100 # 面积 0-100 平方米 y = 2.5 * X.flatten() + 30 + np.random.randn(100) * 5 # 真实关系为 y = 2.5x + 30 # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 训练线性回归模型 model = LinearRegression() model.fit(X_train, y_train) # 查看模型学到的参数 print("斜率 w1 =", model.coef_) print("截距 b =", model.intercept_) # 在测试集上预测 y_pred = model.predict(X_test) # 评估模型效果 from sklearn.metrics import mean_squared_error, r2_score mse = mean_squared_error(y_test, y_pred) r2 = r2_score(y_test, y_pred) print("均方误差 MSE =", round(mse, 2)) print("R2 决定系数 =", round(r2, 4))

运行这段代码，你会看到输出类似：

斜率 w1 = [2.36930445] 截距 b = 32.67685677452138 均方误差 MSE = 25.61 R2 决定系数 = 0.9731

注意这里有几个细节：

第一，我们构造数据时真实关系是y = 2.5x + 30，模型学到的斜率和截距非常接近真实值，说明线性回归能够较好恢复数据生成规律。

第二，R2 决定系数是回归任务中最常用的评估指标，它表示模型解释了目标值多少比例的方差。R2 越接近 1 说明模型效果越好，0.97 说明模型已经拟合得不错。

2.2 逻辑回归：名字有“回归”，实际是分类算法

这是新手最容易误解的地方。逻辑回归虽然名字里带“回归”，但它解决的是分类问题，最常见的是二分类。比如判断邮件是否为垃圾邮件，判断用户是否可能流失。

逻辑回归的思路是把线性回归的输出通过 Sigmoid 函数映射到 0 到 1 之间，得到一个概率值。然后设定一个阈值（默认是 0.5），概率大于阈值判定为正类，否则判定为负类。

# 文件路径：logistic_regression_demo.py from sklearn.datasets import make_classification from sklearn.linear_model import LogisticRegression from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score, confusion_matrix # 构造二分类数据集 X, y = make_classification(n_samples=500, n_features=5, n_informative=3, n_redundant=0, random_state=42) X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 训练逻辑回归模型 clf = LogisticRegression(max_iter=1000) clf.fit(X_train, y_train) # 预测与评估 y_pred = clf.predict(X_test) acc = accuracy_score(y_test, y_pred) print("准确率 Accuracy =", round(acc, 4)) print("混淆矩阵：") print(confusion_matrix(y_test, y_pred))

新手要注意：逻辑回归的max_iter=1000是很多教程会漏掉的参数。如果数据集比较复杂，默认的迭代次数可能不够，会直接报ConvergenceWarning（收敛警告）。遇到这个问题，把它调大到 1000 或更高即可。

2.3 回归任务的评估指标

回归任务中，常用的评估指标主要有三个：

新手经常会问：什么时候用 MAE、什么时候用 RMSE？简单记：如果数据里存在极端异常值，MSE 会因为这些异常值变得非常大，此时 MAE 更稳健；如果希望更强调大误差的惩罚，就用 MSE。

3. 聚类算法：在无标签数据中发现结构

如果说监督学习是“有答案的练习”，那无监督学习就是“自己找规律”。聚类是其中最核心的任务：把一堆没有标签的样本，按相似度自动分成若干组。

聚类在实际业务中应用很广：用户分群、商品划分、异常检测、图像分割。比如电商平台把用户按购买行为分成不同的群体，然后对不同群体做个性化推荐，这就是典型的聚类应用。

3.1 K-Means：最经典的划分式聚类

K-Means 的思路非常直观：

1. 预先指定聚类数量 K。
2. 随机初始化 K 个聚类中心。
3. 计算每个样本到 K 个中心的距离，把样本归属到最近的中心。
4. 重新计算每个聚类的中心（组内均值）。
5. 重复 3 和 4，直到中心不再明显变化。

K-Means 最核心的难点是选择 K 值。K 太小，把不同类别的样本混在一起；K 太大，把同一类的样本强行切开。常用的方法是“肘部法则”：画出 K 值与损失函数（每个样本到其所属中心距离之和）的关系曲线，找到损失下降速度明显变缓的拐点。

# 文件路径：kmeans_demo.py import numpy as np from sklearn.cluster import KMeans import matplotlib.pyplot as plt # 构造三簇数据 np.random.seed(42) cluster1 = np.random.randn(100, 2) + [5, 5] cluster2 = np.random.randn(100, 2) + [0, -5] cluster3 = np.random.randn(100, 2) + [-5, 5] X = np.vstack([cluster1, cluster2, cluster3]) # 训练 K-Means 模型，设定 3 个聚类中心 kmeans = KMeans(n_clusters=3, n_init=10, random_state=42) kmeans.fit(X) # 获取聚类结果 labels = kmeans.labels_ centers = kmeans.cluster_centers_ print("聚类中心：\n", centers) # 绘图展示聚类结果 plt.scatter(X[:, 0], X[:, 1], c=labels, cmap='viridis', s=10) plt.scatter(centers[:, 0], centers[:, 1], c='red', marker='x', s=100) plt.title("K-Means 聚类结果") plt.savefig("kmeans_result.png", dpi=100)

这里有一个新版 scikit-learn 的关注点：n_init参数控制 K-Means 算法用不同随机初始点运行多少次，取最优结果。从 scikit-learn 1.4 版本开始，n_init默认值从 10 改成了'auto'，但在旧版本中默认是 10。为了代码稳定可复现，建议显式指定n_init=10。

3.2 DBSCAN：处理不规则聚类与噪声点

K-Means 虽然简单好用，但有三个明显缺点：

1. 需要预先指定 K 值。
2. 对初始中心敏感。
3. 只能发现球状聚类，对不规则形状效果差。

DBSCAN（基于密度的空间聚类算法）可以部分解决这些问题。它不需要指定聚类数量，而是通过两个参数——eps（邻域半径）和min_samples（半径内最少样本数）来判断哪些样本是“密集”的。核心思想是：把密集区域连成簇，把稀疏区域的点标记为噪声。

# 文件路径：dbscan_demo.py from sklearn.cluster import DBSCAN from sklearn.datasets import make_moons import numpy as np # 构造月牙形数据，K-Means 很难处理这种形状 X, _ = make_moons(n_samples=300, noise=0.05, random_state=42) # 训练 DBSCAN 模型 dbscan = DBSCAN(eps=0.2, min_samples=5) labels = dbscan.fit_predict(X) # 输出聚类标签，其中 -1 表示噪声点 print("聚类标签分布：", np.unique(labels, return_counts=True))

运行后你会看到，DBSCAN 能够把两个月牙形簇正确分开，这是 K-Means 做不到的。需要注意，DBSCAN 的两个参数对结果影响非常大，eps太大会把多个簇合并，太小会分裂成碎片。调参时建议用 k-距离图辅助选择 eps。

3.3 层次聚类：不需要预设 K 值

层次聚类（如 AGNES 算法）的思路是从每个样本单独作为一簇开始，逐步合并距离最近的两簇，直到满足停止条件。它不需要提前指定 K 值，而是生成一棵聚类树（树状图），你可以从树的任意层次“切一刀”得到不同粒度的聚类结果。

层次聚类的缺点也很明显：时间复杂度较高，数据量大时性能差。它更适合样本量在几千以内的场景，比如基因序列分析、文本主题层级划分。

4. 决策树与随机森林：从人类决策逻辑到集成学习

如果只能推荐一个机器学习算法作为入门必学，我会推荐决策树。原因很简单：它是所有机器学习算法中最接近人类思考方式的一种。

4.1 决策树：如何一步步做判断

决策树的工作原理就像一串“如果……那么……”的判断规则。以“是否给用户放贷”为例，树的结构可能是：

收入 > 5000？ ├─ 是 → 历史违约次数 == 0？ │ ├─ 是 → 放贷 │ └─ 否 → 不放贷 └─ 否 → 不放贷

决策树学习的核心问题是：每个节点应该选择哪个特征来划分？scikit-learn 中决策树常用的划分标准有两个：

• Gini（基尼不纯度）：衡量节点中类别不纯的程度，值越小越好。
• Entropy（信息熵）：来自信息论，同样越小越纯。

决策树的一个显著优点是可解释性强，可以把树结构画出来直接展示给业务方看。这也让它在金融风控、医疗诊断等需要解释的领域仍然有竞争力。

4.2 决策树的致命弱点：过拟合

决策树在训练集上很容易做到 100% 准确率，但换个新数据就表现很差，这就是过度拟合。为了控制过拟合，常用的手段有：

• max_depth：限制树的最大深度。
• min_samples_split：限制节点继续分裂所需的最少样本数。
• min_samples_leaf：限制叶子节点包含的最少样本数。
• 剪枝：树生成后裁剪掉对泛化没有帮助的分支。

决策树剪枝是面试中很常问的话题，也是实际调参的关键。简单说，预剪枝是在树构建过程中提前停止分裂，后剪枝是等树建完后从下往上修剪。

# 文件路径：decision_tree_demo.py from sklearn.tree import DecisionTreeClassifier from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score # 使用鸢尾花数据集 iris = load_iris() X_train, X_test, y_train, y_test = train_test_split( iris.data, iris.target, test_size=0.2, random_state=42 ) # 训练决策树，通过 max_depth 控制复杂度 clf = DecisionTreeClassifier(max_depth=3, random_state=42) clf.fit(X_train, y_train) y_pred = clf.predict(X_test) acc = accuracy_score(y_test, y_pred) print("决策树测试集准确率：", round(acc, 4)) print("模型特征重要性：", clf.feature_importances_)

feature_importances_是决策树一个很有价值的副产品，它告诉我们每个特征在分类决策中的贡献程度。这在特征工程和业务解释中非常有用。

4.3 随机森林：多棵树的集体智慧

随机森林的核心思想是“集成学习”：既然单棵决策树容易过拟合、不稳定，那就训练很多棵树，让它们投票决定最终结果。

随机森林的两个“随机”是精髓：

1. 样本随机：每棵树训练时随机有放回地抽取训练数据（Bootstrap 抽样）。
2. 特征随机：每棵树分裂时，不是从全部特征里选最优特征，而是先随机选取一部分特征，再从这部分里选最优。

这两个“随机”使得每棵树都略有不同，避免了所有树长成一模一样、投票失去意义的问题。

# 文件路径：random_forest_demo.py from sklearn.ensemble import RandomForestClassifier from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score iris = load_iris() X_train, X_test, y_train, y_test = train_test_split( iris.data, iris.target, test_size=0.2, random_state=42 ) # 训练随机森林，100 棵树 rf = RandomForestClassifier(n_estimators=100, max_depth=3, random_state=42) rf.fit(X_train, y_train) y_pred = rf.predict(X_test) acc = accuracy_score(y_test, y_pred) print("随机森林测试集准确率：", round(acc, 4))

随机森林在中小规模表格数据上表现非常出色，不需要太多调参就能取得不错的准确率，是 Kaggle 竞赛中必用的基线模型之一。相比单棵决策树，随机森林的准确率更高、过拟合更少，代价是模型变得不可解释——你很难解释 100 棵树为什么给出某个判断。

随机森林也支持回归任务：

# 文件路径：random_forest_regression_demo.py from sklearn.ensemble import RandomForestRegressor from sklearn.datasets import fetch_california_housing from sklearn.model_selection import train_test_split from sklearn.metrics import mean_squared_error, r2_score housing = fetch_california_housing() X_train, X_test, y_train, y_test = train_test_split( housing.data, housing.target, test_size=0.2, random_state=42 ) rf_reg = RandomForestRegressor(n_estimators=100, random_state=42) rf_reg.fit(X_train, y_train) y_pred = rf_reg.predict(X_test) print("随机森林回归 R2：", round(r2_score(y_test, y_pred), 4)) print("随机森林回归 MSE：", round(mean_squared_error(y_test, y_pred), 4))

5. 朴素贝叶斯：基于概率的分类方法

朴素贝叶斯是一种基于贝叶斯定理的分类算法。它的核心公式是：

P(类别|特征) = P(特征|类别) * P(类别) / P(特征)

翻译成人话就是：看到一组特征之后，我们反推它属于哪个类别的概率。

“朴素”二字指的是一个强假设：所有特征在给定类别条件下相互独立。也就是说，假设“收入高”和“学历高”在判断“是否买房”时是互不影响的——显然现实世界中它们可能有关联，但这个简化让计算变得极其简单。正因为这个“看似不合理”的假设，朴素贝叶斯在文本分类（垃圾邮件过滤、新闻分类、情感分析）等场景中表现依然出色。

# 文件路径：naive_bayes_demo.py from sklearn.naive_bayes import GaussianNB from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score iris = load_iris() X_train, X_test, y_train, y_test = train_test_split( iris.data, iris.target, test_size=0.2, random_state=42 ) # 高斯朴素贝叶斯，适用于连续数值特征 nb = GaussianNB() nb.fit(X_train, y_train) y_pred = nb.predict(X_test) print("朴素贝叶斯测试集准确率：", round(accuracy_score(y_test, y_pred), 4))

朴素贝叶斯的优点在于训练速度极快、对高维数据效果好、参数少。缺点则在于独立性假设在特征高度相关的场景下会影响精度。但是当你的特征维度巨大（比如文本的 TF-IDF 向量动辄几万维），朴素贝叶斯依然是非常值得尝试的强基线。

6. 支持向量机：用超平面划分数据

支持向量机（SVM）是机器学习中数学味道最浓的分类算法之一，但它的核心思想可以用一句话概括：在两类数据之间找到一个“最宽的马路”作为分界线，让两类样本离这条线越远越好。

“最宽的马路”在数学上叫做“最大间隔超平面”。分布在马路边缘的那些样本点就叫“支持向量”，它们是决定这条分界线位置的关键样本。

SVM 非常厉害的一个能力是核技巧。当数据在低维空间线性不可分时（比如二维平面上一堆红点和蓝点相互缠绕），SVM 可以把数据映射到高维空间，在高维里找到分离超平面。常用的核函数包括：

• 线性核：适合线性可分数据。
• 多项式核：适合有一定非线性关系的数据。
• RBF（高斯径向基）核：最常用，可以处理大部分非线性分类问题。

# 文件路径：svm_demo.py from sklearn.svm import SVC from sklearn.datasets import make_classification from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score X, y = make_classification(n_samples=500, n_features=10, n_informative=6, n_redundant=2, random_state=42) X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.2, random_state=42 ) # 使用 RBF 核的 SVM svm = SVC(kernel='rbf', C=1.0, gamma='scale', random_state=42) svm.fit(X_train, y_train) y_pred = svm.predict(X_test) print("SVM 测试集准确率：", round(accuracy_score(y_test, y_pred), 4))

SVM 的参数中，C控制误分类的惩罚力度，C越大，模型越不愿意犯错，可能导致过拟合；gamma控制单个样本的影响力范围，gamma越大，决策边界越复杂。新手用 SVM 时，建议先用默认参数跑通，再结合交叉验证调参。

SVM 的缺点是：在训练集非常大时训练速度大大降低，同时它对特征缩放非常敏感。所以使用 SVM 之前，一定要先做特征标准化处理。

7. KNN：基于邻居投票的惰性学习算法

K近邻（K-Nearest Neighbors, KNN）是机器学习里最直观的分类算法，从“物以类聚，人以群分”这个朴素的直觉出发。判断一个新样本属于哪一类，就看它距离最近的 K 个已知类别的样本是哪些，让 K 个邻居投票决定。

KNN 是典型的“惰性学习”算法：它在训练阶段几乎不做什么，只是把训练数据存起来。真正的计算发生在预测阶段——每次预测都要计算新样本和所有训练样本的距离。

# 文件路径：knn_demo.py from sklearn.neighbors import KNeighborsClassifier from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler from sklearn.metrics import accuracy_score iris = load_iris() X_train, X_test, y_train, y_test = train_test_split( iris.data, iris.target, test_size=0.2, random_state=42 ) # KNN 对特征尺度极其敏感，必须先做标准化 scaler = StandardScaler() X_train_scaled = scaler.fit_transform(X_train) X_test_scaled = scaler.transform(X_test) knn = KNeighborsClassifier(n_neighbors=5) knn.fit(X_train_scaled, y_train) y_pred = knn.predict(X_test_scaled) print("KNN 测试集准确率：", round(accuracy_score(y_test, y_pred), 4))

KNN 的核心参数是 K 值。K 太小容易受噪声影响，K 太大又可能引入其他类别的样本。实际使用中，我建议通过交叉验证选择最优 K 值，而不是拍脑袋定 5 或 3。

使用 KNN 有一个重大前提：必须做特征归一化或标准化。比如一个特征取值 0 到 1，另一个特征取值 0 到 10000，如果不做缩放，第二个特征会在距离计算中占据绝对主导地位，模型等价于只用了一个特征。

8. 神经网络：从感知机到深度学习

神经网络是目前人工智能领域的主角，也是很多初学者最想学、最头疼、最容易学偏的部分。这里我不会一次性把反向传播、梯度下降、卷积神经网络全部展开——那需要一门课而不是一篇文章。这一节的目标是帮初学者建立神经网络的宏观认知：它到底在做什么，和前面那些算法有什么本质区别。

8.1 从逻辑回归到神经元

如果只看单个神经元（感知机），它做的事情和逻辑回归本质上是相同的：对输入做加权求和，加上偏置，再通过一个激活函数输出。差别在于，神经网络不是单个神经元，而是大量神经元分层连接成网络：

• 输入层：接收特征。
• 隐藏层：对特征逐层变换和抽象。
• 输出层：输出最终结果。

中间隐藏层的存在，使神经网络能够自动学习特征间的复杂非线性关系。这也是它和传统机器学习算法最根本的区别：传统算法依赖人工设计特征，而神经网络可以自动从数据中学习特征表示。

# 文件路径：neural_network_demo.py from sklearn.neural_network import MLPClassifier from sklearn.datasets import load_digits from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler from sklearn.metrics import accuracy_score # 手写数字数据集，8x8 像素图像 digits = load_digits() X_train, X_test, y_train, y_test = train_test_split( digits.data, digits.target, test_size=0.2, random_state=42 ) # 神经网络同样对特征尺度敏感 scaler = StandardScaler() X_train_scaled = scaler.fit_transform(X_train) X_test_scaled = scaler.transform(X_test) # 一个简单的多层感知机 mlp = MLPClassifier(hidden_layer_sizes=(64, 32), max_iter=500, random_state=42) mlp.fit(X_train_scaled, y_train) y_pred = mlp.predict(X_test_scaled) print("神经网络测试集准确率：", round(accuracy_score(y_test, y_pred), 4))

这段代码用了一个 64 神经元 + 32 神经元的双层隐藏层网络来识别手写数字。如果你运行准确率和 SVM 对比，会发现两者在这个任务上表现接近。这引出一个重要结论：在中小规模数据集上，传统算法并不比神经网络差多少，甚至训练更快、更容易调参。

8.2 循环神经网络与其他网络结构

除了处理表格数据的前馈神经网络（MLP），深度学习领域还有大量专门面向特定数据类型的网络结构：

• 卷积神经网络（CNN）：专为图像设计。通过卷积核在图像上滑动提取局部特征，在图像分类、目标检测、人脸识别等领域有统治级表现。
• 循环神经网络（RNN）：专为序列数据设计。它在处理文本、语音、时间序列时，不仅看当前输入，还会保留上一步的隐藏状态，用来捕捉序列中的时间依赖关系。循环神经网络的隐藏状态更新公式是理解 RNN 的关键。
• Transformer 与图神经网络：BERT、GPT 等大语言模型的基础结构都是 Transformer，它通过注意力机制处理序列数据。图神经网络（GNN）则面向社交网络、分子结构等图数据。

对初学者，我建议按这样的路径学习：先掌握前馈神经网络和反向传播的基本原理，再根据你感兴趣的数据类型选择深入 CNN 或 RNN，不要一开始就把所有模型都学一遍。

9. 环境搭建与学习路线建议

讲完十大算法，最后来说说动手实践的环境准备。很多初学者卡在环境搭建上，这里给出一个最简方案。

9.1 安装 Python 环境

推荐安装 Python 3.10 或 3.11 版本。具体版本请以实际下载页面为准，本文重点演示通用思路。到 Python 官网下载对应系统的安装包，安装时务必勾选“Add Python to PATH”。

9.2 安装机器学习核心库

# 创建虚拟环境（推荐，避免污染全局 Python） python -m venv ml_env # 激活虚拟环境 # Windows: ml_env\Scripts\activate # macOS / Linux: source ml_env/bin/activate # 安装核心库 pip install numpy pandas matplotlib scikit-learn jupyter

安装完成后，可以在 Python 中验证：

import sklearn import pandas as pd import numpy as np print("scikit-learn 版本：", sklearn.__version__) print("pandas 版本：", pd.__version__) print("numpy 版本：", np.__version__)

如果版本都能正常输出，训练环境就准备好了。

9.3 入门到进阶的学习路线

了解十大算法之后，建议按下面的路线继续学习：

1. 在公开数据集上跑通每个算法的基础示例。CSDN 熟悉的鸢尾花分类、手写数字识别、收入预测都是很经典的练习。收入预测这类任务特别适合练习决策树与随机森林，数据里有数值特征也有类别特征，能顺便学到特征处理。
2. 掌握交叉验证与 GridSearchCV 进行模型调参。调参本质是寻找模型效果与泛化能力之间的平衡，而不是盲目追求训练集准确率。
3. 学习特征工程。包括处理缺失值、类别特征编码、特征缩放、特征选择。Kaggle 比赛的经验反复证明：特征工程对最终效果的提升往往大于换模型。
4. 深入理解评估指标。对于分类任务，除了准确率，还要了解精确率、召回率、F1 值、AUC 等指标，尤其是处理不平衡数据时必须用对指标。
5. 学习深度学习框架 PyTorch 或 TensorFlow。学到这里，已经具备理解深度学习的数学基础了。

9.4 推荐参考书

经典教材选一本就够？这个问题没有标准答案，但有几本公认值得读：

• 周志华《机器学习》，也就是常说的“西瓜书”，适合构建全面理论体系。
• 李航《统计学习方法》，理论推导更细致严谨，适合考研、面试、进阶阅读。
• 《Python机器学习》（Sebastian Raschka 著），更偏工程实践，Python 代码多，适合动手党。

如果只推荐一本入门，我倾向于“西瓜书 + 配套代码练习”的组合。理论看西瓜书，实操用 scikit-learn 跟着做，两者互补。

10. 常见问题与避坑指南

初学者在实际运行代码时，最容易遇到下面这些问题：

11. 总结与下一步行动

这篇教程为你搭起了一张完整的机器学习算法地图。你动手实践的时候，要始终带着“三类核心任务”的视角来理解每个算法：回归预测连续值、分类预测离散标签、聚类发现数据内在结构。回归看线性回归，分类看逻辑回归、决策树、随机森林、朴素贝叶斯、SVM、KNN、神经网络，聚类看 K-Means 与 DBSCAN。集成学习（以随机森林为代表）是提高准确率的可靠方案，神经网络则是处理图像、文本、语音等复杂数据类型的必经之路。

建议你现在就做三件事：第一，安装虚拟环境，把文中的示例代码逐行跑通；第二，找一个你真正关心的数据集（比如在公开数据集网站下载一份数据），用今天讲到的至少三种算法做对比；第三，把准确率之外的那些评估指标也打印出来看看，体会不同指标之间的差异。

机器学习入门没有捷径，但有清晰的地图。这篇文章能帮你省下四处乱撞的那几周时间，接下来，就是跑通代码、复现结果、提出问题、不断迭代的练习循环了。