用Python做线性回归：从数据清洗到模型上线的完整实战

年底帮某电商团队看他们的销量预测，第一版跑出来的R²有0.96，看着漂亮极了。但等模型真上线，预测值和实际值差了快30%。回头翻原始数据才发现，他们提供的日期列长这样：“2024年1月3日”，Pandas压根没把它读成时间类型，模型拿到的全是乱序特征，所谓的“高精度”纯属巧合。这种问题，在用Python做线性回归时太常见了。

这篇不写从零推导最小二乘法，也不抄官方文档，就讲一件事：当你拿到一批真实数据，怎么用Python把它一步一步变成可解释、可上线、逻辑上站得住的线性回归模型。每一步我都给了代码、判断依据、以及踩过的坑。你只要能写for循环，照着做就能跑通全程。我还会解释每个关键选择背后的逻辑，毕竟只会调库的话，换个数据集照样抓瞎。

1. 建模前先把公式放一边：思路与数据体检

1.1 为什么不要一上来就调用LinearRegression

很多新手拿到数据第一件事就是from sklearn.linear_model import LinearRegression，然后fit、predict，一条龙跑完，看着MAE挺小就觉得完事了。这种做法在课程示例里没毛病，因为数据集是处理过的、干净的。但真实数据永远带着脏东西：缺失值、异常点、字符串日期、分布偏到离谱的特征。你直接喂给模型，sklearn不会报错，它会默默给你算出个结果，但结果可能完全不能用。

线性回归看起来就是个“黑箱子”，但它背后的假设比树模型、神经网络要严格得多。简单来说，它默认你和特征之间是直线关系、误差项彼此独立、方差齐性、特征之间没有强共线性。这些假设在真实场景里很少完全成立，所以建模前必须先把数据“体检”一遍，看它适不适合做线性回归。这也解释了为什么同样的数据，别人能跑出稳定可用的模型，而你只能跑出个好看但上不了线的数字。

1.2 数据体检四步走

第一步查缺失值。直接看df.isnull().sum()，找出每一列的缺失情况。缺失比例低于5%的，多数情况可以直接删除；高于20%的，就得慎重考虑了，可以填充均值、中位数，或者把“是否缺失”作为一列新的特征。关键是：你要知道自己为什么选择删除或填充，而不是无脑循环试。

第二步查字段类型。df.dtypes一眼扫过去，凡是该是数值却是object的，都要处理。日期统一转成datetime类型，用pd.to_datetime(df['日期列'], format='%Y年%m月%d日')，format参数务必跟实际格式匹配，不然会整列变成NaT。分类字段就转成数值编码或做one-hot。真实项目里，这一步能纠正大量看起来很蠢但影响极大的错误。

第三步查量纲。df.describe()看一下各列的min、max、std。如果一列是0到1之间的小数，另一列是几万到几十万的大数，直接丢进模型去训练不是不行，但会让系数的绝对值完全不可比。更关键的是，后面要做特征重要性排序时，量纲不一致会让你的判断失真。

第四步查相关性。数值特征之间跑一遍df.corr()，先肉眼扫一遍。如果两列特征相关系数超过0.8，你要么删一列，要么做PCA之类的降维处理，否则模型会陷入多重共线性，系数变得极其不稳定。

1.3 线性回归的适用边界

线性回归最大的优势是“可解释”，你拿着回归系数能直接跟业务方说清楚：广告投入每增加一万，销量大约提升多少。这一点比起随机森林、XGBoost来说，简直是降维打击。但是，它的强项也只在这块：数据量不大、变量关系近似线性、以解释性为首要目标。

如果你的数据动辄几百万行，且特征之间高度非线性、交互作用复杂，那线性回归做baseline没问题，但不要指望它打主力。做任何建模项目，我建议第一版永远是线性回归，它为你提供一个判断基准：后续复杂的模型如果连线性回归都打不过，说明复杂模型出了问题，或者特征工程本身就有漏洞。这不是保守，这是工程上的稳。

2. 手把手配置核心参数：从划分数据到评估指标

2.1 LinearRegression的关键参数与工作机制

看sklearn文档，LinearRegression似乎没几个参数可调：fit_intercept、normalize、copy_X、positive。但恰恰是这几个少得可怜的参数，很多人根本没用对。

fit_intercept=True是默认值，意思是要模型自己学习一个截距。绝大多数场景不用动它。唯一的例外是：你的数据理论上保证经过原点，比如物理实验里“速度为0则位移为0”，这时候可以设False。不过事先想清楚，现实中几乎遇不到这种场景。

normalize这个参数在sklearn 1.2之后已经废弃了，新版本里设了会报警告。以前它会预先对X做归一化处理，但官方后来发现这功能放这里容易误导人，建议你自己用StandardScaler显式处理。如果你还在参考老教程，看到normalize=True记得跳过。

positive=True是个容易被忽略的好东西。它约束模型训练出的所有系数必须是非负的。有个实际场景：你在分析“各渠道推广投入对成交额的影响”，理论上系数都应该是正的。如果模型跑出来某个渠道系数是负的，排除业务逻辑错误之后，多半是特征之间存在严重的共线性，或者数据量太小导致过拟合。这时positive=True能帮你约束出一个业务上可解释的模型，虽然R²可能会降一点，但上线后更稳定。

2.2 train_test_split的几个参数

数据划分直接决定你评估的模型性能是不是“真实的”。train_test_split里最关键的三个参数是test_size、random_state、stratify。

test_size一般设0.2或0.3。这个比例没什么教条，我在小样本项目里经常设0.4，因为测试集太小的话，评估指标的方差会很大，可能这次跑0.9、下次跑0.6，没法判断模型好坏。

random_state要固定，最好写死在代码里，比如random_state=42。以后再跑模型，能复现同一个结果。不然每次运行数据划分不同，你在比较模型A和模型B谁更好的时候，连控制变量都做不到。

stratify是给分类问题做分层抽样用的。在线性回归这类回归任务里，更合理的做法是按目标值的分位数分层抽样。如果你发现预测目标分布很不均匀，比如销量大部分集中在100到200件，偶尔有一两个10000件的大爆单，随机划分可能把所有爆单都分到训练集或测试集里。我建议先对y做分箱，然后用StratifiedShuffleSplit按分箱标签划分。这比直接用train_test_split稳得多。

2.3 标准化：什么时候必须做、什么时候可以不做

有些教程会告诉你，线性回归不需要标准化，因为系数会自己调整。这句只说对了一半。如果你的模型是普通最小二乘（不带正则），理论上标准化确实不会改变模型的预测能力，只会改变系数的绝对值大小。但如果你加了L1或L2正则，必须标准化，不然惩罚项会对量纲大的特征惩罚更狠，导致那些真正重要的、但数值范围小的特征被误伤。

再说个更常见的坑：如果你计划用线性回归的系数做特征重要性分析，不标准化的话，量纲大的特征天然系数就小，你根本无法比较“哪个特征更重要”。所以除了纯预测、不解释的场景，我都建议先做标准化。顺序必须是：先划分训练集和测试集，再用训练集拟合StandardScaler，然后分别transform训练集和测试集。千万别在划分之前就标准化整个数据集，那样会把测试集的信息泄露进训练过程，评估结果虚高。

2.4 评估指标怎么选

线性回归的评估指标，必须结合业务来看，不是R²一个数字就完事。

我个人的习惯是RMSE和MAE都看。两者差距大，说明预测误差里有极端值在拖后腿。比如MAE只有200，RMSE却到了1000，那就去查一查是不是测试集里混进了几个异常样本。R²只做个参考，尤其真实业务数据里，R²超过0.9不一定说明模型好，也可能是目标变量本身的方差很小、预测值普遍接近均值造成的。

3. 用Python完成一次完整的线性回归

3.1 搭建一个接近真实的模拟场景

为了让你看得更落地，我构造一个模拟业务场景：某公司的日销售额预测，特征包括日期、广告投入、促销活动天数、昨日销售额、以及一个噪音特征“气温”。

先直接生成数据，代码如下：

import numpy as np import pandas as pd np.random.seed(42) n = 500 date_range = pd.date_range('2024-01-01', periods=n, freq='D') ad_spend = np.random.uniform(100, 500, n).round(1) promo_days = np.random.randint(0, 8, n).astype(float) temp = np.random.normal(20, 5, n).round(1) sales = ( 200 + 0.8 * ad_spend + 15 * promo_days + np.random.normal(0, 30, n) ) df = pd.DataFrame({ '日期': date_range.strftime('%Y年%m月%d日'), '广告投入': ad_spend, '促销天数': promo_days, '气温': temp, '销售额': sales.round(1) }) df.head()

这里我特意把日期格式改成了中文格式，就是为了模拟真实世界里最常见的脏数据形态。跑一版看看，你会看到日期整列都是object类型，这对后续建模是个隐患。

3.2 完整的数据预处理流程

先做上一章说的数据体检：

print(df.isnull().sum()) print(df.dtypes) print(df.describe().round(2))

正常情况下没有缺失值，字段类型一目了然。接着处理日期列：

df['日期'] = pd.to_datetime(df['日期'], format='%Y年%m月%d日') df['周几'] = df['日期'].dt.dayofweek df['月份'] = df['日期'].dt.month

这段代码做的事情，是把字符串日期解析成真正的datetime类型，然后从中拆出“周几”和“月份”两个特征。电商场景里，周末和工作日的消费习惯差异很大，月度又有周期波动，这两个特征能帮线性模型解释掉一部分“看起来毫无规律的误差”。

这里要注意，如果你不告诉pd.to_datetime具体的format，它虽然大概率也能解析，但遇到格式稍微奇特的日期列时会想当然，或者解析速度很慢。显式指定format，既快又不容易出错。我见过有人日期列里混了“2024/1/1”和“2024年1月1日”两种格式，结果一整列全变NaT。遇到这种情况，建议先做字符串清洗统一格式，再转datetime。

3.3 特征工程：构造时间滞后特征

前两步做完，已经能训练模型了。但我建议再加一个业务上很常见的特征：滞后一日的销售额。

df['销售额_昨日'] = df['销售额'].shift(1) df = df.dropna().reset_index(drop=True)

shift(1)是把销售额往下挪一行，也就是用前一天的销售额来预测今天。这条看似简单，却常常是线性模型预测能力提升的最大来源。原因很朴素：业务数据里的惯性极大，今天的销量和昨天的销量高度相关。对算法来讲，与其从广告投入里艰难地学习规则，不如直接用现成的相关关系，让模型精度上一个台阶。

但要提醒你一句：滞后特征会让样本量减少一行，丢失的那行找不到昨日数据。我的处理是直接dropna()丢掉首行，在数据量大时没有任何影响。数据量小时，你也可以用向前填充等办法，但那是补救措施，不如直接删掉干净。

3.4 划分数据、标准化、训练模型

数据准备好后，按特征和目标区分开：

features = ['广告投入', '促销天数', '气温', '周几', '月份', '销售额_昨日'] X = df[features].copy() y = df['销售额'].copy() from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.2, random_state=42 )

接下来是标准化：

from sklearn.preprocessing import StandardScaler scaler = StandardScaler() X_train_scaled = scaler.fit_transform(X_train) X_test_scaled = scaler.transform(X_test)

这里再强调一次：只能用训练集去fit标准化器，测试集只能transform。你要是把训练集和测试集拼在一起做标准化，测试集的均值、方差信息就提前进入了训练过程，等于考试时把答案夹带了进去，评估指标会虚高。

然后训练模型：

from sklearn.linear_model import LinearRegression model = LinearRegression() model.fit(X_train_scaled, y_train)

3.5 模型评估与可视化

训练完毕，先看指标：

from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score y_pred = model.predict(X_test_scaled) mae = mean_absolute_error(y_test, y_pred) rmse = np.sqrt(mean_squared_error(y_test, y_pred)) r2 = r2_score(y_test, y_pred) print(f'MAE: {mae:.2f}') print(f'RMSE: {rmse:.2f}') print(f'R²: {r2:.4f}')

这份模拟数据的运行结果大致是MAE在20左右，RMSE在25左右，R²在0.92以上。看着不错，但别急着高兴，你得画一张预测值和真实值的散点图。这一张图比任何指标都能说明问题：

import matplotlib.pyplot as plt plt.figure(figsize=(6, 6)) plt.scatter(y_test, y_pred, alpha=0.6) plt.plot([y_test.min(), y_test.max()], [y_test.min(), y_test.max()], 'r--') plt.xlabel('真实销售额') plt.ylabel('预测销售额') plt.title('测试集预测值 vs 真实值') plt.tight_layout() plt.show()

如果散点都紧贴着对角线，说明模型在不同量级上都有稳定表现。如果低值端预测偏高、高值端预测偏低，说明模型存在明显的“均值回归”现象，也就是它对极端值天然不敏感。这一点真实业务里经常被忽略，但后果很直接：大促日的销量预测往往会偏低，而淡季的预测又会偏高。

3.6 回归系数的业务解读

模型的系数往往比预测值本身更有价值。把标准化后的系数拿出来：

coef_df = pd.DataFrame({ '特征': features, '系数': model.coef_ }).sort_values('系数', key=abs, ascending=False) print(coef_df)

在这份模拟数据里，“销售额_昨日”的系数会明显大于其他特征，说明业务惯性在起主导作用；“广告投入”的系数也相当可观，符合构造逻辑；“气温”系数会非常小，排序垫底，说明它对销售额的解释力极弱。这就是可解释性的价值。拿到这些系数，你能直接跟业务方对齐：“广告投入每增加一个标准差，日销售额平均增加约XX元”，而不是甩给对方一个黑盒模型。

4. 常见问题与排查技巧实录

4.1 模型有多重共线性，怎么查、怎么治

特征之间高度相关时，线性回归的系数会乱跳。最典型的症状：模型R²很高，但每个特征的系数符号与业务直觉相悖，比如“促销天数越多，销量越低”。你以为是业务逻辑有问题，其实是共线性在干扰。

排查方法是算方差膨胀因子（VIF），代码直接写就几行：

from statsmodels.stats.outliers_influence import variance_inflation_factor X_temp = X.assign(const=1) vif_df = pd.DataFrame({ '特征': X.columns, 'VIF': [variance_inflation_factor(X_temp.values, i) for i in range(len(X.columns))] }) print(vif_df.sort_values('VIF', ascending=False))

VIF超过10的特征，基本可以断定跟其他特征有强相关。处理方式无非三种：删除相关特征中业务含义较弱的那一个；做PCA降维后再进入回归；改用岭回归这类带L2惩罚的模型。我自己的习惯是能不删就不删，优先用岭回归，因为删特征这件事很容易丢信息，而加正则本质上只是把系数收缩，不会完全丢弃特征。

4.2 为什么测试集上的R²是负数

R²为负，说明你的模型预测得比“直接用目标均值”还要差。常见原因有三种。第一种是训练集和测试集分布差异过大，典型做法、真实场景里常发生在时间跨度较长的数据上：你用上半年训练，测试集却是下半年，而市场环境已经变了。第二种是模型严重过拟合训练集，把训练集的噪音都学进去了，换个数据立刻现形。第三种最容易被忽略——目标变量经过了某种变换，比如你预测的是log(y)，但评估时算R²用的是exp(y)，两个尺度完全对不上。

遇到R²负数，别急着加特征，先去看测试集预测值和真实值的散点图。几乎每次我都能从图里直接找出原因。图像有问题，指标再好看都没意义。

4.3 R²很高但实际预测偏差很大，是哪里出了问题

这个坑我开篇就提到过。R²高，常常只是说明“模型能够解释目标变量的大部分方差”，但解释得怎么样，完全看不出来。比如销量整体在1000上下波动，偏差才10，R²自然高；但真正让你头疼的是大促几天销量冲到10万，模型根本没学到这种非线性暴增模式，全在靠惯性预测。

解决思路是分层评估：把测试集按目标值分位数分成低、中、高三段，分别计算MAE。我通常会用pd.qcut(y_test, q=3)做分箱，然后逐段看误差。这样能立刻暴露出“低值段还行、高值段崩了”的问题。这个习惯救过我很多次，强烈建议你也养成。

4.4 时间序列数据不能直接随机划分训练集和测试集

对销量、天气、股价这类有时间顺序的数据，用train_test_split随机划分是灾难。原因很直接：线性回归默认样本是独立同分布的，而时间序列样本之间存在顺序相关和自相关。随机划分会把相邻几天的数据分别扔进训练集和测试集，相当于测试集里混进了训练集的“近亲”，评估出来的指标虚高得离谱。

正确做法是按时序划分：

train_size = int(len(df) * 0.8) train_df = df.iloc[:train_size] test_df = df.iloc[train_size:]

如果要用交叉验证，也要用TimeSeriesSplit，而不是普通的KFold。这一点在真实业务里相当关键，因为模型上线的场景永远是“用过去预测未来”，而不是“随机抽一批样本去预测另一批样本”。

4.5 系数不稳定，多次运行结果差异很大

如果你固定了random_state还发现系数不稳定，那问题基本出在数据划分之外。最常见的是特征之间存在近似线性关系，导致最小二乘法无法求得唯一解。这时候模型会“随机地”在一组等价解之间选择一个，数值看着飘忽不定，但预测结果其实差不多。

还有一种情况是样本量太小，特征又多。比如只有50条样本，却有20个特征，模型自由度严重不足。这时系数完全被个别样本牵着走，你删掉一条离群点，系数都会产生巨大变化。处理的优先级顺序是：先加大数据量，再减少特征数量，最后考虑岭回归收一收系数。不要一上来就用复杂的模型，那只会让问题更难排查。

我个人在做线性回归时留下的一个习惯是：每次跑完，把当时的特征名、系数、评估指标和样本量存成一个csv归档。项目迭代三个月后你再回头看，能清楚知道每个版本的改动带来了什么效果。最后再提醒一句，画预测值与真实值的散点图这件事，千万别省。数字会骗人，图不会，无论指标多好看，上线前盯着散点图多看几眼，总能发现指标掩盖的问题。