news 2026/7/30 2:46:44

线性回归核心 —— 误差项为什么必须服从高斯分布

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
线性回归核心 —— 误差项为什么必须服从高斯分布

一句话精华:线性回归的所有数学推导,都建立在 "误差项独立同分布且服从高斯分布" 这个假设之上。

一、一元线性回归模型

基础公式:
y=β0+β1x+ε

  • β0β1:模型参数(待求)
  • ε误差项,除线性因素外的随机因素产生的误差

关键问题:误差项能省略吗?→ 不能。正是因为有误差项,我们才能基于误差的特点来估计参数。

二、误差项三大假设

假设1:独立
每个样本点相互独立。例:贷款场景中,每个人贷多少钱只基于自己的工资,互不影响。

假设2:同分布
所有样本都服从同一套分布体系。例:人民银行的评估体系对每个人都一样,不会因人而异。

假设3:高斯分布(正态分布)
误差项服从均值为 0、方差为σ2的正态分布:

三、为什么必须是高斯分布?

因为只有误差服从高斯分布,才能用极大似然估计推导出最小二乘损失函数,整个参数求解才有数学依据。

推导链路:

  1. 误差项满足高斯分布 →
  1. 代入
  1. 得到y的条件概率分布
  1. 用极大似然估计 → 最终推导出最小二乘损失函数

💡结论:高斯分布假设不是随便选的,它是 "最小二乘法" 的数学根基。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/30 2:45:34

GPT 5.6场景自适应能力解析:从技术原理到工作流集成实战

上周,一个朋友在深夜发来消息:“听说 GPT 5.6 已经出来了,性能提升特别大,是真的吗?我们团队正在评估要不要升级。” 我打开几个技术社区,发现类似的讨论已经铺天盖地。从表面上看,这似乎只是又…

作者头像 李华
网站建设 2026/7/30 2:45:10

GESP2026年3月认证C++七级( 第一部分选择题(1-7))精讲

第一题 递推式 T(n)2T(n-1)1第一步:不要急着套公式很多同学一看到递推式,就想到 Master 定理。但是 Master 定理只适用于T(n)aT(n/b)f(n)例如T(n)2T(n/2)n而本题是T(n)2T(n-1)1这里不是n 变成 n/2而是n 变成 n-1所以 Master 定理不能使用!第二…

作者头像 李华
网站建设 2026/7/30 2:36:07

3.5T静默分帧,CRC16校验:Modbus-RTU帧结构解析

短文标题:3.5T静默分帧,CRC16校验:Modbus-RTU帧结构解析你有没有想过一个问题:Modbus-RTU数据帧没有固定的帧头,接收方怎么知道一帧从哪里开始、到哪里结束?靠“沉默”来分帧。 协议规定:两个字…

作者头像 李华
网站建设 2026/7/30 2:32:17

SBUS协议解析:从串行通信原理到航模遥控实战应用

1. 从“玩具”到“专业”:SBUS协议为何成为模型遥控的隐形冠军如果你玩过航模、穿越机或者一些高端的遥控车,你可能听说过PWM、PPM这些传统的信号传输方式。老玩家们肯定记得,早期接收机上一排密密麻麻的伺服器接口,每个通道一根信…

作者头像 李华
网站建设 2026/7/30 2:30:42

《P10722 [GESP202406 六级] 二叉树》

题目背景 对应的选择、判断题:试题 - GESP 202406 C 六级 - 洛谷有题 题目描述 小杨有一棵包含 n 个节点的二叉树,且根节点的编号为 1。这棵二叉树任意一个节点要么是白色,要么是黑色。之后小杨会对这棵二叉树进行 q 次操作,每…

作者头像 李华
网站建设 2026/7/30 2:30:39

智能车环岛处理:基于状态机与动态圆弧跟踪的鲁棒控制方案

1. 项目概述:环岛处理的挑战与核心思路在智能车竞赛的赛道上,环岛是一个标志性的、极具挑战性的元素。它不像直道那样可以靠简单的偏差控制,也不像弯道那样有连续的曲率变化。环岛是一个离散的、结构化的特殊赛道元素,要求小车在高…

作者头像 李华