回归和线性模型
2021-10-15
| 2023-8-6
0  |  阅读时长 0 分钟
type
status
date
slug
summary
tags
category
icon
password
Property

线性回归

适用于自变量X和因变量Y为线性关系,具体来说,画出散点图可以用一条直线来近似拟合。一般线性模型要求观测值之间相互独立、残差(因变量)服从正态分布、残差(因变量)方差齐性 统计模型被假定为
该模块允许通过普通最小二乘法 (OLS)、加权最小二乘法 (WLS)、广义最小二乘法 (GLS) 和具有自相关 AR(p) 误差的可行广义最小二乘法进行估计。
notion image
notion image

广义线性回归

是为了克服线性回归模型的缺点出现的,是线性回归模型的推广。首先自变量可以是离散的,也可以是连续的。离散的可以是0-1变量,也可以是多种取值的变量。广义线性模型又取消了对残差(因变量)服从正态分布的要求。残差不一定要服从正态分布,可以服从二项、泊松、负二项、正态、伽马、逆高斯等分布,这些分布被统称为指数分布族。
与线性回归模型相比较,有以下推广:
随机误差项不一定服从正态分布,可以服从二项、泊松、负二项、正态、伽马、逆高斯等分布,这些分布被统称为指数分布族。
引入link函数g(⋅)。因变量和自变量通过联接函数产生影响。根据不同的数据,可以自由选择不同的模型。大家比较熟悉的Logit模型就是使用Logit联接、随机误差项服从二项分布得到模型。
notion image
notion image
 

广义估计方程

实际工作中一些资料由于部分观察值含有非独立或相关的信息,不能用传统的一般线性(或广义线性进行分析),故而发展出了广义估计方程。如纵向数据,重复测量数据,整群抽样设计资料,聚集性资料或是多次层次系统结构资料。
notion image
 

广义加性模型

广义加性模型允许对广义线性模型中的平滑项进行惩罚估计
 
 

稳健回归

稳健回归(robust regression)是将稳健估计方法用于回归模型,以拟合大部分数据存在的结构,同时可识别出潜在可能的离群点、强影响点或与模型假设相偏离的结构。当误差服从正态分布时,其估计几乎和最小二乘估计一样好,而最小二乘估计条件不满足时,其结果优于最小二乘估计。
 

线性混合效应模型

在线性模型中加入随机效应项,消了观测值之间相互独立和残差(因变量)方差齐性的要求。
 
notion image

离散因变量回归

notion image
notion image
 

广义线性混合效应模型

广义线性混合效应模型是混合效应模型的推广
notion image
 
  • Statsmodels
  • Statsmodels时间序列
    目录