VIF（方差膨胀因子）衡量某自变量因与其他自变量线性相关而导致其回归系数方差放大的倍数，VIF＞5或10提示潜在共线性；它针对单个变量诊断，需对每个特征以其余为自变量做OLS回归计算，依赖statsmodels而非sklearn，输入须为无缺失、纯数值、不含截距的矩阵。
什么是VIF，为什么它能检测共线性
VIF（Variance Inflation Factor，方差膨胀因子）衡量的是某个自变量与其他自变量线性相关时，其回归系数方差被放大的倍数。VIF > 5 或 > 10 常被当作存在显著共线性的经验阈值——不是绝对标准，但足够触发警觉。
关键点在于：VIF 是对单个变量的诊断，不是模型整体指标；它依赖于你把哪个变量当“因变量”去拟合其余变量。所以有 k 个特征，就要算 k 次 OLS 回归。
实际中，statsmodels 提供了最直接的接口，而 sklearn 没有内置 VIF 计算——别白费劲找 sklearn.metrics.vif，它不存在。
用 statsmodels.stats.outliers_influence.variance_inflation_factor 计算单变量VIF
这个函数只接受二维数组（或 DataFrame）和列索引，返回该列对应的 VIF 值。必须注意三点：
立即学习“Python免费学习笔记（深入）”；
- 输入数据不能含缺失值（
NaN），否则抛ValueError: Input contains NaN - 必须是数值型，类别变量要先
pd.get_dummies或OneHotEncoder编码，且避免哑变量陷阱（删掉一列基准） - 截距项（常数列）不能参与 VIF 计算——如果你加了
sm.add_constant(X)，传给variance_inflation_factor的必须是原始X，不含常数列
import pandas as pd
import numpy as np
from statsmodels.stats.outliers_influence import variance_inflation_factor
<h1>假设 df 是你的特征 DataFrame（不含 target）</h1><p>X = df[['x1', 'x2', 'x3', 'x4']] # 确保全是数值、无 NaN</p><div class="aritcle_card flexRow">
<div class="artcardd flexRow">
<a class="aritcle_card_img" href="/xiazai/skill6081" title="python-code-analyz"><img
src="https://img.php.cn/upload/skill/000/000/081/179077148379011.jpg" alt="python-code-analyz" onerror="this.onerror='';this.src='/static/lhimages/moren/morentu.png'" ></a>
<div class="aritcle_card_info flexColumn">
<a href="/xiazai/skill6081" title="python-code-analyz">python-code-analyz</a>
<p>专业Python代码分析与优化，支持语法检查、安全扫描、性能评估、复杂度分析及重构后优化代码生成。</p>
</div>
<a href="/xiazai/skill6081" title="python-code-analyz" class="aritcle_card_btn flexRow flexcenter"><b></b><span>下载</span> </a>
</div>
</div><p>vif_data = pd.DataFrame()
vif_data["feature"] = X.columns
vif_data["VIF"] = [variance_inflation_factor(X.values, i) for i in range(len(X.columns))]</p>运行后你会看到每列的 VIF 值。如果某列报错 LinAlgError: Singular matrix，说明该列能被其他列完全线性表示（完美共线性），此时 VIF 理论上为无穷大，variance_inflation_factor 直接崩溃——这是最硬的信号，得立刻查相关系数或秩。
批量计算 VIF 并自动过滤高共线性变量
手动看表容易漏，更实用的是写个循环剔除高 VIF 变量，直到全部 < VIF 阈值（比如 5）。逻辑是：每次找出当前最大 VIF 的变量，删掉它，重算剩下变量的 VIF，直到所有 ≤ 阈值。
- 不要一次性删所有 VIF > 5 的变量——它们之间可能互为原因，删一个后其余的 VIF 会下降
- 每次只删一个，且必须重新计算全部剩余变量的 VIF（不能复用旧值）
- 建议用列名索引操作，避免位置错位；
X.drop(columns=[col], inplace=True)比下标删除更安全 - 如果数据量大（>10k 行、>50 列），
variance_inflation_factor内部调用np.linalg.lstsq会变慢，可考虑用sklearn.linear_model.LinearRegression手动实现单次回归来加速（但精度略低）
一个轻量级自动清理函数示例：
def drop_high_vif(X, thresh=5.0):
dropped = True
while dropped:
dropped = False
vif_list = [variance_inflation_factor(X.values, i) for i in range(X.shape[1])]
max_vif = max(vif_list)
if max_vif > thresh:
max_idx = vif_list.index(max_vif)
col_to_drop = X.columns[max_idx]
X = X.drop(columns=[col_to_drop])
print(f"Dropped {col_to_drop} (VIF = {max_vif:.2f})")
dropped = True
return X
VIF 计算前最容易被忽略的预处理细节
很多人卡在第一步不是代码写错，而是数据状态不对：
-
variance_inflation_factor对标准化不敏感——它基于 R²，而 R² 不受变量缩放影响。所以不需要先StandardScaler，反而标准化后还可能因浮点误差让本应满秩的矩阵变奇异 - 时间序列或面板数据中，若变量含单位根（非平稳），VIF 会严重失真；此时应先做差分或协整检验，再算 VIF
- 如果用了多项式特征（如
PolynomialFeatures(degree=2)），高阶交互项天然高度相关，VIF 必爆——这不是 bug，是设计如此，得靠正则化（Ridge/Lasso）而非剔除来处理 - 当样本量 n_samples ），矩阵必然不满秩，VIF 全崩；此时应先降维（PCA）或直接上正则回归
真正麻烦的不是算不出 VIF，而是算出来都 np.linalg.cond）或特征值分解，VIF 只是共线性诊断的第一步。
