背景
本期的分析中,使用模拟数据对SHAP值进行可视化复现, 采用文献中“cd图”这一形式来展示SHAP值的分布情况。 通过箱形图的展示,能够清晰地对比不同变量在不同情境下(如清洁天与雾霾天)对模型输出的影响
代码实现
模型构建
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
plt.rcParams['font.family'] = 'Times New Roman'
plt.rcParams['axes.unicode_minus'] = False
import warnings
warnings.filterwarnings("ignore", category=FutureWarning)
from sklearn.model_selection import train_test_split
df = pd.read_excel('2025-1-18公众号Python机器学习AI.xlsx')
# 划分特征和目标变量
X = df.drop(['y'], axis=1)
y = df['y']
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3,
random_state=42, stratify=df['y'])
from xgboost import XGBClassifier
from sklearn.model_selection import GridSearchCV, StratifiedKFold
from sklearn.metrics import accuracy_score
# 定义 XGBoost 二分类模型
model_xgb = XGBClassifier(use_label_encoder=False, eval_metric='logloss', random_state=8)
# 定义参数网格
param_grid = {
'n_estimators': [50, 100, 200],
'max_depth': [3, 5, 7],
'learning_rate': [0.01, 0.1, 0.2],
'subsample': [0.8, 1.0],
'colsample_bytree': [0.8, 1.0]
}
# 定义 K 折交叉验证 (Stratified K-Fold)
kfold = StratifiedKFold(n_splits=5, shuffle=True, random_state=8)
# 使用网格搜索寻找最佳参数
grid_search = GridSearchCV(estimator=model_xgb, param_grid=param_grid, scoring='accuracy',
cv=kfold, verbose=1, n_jobs=-1)
# 拟合模型
grid_search.fit(X_train, y_train)
# 使用最优参数训练模型
xgboost = grid_search.best_estimator_
使用XGBoost算法进行二分类任务,并通过网格搜索(GridSearchCV)优化超参数。首先将数据集划分为训练集和测试集,然后定义XGBoost分类器,并设置多个超参数选项,通过5折交叉验证(StratifiedKFold)结合网格搜索寻找最佳超参数组合,最后训练出性能最优的模型
图a绘制
import shap
explainer = shap.TreeExplainer(xgboost)
# 计算shap值为Explanation格式
shap_values_Explanation = explainer(X_test)
plt.figure(figsize=(10, 5), dpi=1200)
shap.plots.bar(shap_values_Explanation, show=False)
plt.title('SHAP_Explanation Sorted Feature Importance')
plt.savefig("1.pdf", format='pdf',bbox_inches='tight')
plt.tight_layout()
plt.show()
使用SHAP库计算并可视化XGBoost模型在测试集上的特征重要性,并以条形图形式展示,生成了文献中图a的效果
图b绘制
# 计算shap值为numpy.array数组
shap_values_numpy = explainer.shap_values(X_test)
plt.figure(dpi=1200)
shap.summary_plot(shap_values_numpy, X_test, feature_names=X_test.columns, plot_type="dot", show=False)
plt.savefig("2.pdf", format='pdf',bbox_inches='tight')
plt.show()
生成文献中图b的效果,通过点图展示每个特征的SHAP值分布
图c、d绘制
由于XGBoost二分类模型计算的SHAP值是针对两个类别共同的一个值,而不像随机森林、ET等模型那样会为每个类别计算单独的SHAP值,因此在绘制类别0和类别1的箱型图时,所以这里作者是根据真实标签单独提取每个类别对应的SHAP值进行绘制,完整 代码与数据集获取:如需获取本文的源代码和数据集,请添加作者微信联系
往期推荐
聚类与解释的结合:利用K-Means聚类辅助SHAP模型解释并可视化
期刊配图:SHAP可视化改进依赖图+拟合线+边缘密度+分组对比
期刊配图:SHAP蜂巢图与柱状图多维组合解读特征对模型的影响
基于mRMR筛选和递归特征选择的多模型性能评估与AUC可视化对比
期刊配图:SHAP可视化进阶蜂巢图与特征重要性环形图的联合展示方法
如果你对类似于这样的文章感兴趣。
欢迎关注、点赞、转发~
个人观点,仅供参考