shap

使用 SHAP (SHapley Additive exPlanations) 进行模型可解释性和解释。在解释机器学习模型预测、计算特征重要性、生成 SHAP 图表（瀑布图、蜂群图、条形图、散点图、力图、热力图）、调试模型、分析模型偏差或公平性、比较模型或实现可解释 AI 时使用。适用于基于树的模型（XGBoost、LightGBM、随机森林）、深度学习（TensorFlow、PyTorch）、线性模型和任何黑盒模型。