黑盒模型

SHAP 是一种解释机器学习模型预测结果的方法，它基于博弈论中的 Shapley 值理论。 它通过计算每个特征对模型输出的贡献度，帮助我们理解模型的决策过程。 SHAP 适用于各种类型的机器学习模型，使得黑盒模型（如深度神经网络、随机森林等）的预测更加透明、可解释。