产品介绍
所属公司
Facebook Inc. (Meta)
产品概述
Captum 是一个专为 PyTorch 设计的模型可解释性库。它提供了一套全面的算法和工具，用于理解和解释 PyTorch 深度学习模型的预测行为，核心价值在于帮助研究人员和开发者提升模型的透明度、可信度和调试效率。
产品功能
提供多种可解释性算法：集成梯度、显著性图、DeepLift 等，用于计算特征归因。 支持多模态模型：能够解释涵盖视觉、文本等多种数据模态的模型。 与 PyTorch 深度集成：支持大多数 PyTorch 模型类型，且对原始神经网络只需极少的修改即可使用。 具备良好的可扩展性：作为开源通用库，便于研究人员实现和基准测试新的可解释性算法。
技术优势
作为由 PyTorch 核心团队支持的原生可解释性库，Captum 与 PyTorch 生态系统的集成度最高，API 设计一致，对 PyTorch 模型的支持最为直接和全面。
典型应用场景
模型调试与验证：识别模型做出错误预测的原因，检查模型是否依赖了有偏或无关的特征。 模型透明度报告：为高风险应用（如医疗、金融）的模型决策提供解释依据，满足合规要求。 特征重要性分析：理解输入特征（如图像像素、文本单词）对模型最终预测的贡献程度。 学术研究：作为基准平台，用于实现、比较和评估新的模型可解释性方法与算法。
