captum.ai

Captum — это расширяемая библиотека, которая предоставляет общие реализации для интерпретируемости моделей в PyTorch. Она направлена на разъяснение сложных моделей машинного обучения, предлагая несколько алгоритмов для анализа и понимания предсказаний моделей. Captum включает в себя разнообразные методы, такие как абляция признаков, интегрированные градиенты и другие, которые помогают исследователям и разработчикам осмысливать и улучшать свои модели.