Вышла тулза, которая позволяет заглянуть в мозг нейросети. NNsight позволяет посмотреть на скрытые состояния, активации, градиенты и причинно-следственное поведение внутри моделей глубокого обучения. Библиотека поддерживает любые PyTorch-модели и даже удалённый запуск для работы с гигантскими архитектурами — мощный инструмент для исследований и экспериментов с внутренностями ИИ. Репозиторий #полезныеинструменты #исследования #opensource