Как можно построить визуализация работы классификатора обученного с помощью keras?

Есть обученная модель классификатора, полученная с помощью библиотеки keras, как можно визуализовать результаты ее работы? Есть для этого какая-нибудь специальная библиотека для этого или это делается через plt? Может есть какой-то способ сделать это непосредственно с помощью keras?