При возвращении на экран (navigation Controller) c tableView выбранная ячейка остается серой

Это зависит от того, как у вас реализован переход на другой экран. Вы можете вставить в начало функции

func tableView(_ tableView: UITableView, didSelectRowAt indexPath: IndexPath)

вызов

tableView.deselectRow(at: indexPath, animated: true)

И тогда строка наверняка станет не выделенной.

В методе делегата при нажатии на ячейку, например, можно сделать так)

    func tableView(_ tableView: UITableView, didSelectRowAt indexPath: IndexPath) {
        tableView.deselectRow(at: indexPath, animated: true)
    }