почему int в скобочках? Что тут значат вопрос и двоеточие? Как это должно работать?

Приведение вещественного числа (double) к типу int — те самые "круглые скобочки" — отбрасывает дробную часть числа.

Типа, a = 1.42

Выражение в круглых скобках дает 1.92, отбрасывание дробной части - 1, итог: 1.42 округлено до 1.

a = 1.62

Выражение в круглых скобках дает 2.12, отбрасывание дробной части - 2, итог: 1.62 округлено до 2.

int в скобках - приведение к типу int.

Вопрос и двоеточие - тернарный оператор. То есть всё выражение равноценно такому:

if (a > 0) {
    b = int(a + 0.5) 
} else {
    b = int(a - 0.5)
}