Балансировщик с лимитом на длину очереди

Есть веб-API сервис на ASP.NET Core. Он, в свою очередь, в своей работе пользуется другим веб-сервисом, точнее несколькими копиями.
Запросы на эти подчиненные сервисы занимают от 100 ms до 10 секунд времени.

Нужно равномерно распределить нагрузку на подчиненные сервисы, с ограничением количества одновременных запросов на сервис.

Решение требуется в рамках головного сервиса.

Пример. Подчиненных сервисов всего несколько (2-5), длина очереди - не более 30 одновременных запросов на сервис.

Какие есть варианты? В веб не силен, может быть есть готовые решения?
Буду рад любым идеям или подсказкам.


Ответы (0 шт):