Как указать количество страниц для парсинга, если мне не известно?

Всем привет! Написал функцию-парсер, который получает данные с 10 ссылок (и в каждой ссылке ходит по страницам, но мне неизвестна максимальная страница, да и в каждой ссылке может находится различное количество страниц.

Как быть? Я в этом деле новичок.. Буду признателен за ответ!

Часть кода:

def parser(url):
data = []

for page in range(1, 3000):
    print(page)

    PRODUCT_URL = url+f"?p={page}"

    driver = webdriver.Chrome(executable_path='./chromedriver.exe')
    driver.get(PRODUCT_URL)
    sleep(3)
    html = driver.page_source
    soup = BeautifulSoup(html, "lxml")

    items = soup.find_all('div', class_='product details product-item-details')

где я вместо url - подставляю необходимую ссылку для ее парсера.

Вопрос в том: как заменить в данном случае range(1, 3000) ,чтобы парсер прекращал идти по страницам, на которых уже нет необходимых данных, и корректно прекращал свою работу.


Ответы (0 шт):