Привет всем, я почти закончил свой веб-скребок, я пытаюсь понять последний шаг. Который должен выполнить шаги; очистить веб-страницы, сохранить во фрейм данных и, наконец, сохранить в Excel. Над сет-листом.
например, вот код:
driver.get("website")
wait = WebDriverWait(driver, 20)
search_box = wait.until(EC.visibility_of_element_located((By.ID,"Search"))).send_keys("BC-9700021-1")
driver.switch_to.default_content()
submit_box = wait.until(EC.visibility_of_element_located((By.ID,"Submit"))).click()
order_list = []
order_info = {}
soup = BeautifulSoup(driver.page_source,'html.parser')
def correct_tag(tag):
return tag.name == "span" and tag.get_text(strip=True) in {
"Order Amount",
"Item Name",
"Date",
"Warehouse Number",
}
for t in soup1.find_all(correct_tag):
order_info[t.text] = t.find_next_sibling(text=True).strip()
order_list.append(order_info)
order_df1 = pd.DataFrame(order_list)
datatoexcel = pd.ExcelWriter('Order_sheet.xlsx')
order_df1.to_excel(datatoexcel)
datatoexcel.save()
выход:
Order Amount: 7000
Item Name: Plastic Cup
Date: 7/1/2022
Warehouse Number: 000718
Но в самом верху, где я ввожу в поисковую строку "BC-9700021-1" Я хочу иметь возможность извлекать из списка, сохраненного в Excel, для конкретного поиска. поэтому лист excel будет иметь список как таковой:
BC-9700021-1
BC-9700024-1
BC-9700121-2
ETC.
ETC.
Как я могу заставить свою программу выполнять те же шаги, что и при первом поиске, но для остальных значений без необходимости каждый раз вручную менять ключ отправки?
Любая помощь будет принята с благодарностью.
Вы не знакомы с петлями for
? Просто повторите каждый из этих элементов поиска.
Кроме того, вы можете использовать здесь Selenium, но есть большая вероятность, что вы можете получить данные через API. Но не узнает, если вы не поделитесь URL/сайтом.
a_list = ['BC-9700021-1', 'BC-9700024-1', 'BC-9700121-2']
order_list = []
order_info = {}
for eachId in a_list:
driver.get("website")
wait = WebDriverWait(driver, 20)
search_box = wait.until(EC.visibility_of_element_located((By.ID,"Search"))).send_keys(eachId)
driver.switch_to.default_content()
submit_box = wait.until(EC.visibility_of_element_located((By.ID,"Submit"))).click()
soup = BeautifulSoup(driver.page_source,'html.parser')
def correct_tag(tag):
return tag.name == "span" and tag.get_text(strip=True) in {
"Order Amount",
"Item Name",
"Date",
"Warehouse Number",
}
for t in soup1.find_all(correct_tag):
order_info[t.text] = t.find_next_sibling(text=True).strip()
order_list.append(order_info)
order_df1 = pd.DataFrame(order_list)
datatoexcel = pd.ExcelWriter(f'Order_sheet_{eachId}.xlsx')
order_df1.to_excel(datatoexcel)
datatoexcel.save()
Есть ли способ создать отдельные файлы Excel в цикле for? он только перезаписывает исходный файл Excel в каждом цикле.
Ага. Я добавлю это завтра.
@seanofdead обновил для вас
Проверьте, есть ли API. Если вы поделитесь сайтом / ur, я могу проверить для вас ..