seleniumを使用してgoogleで検索&検索結果を取得

書籍「Pythonでスクレイピングを始めよう: for Macユーザー入門学習編」のサンプルプログラムです。

from selenium import webdriver
from selenium.webdriver.common.by import By
from time import sleep
from bs4 import BeautifulSoup #import  chromedrier_binary chromedriverを使用する場合

driver=webdriver.Safari() #driver =webdriver.Chrome()  chromedriverを使用する場合
url="https://www.google.co.jp"
driver.get(url)
search_box=driver.find_element(By.NAME, "q")
search_box.send_keys("selenium")
search_box.submit()
sleep(3)
data = driver.page_source
soup=BeautifulSoup(data, 'lxml')
elems=soup.select('.LC20lb.MBeuO.DKV0Md')
with open("selenium.txt","a") as f:
    for a in elems:
        f.write(a.text+"\n")
driver.quit()


Googleで「Selenium」と検索し、表示された検索結果を取得するプログラムです。

詳しい解説は書籍をご覧いただけると嬉しいです。


この記事が気に入ったらサポートをしてみませんか?