見出し画像

mongodbに作ってあるデータをいれるぞ

import requests

fr
om bs4 import BeautifulSoup
from pymongo import MongoClient
client = MongoClient('mongodb+srv://sparta:test@cluster0.kzdlimp.mongodb.net/Cluster0?retryWrites=true&w=majority')
db = client.dbsparta

URL = "https://eiga.com/ranking/"
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get(URL, headers=headers)
soup = BeautifulSoup(data.text, 'html.parser')

movies = soup.select('#document_16l5w5x > main > div > div > section:nth-child(4) > table > tbody > tr')

for movie in movies:
    rank = movie.select_one('span').text
    title = movie.select_one('h2 > a').text
    date = movie.select_one('.time').text
    doc = {
        'title':title,
        'rank':rank,
        'date':date,
    }

今回は、mongodbに、自分の作ったデータをディクショナリにまとめて、入れ込むっていうのをやるらしい。

上記は、前から作っているコードだ。
この、ディクショナリのコードの下に、mongodbに保存するというコードを入れる。
db.movies.insert_one(doc)

そしたらmongodbのコレクションというところに、新しい上記のコードが
表示されたので、スクレイピングしたデータが格納されたっぽい、

また実行をすると、実行されるたびにデータが保存されるらしい。そうなんだ。何度も押すもんじゃないね。。。

この記事が気に入ったらサポートをしてみませんか?