毎日Dodaをクローラー | 毎日Dodaから記事をスクレイピングする

毎日Dodaとは？
ビジネスパーソンがやりがいをもってはたらくためのヒントをお届けするWebメディアです。はたらいていると誰しもが感じる“もやもや”を、少しでも解消して、もっと自分らしく「はたらく」ために。しごと術（スキルアップ）や、ストレス解消法（気分転換）、お金・制度（はたらくシーンのライフハック）、同世代のアンケートや有名人・先輩世代のインタビューなど、さまざまなコンテンツを通じてサポートしていきます。誰しもが感じる“もやもや”を、少しでも解消し、もっと自分らしく「はたらく」ために、さまざまな記事を通じてサポートします。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99％のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1.タスクを新規作成する

(1)URLをコピーする
ScrapeStormはデフォルトリストページを識別しますから、よければリストページのURLをコピーして入力してください。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。
新しいタスクを作成しますか、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

2.タスクを構成する

(1)ページング
ソフトウェアは手動でページボタンを認識する機能を提供します。今回は下記のような「次のページ」ページボタンを識別できないの場合、手動で選択してください。

(2)詳細ページに行く
記事本文は詳細情報ページにありますから、詳細ページをスクレイピングすべきです。詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。
リストページと詳細ページをスクレイピングする方法

(3)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされる。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータの表示と消去する方法
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法