家電Watchをクローラー | 家電ニュースをスクレイピングする

家電Watchとは？
日本で唯一の白物家電専門ニュースサイトです。家電の新製品情報やレビューを毎日配信します。日本国内外の各種イベントレポートも充実しています。。人気ライター陣の連載コラムも満載思案す。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

1.タスクを新規作成する

(1)URLをコピーする
ScrapeStormは自動的リストページを識別できます。今回は読売新聞の日本国内新聞ページを例としてスクレイピングします。

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

2.タスクを構成する

(1)ページボタン
ScrapeStormは自動的にページボタンを識別できます。今回は識別成功になります。偶に識別できないの場合、手動でページボタンを選択してください。

(2)詳細ページに行く
「詳細ページに行く」をクリックして、ニュース内容のスクレイピングができます。
具体的な設定には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

(3)フィールドの追加と編集
フィールドの追加を利用して、ニュース内容を抽出します。また、必要に応じて、フィールドマージ、フィールド名の変更などの編集もできます。今回は記事全文を青矩形で選択、生成されたフィールドを右クリックして、抽出タイプの「外部HTML」オプションを選んでください。

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、実行画面にデータのスクレイピングが見えます。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードします。

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータの表示と消去する方法
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法