Yahooトラベルをスクレイピング | 指定条件のホテル情報を収集

Yahooトラベルとは？
Yahoo! トラベル（ヤフートラベル）は、Yahoo! JAPANが提供する旅行商品の検索・販売サイトです。日程や希望の条件からプランを簡単に検索できます。国内･海外の航空券やツアー、レンタカー、高速バスなどの予約や観光・温泉情報、クチコミやQ&Aなど旅の情報満載しています。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

1.タスクを新規作成する

(1)URLをコピーする
今回は、東京都のホテル・宿泊施設の検索結果ページを例として、クローラー方法を紹介します。まず、東京都のホテル・宿泊施設の検索結果ページのURLをコピーしてください。

(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

2.タスクを構成する

(1)事前操作
条件を変更するために、右上の緑色ボタンをクリックして、事前操作機能を利用してください。今回は手動で「ホバー」コンポーネントを追加して、操作ヒントに従って、条件を追加できます。

(2)ページング
ソフトウェアは自動的にリスト要素とページボタンを識別できます。今回のページはスクロールして情報がどんどん読み込んで行くタイプでScrapeStormは自動的にスクロールローディングを認識します。

(3)詳細ページに行く
「詳細ページに行く」ボタンをクリックするか、具体的なリンクをクリックして、詳細ページに移動できます。

(4)フィールドの追加と編集
詳細情報を「フィールドの追加」でページ内に選択、抽出できます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。今回のファイルをダウンロード機能を利用してください。スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされる。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータの表示と消去する方法
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法