ハトマークをクローラー | 物件情報をスクレイピングする

ハトマーク不動産とは？
「ハトマーク」は日本全国宅地建物取引業連合会／全国宅地建物取引業保証協会のシンボルマークです。公益社団法人全国宅地建物取引業協会連合会が運営する不動産情報検索サイトです。業界では縮めて「全宅」とよぶ。賃貸アパート・賃貸マンションなどの不動産をエリア・沿線別に探すことができ、住んでみたい街の情報・不動産取引時のお役立ち情報も充実しています。
スクレイピングツールの概要
ScrapeStormとは、人工知能に基づき、強い機能を持っているWebスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。Excel、HTML、Txt、CSVなどのさまざまな形式でデータを出力、保存できます。さらに、データベースやウェブサイトにデータをエクスポートできます。

抽出されたデータは下記のようにご覧ください。

1.タスクを新規作成する

(1)URLをコピーする
今回は、八王子市の売一戸建の検索結果ページを例として、スクレイピング方法を紹介します。まず、URLをコピーしてください。

(2)スマートモードタスクを新規作成する
スマートモードタスクを新規作成には、ソフトウェアのホムページで作成できます。また、必要に応じて、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

2.タスクを構成する

(1)ページボタンを選択
ソフトウェアは自動的にページボタンを識別できます。偶に識別できないの場合、手動でページボタンを選択してください。もちろん、Xpathを編集する経験があるユーザ様もXpathを編集できます。

(2)詳細ページ行く
引渡し、現況などの情報は詳細ページに付いていますから、「詳細ページ行く」機能を利用してください。

(3)フィールドの追加と編集
フィールドの追加で記事内容を選択して、スクレイピングができました。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。具体的には下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされる。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法