CAPAをクローラー | CAPAから記事の写真をスクレイピングする

CAPAとは？
カメラ・写真雑誌『CAPA』のwebサイトです。カメラと写真のニュース、新製品レビュー、写真展＆フォトコン情報、プレゼントなど、写真を愛するすべての皆様に撮影を通じた楽しさをお届けしていきます。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99％のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください。

1.タスクを新規作成する

(1)URLをコピーする
ScrapeStormは自動的にリストを識別できますから、できるだけリストページのURLをコピーしてください。今回はCAPA編集部の記事一覧ページを例として、スクレイピング方法を紹介します。

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

2.タスクを構成する

(1)自動識別
ソフトウェアは自動的にページボタンとリスト要素を識別できます。たまに識別できないの場合、手動でページボタンを選択するか、Xpathを修正することもできます。
ページボタンの設定詳細には下記のチュートリアルをご参照ください。
ページ分けの設定

(2)詳細ページに行く
「詳細ページに行く」ボタンをクリックして、記事全文、写真などを抽出できます。
詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。
リストページと詳細ページをスクレイピングする方法

(3)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。写真を取得するにはまず、記事全文を選択して、生成されたフィールドを右クリック、抽出タイプを「外部HTML」を選んでください。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされます。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードしする

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法