知恵袋をクローラー | 知恵袋から選ばれた回答をスクレイピング

Yahoo!知恵袋とは？
Yahoo!知恵袋は、疑問に思っていることを質問したり、知っている事柄についての質問に回答することで、みんなでつくる便利でうれしい知恵の共有サービスとして、参加している方がお互いに知恵や知識を教えあい、分かち合えるサービスです。質問したい人と回答したい人を結び、幅広く情報を共有することを目指しています。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすくて、販売、金融、ニュース、E‐コマース、データ分析、および政府機関や学術研究の人々に向けて開発された人工知能Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。デスクトップアプリとしてのScrapeStormには、Windows、Macと Linux のシステムに適用します。

抽出されたデータは下記のようにご覧ください。

1.タスクを新規作成する

(1)URLをコピーする
ソフトウェアは自動的にWebサイトの要素を識別できます。一般的にリストページからスクレイピングするのを推薦します。今回はカテゴリーを選んで、その検索結果ページのURLをコピーしてください。因みに、選ばれた回答を取得するから、回答済みの質問を選んでください。もちろん、ソフトウェアの事前操作機能を利用してもよろしいです。

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

2.タスクを構成する

(1)自動識別
ソフトウェアは自動的にページボタンとリスト要素を識別できますが、偶に今回のように第二ページのページボタンを認識された誤差があります。手動でやり直してください。

(2)詳細ページに行く
ソフトウェアは自動的詳細ページのリンクを抽出します。詳細ページに行くと、質問、回答などのデータをスクレイピングできます。
詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。
リストページと詳細ページをスクレイピングする方法

(3)フィールドの設定
必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出するデータを選択、データが自動的に抽出されます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされます。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードしする

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法