見出し画像

掲示板サイト!発言小町から問題の回答をスクレイピングする

発言小町とは?
読売新聞社が運営する掲示板サイト「発言小町」は、人間関係の悩みやクスリと笑える話などが日々投稿されている、ネット上の井戸端会議のような場です。1か月で約6,600万ページビュー(PV)のアクセスを集めています。恋愛、子育て、家族など日常のモヤモヤを匿名で相談できます。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1抽出されたデータ

1.タスクを新規作成する

(1)URLをコピーする
今回はある問題の回答ページを例として、スクレイピング方法を紹介します。まず、URLをコピーしてください。

2URLをコピー

(2)スマートモードタスクを新規作成する
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
スマートモードタスクの新規作成方法

3新規作成

2.タスクを構成する

(1)事前操作
回答の本文を開くのは「事前操作」機能を利用する必要があります。右上の緑ボタンをクリックし、下記画像のように事前操作画面にコンポーネントを追加してください。

4事前操作

(2)ページボタンの設定
通常、ソフトウェアは自動的にリストとページボタンを識別しますが、もし識別誤差が発生する時、手動でやり直してください。下記のチュートリアルも参照してください。
ページ分けの設定方法

4ページボタン

(3)フィールドの編集と追加
必要に応じてフィールドの名前の変更または削除、結合できます。フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

6フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。サーバーに負荷しないように、遅延時間を設定してください。5秒以上を推薦します。
詳細には下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

8起動

(2)しばらくすると、データがスクレイピングされます。

9データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードしする

10エクスポート

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカル、ETLツールdata on flyなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

11ファイルを選択

この記事が気に入ったらサポートをしてみませんか?