WSMR-4: ChatGPTは民主主義をハイジャックするかもしれない

ソーシャルメディアニュース

Twitter V1 streaming（1%サンプル）が終了の模様

Twitterにおいて、提供されてきたTwitter V1 streamingという全体の1%サンプルを取得するAPIの機能が停止しつつあるる模様です。以前からアナウンスされてきたTwitter APIのシャットダウン(完全停止)が刻々と迫っている様子が感じ取れます。
https://twitter.com/yang3kc/status/1636569951803777026

GPT-4が公開され、ChatGPTに早速実装される

大規模言語モデル（LLM）の凄まじい進化が話題になっています。大規模言語モデルが社会に与える影響に対して計算社会学者/ソーシャルメディア研究者はどのような対処ができるでしょうか。たとえばChatCPTの開発者であるOpenAIのCEOはインタビューで大規模言語モデルによる「大規模な誤情報の展開を危惧している」と述べています。AIと人間の共生は、計算社会科学者が率先して取り組んでいくべきテーマのかもしれません。
https://twitter.com/lucy3_li/status/1636455752994025472
https://www.youtube.com/watch?v=540vzMlf-54

↑という文章を書いていたらOpenAIが労働市場におけるインパクトについて論文を公開していました。（これもなんという速さ）
https://twitter.com/ImAI_Eruel/status/1637651783836377088

ChatGPTに対抗、BaiduがERNIE Botを発表

大規模言語モデルのブームは各会社による大規模言語モデル開発の競争を引き起こしています。中国検索大手であるBaiduは先日のイベントでERNIE Botを発表しました。このチャットボットは、中国市場に特にフォーカスして構築されており、5500億件のノードが含まれた知識グラフが登録されています。現在は一般公開されておらず、一部の会社が申請すれば利用できる状態となっています。
https://www.youtube.com/watch?v=ukvEUI3x0vI

ChatGPTは民主主義をハイジャックするかもしれない

New York Timesにデータサイエンティストと技術者のオピニオンが公開され、ChatGPTの出現が民主主義に与える影響について議論されています。特に、政治活動におけるロビーイングにAIが作るメッセージが使用される未来を予想しており、政治的意思決定にAIが介在していくことを予想しています。AIエージェントは人間の完全な代替となわるわけではなりませんが、その「rhetorical drone」は、メッセージのターゲットさえきちんと定めれば、十分な効果を発揮することが危惧されます。
https://www.nytimes.com/2023/01/15/opinion/ai-chatgpt-lobbying-democracy.html

影響工作についてのサーベイ

アメリカの著名なシンクタンク、ランド研究所が影響工作についてのサーベイをあげていました。2009年と古いですが、気になったのでシェアします。
https://www.rand.org/pubs/monographs/MG654.html

気になった論文

ネガティブな見出しはクリック率を高める

「人々のオンラインニュース消費を促進する要素は何か」という問はこのデジタル社会において非常に重要なポイントです。この研究では、バイラルニュースのデータセット（約10万種類）と、そのインプレッション（3億7000万回）、クリック（約570万回）、ランダム化比較試験（N = 22,743）を用い、その要素を分析しました。その結果、ニュースの見出しに含まれるネガティブな単語は消費率を高めることがわかりました。平均的な長さの見出しでは、ネガティブな単語が1つ増えるごとにクリック率が2.3％増加したとのことです。
https://www.nature.com/articles/s41562-023-01538-4

「共有」機能が情報の真偽の判断が難しくさせる

ソーシャルメディアをソーシャルメディアたらしめる重要な要素の1つは「共有 (Re-share / Re-tweet)」です。この機能によって私達は今まで知らなかった情報を得ることができます。しかしながら、この「共有」機能のせいで、より情報の真偽の判断を難しくさせているという研究結果が発表されました。オンライン大規模調査によって、ニュースの見出しの正確性を評価する場合と比較して、正確性の評価と「共有」の意思表示を同時に行った場合、より被験者の正確性の判断の結果が悪くなったのです。
https://www.science.org/doi/10.1126/sciadv.abo6169

不正のエンゲージメントの獲得の実態は？

自分のアカウントやウェブサイトの人気を獲得するために、ソーシャルメディアにおける投稿のエンゲージメントやウェブサイトのアクセス数を売買するサービスが、アンダーグラウンドフォーラムなどで宣伝され問題となっています。このようなサービスの存在はあまり表に出ず、実態が明らかになっていませんでしたが、この研究ではエンゲージメント獲得プラットフォームの実態について明らかにしようと取り組んでいます。彼らは4ヶ月のクローリングによって280万の販売情報を収集し、分析しました。その結果、購入者はサービスの品質、配信速度、発信国、さらには偽アカウントの個人属性（性別など）を選択しエンゲージメントを購入できることや、市場が未だ未発達で市場価値の設定が不安定であることが示唆されたのです。
https://www.sciencedirect.com/science/article/pii/S0167404822004059