本格的なAI利用選挙が行われたインドネシア

●実戦投入されたAI

インドネシアの選挙ではOpenAIを利用した選挙システムが広まっていた。
2024年2月14日、インドネシアで大統領選挙が行われ、新しい大統領が決まった。アジアは欧米の先を行くデジタル影響工作地域であることを証明するように、AIが思い切り投入された選挙となった。当選したプラボウォ・スビアントは過去に特殊部隊に所属していたことがあり、人権侵害など戦争犯罪の疑いがある人物だ。
今回の選挙では2023年12月に15,000人のサイバーボランティアがネット上の感情を追跡し、AIが生成したイメージをSNSで共有できるよう、生成AIプラットフォーム「PRIDE（ https://prabowogibran.ai ）」を立ち上げた。開発に関わったスタッフは、このプラットフォームは OpenAI の技術と自前のソフトウェアを使用していると語った。
選挙活動で使用されたアプリの1つを開発したインドネシアの政治コンサルタントは、OpenAI の GPT 4 と 3.5 モデルを使用してアプリを構築し、700人の候補者にアプリのサービスを販売したと語った。彼のアプリは、人口統計データをまとめ、SNSやニュースサイトをクロールし、有権者に合わせたスピーチ、スローガン、SNSコンテンツを生成できるものだという。

プラボウォ・スビアント陣営が特別なのではなく、インドネシアの選挙で使われているAIツールの多くは OpenAIによって動いている。これらのツールは、キャンペーンアートを作成し、ネット上の感情を追跡し、インタラクティブなチャットボットを構築し、有権者にリーチするために使用されている。

今回の選挙でのプラボウォ・スビアント陣営のAI利用で際立っていたのは、PRに使用されたアバターによる動画だ。Midjourneyのアプリで作成されたアバターは親しみのもてるかわいらしいおじいさんになっており、ネットで大人気となった。Tik Tok では#Prabowoのついた動画は190 億回再生された。その反響の大きさからプラボウォ・スビアントは「Gemoy」と呼ばれるようになった。「Gemoy」はインドネシア語で「かわいい」を意味する言葉らしい。若い支持者たちは自分たちを「Gemoy隊」と呼んでいる。

●インドネシアの選挙の特殊性

インドネシアは世界第3位の民主主義国家（3位という表現をよく見かけるが、おそらく人口を指しており質のことではない）であり、世界最大のイスラム教徒多数国であり、購買力平価で世界第10位の経済大国である。有権者は約2億750万人。
2023 年のインドネシアの人口中央値は30歳弱で、インドネシア中央統計局のデータによると、ジェネレーションZが27.94％と最大の年齢層となっている。さらに、インドネシアは最低投票年齢が17歳と若い。2024年の選挙では、22歳から30歳のインドネシア人が有権者数の56.4％、約1億1,400万人の有権者を占めると予想されている。つまり、若年層の支持は生命線なのだ。

●ファクトチェックはおいつけない

インドネシアでは草の根のファクトチェッカーたちが選挙偽情報に立ち向かっている。今年の投票前の偽情報は204件になっており、2019年の選挙の際の714件から大幅に減少した。しかし、これは実際の減少と言うよりは、TikTok などの新しいプラットフォームにファクトチェックが対応しきれていないことを示していると考えた方がよさそうだ。

AIの利用も急速に拡大している。2023 年初頭にはディープフェイクの偽情報は見られなかったが、その後アニエス・バスウェダン候補がアラビア語で演説するディープフェイク動画がネット上に公開され、イスラム教徒が多数を占めるこの国で賞賛を浴び、再生回数は200万回を超えた。

●AI企業の対応

OpenAIやMidjourneyは選挙での使用に制限を設けているが、あくまでポリシーであり、全ての利用実態を監査し、問題があった場合に利用を停止しているわけではない。
今回のインドネシア選挙での利用について、OpenAIは「最初のレビューでは、選挙でツールが使用された "証拠はない "と判断した」と回答している。
事実上、AIは使い放題のように聞こえる。

●インドネシアだけに収まらない課題

インドネシアは人口と経済規模が大きいため、その情勢は世界的なパワーバランスに影響を与える。AIを利用した権威主義化が進むことは今後の懸念材料だ。

また、インドネシアでAIが選挙に大々的に活用されたことはインドなど他の国でも使用される可能性が高い。これまで選挙へのAI利用の懸念が語られてきたが、それが現実のものとなったうえ、ほとんど歯止めがないこともわかってしまったのだ。日本にも売り込みに来ているかも

出典

One-sided war': Indonesians join forces to bust election disinfo
https://www.france24.com/en/live-news/20240209-one-sided-war-indonesians-join-forces-to-bust-election-disinfo

Prabowo Subianto: Indonesia's 'cuddly grandpa' with a bloody past
https://www.bbc.com/news/world-asia-68028295

Deepfakes and disinformation swirl ahead of Indonesian election – podcast
https://theconversation.com/deepfakes-and-disinformation-swirl-ahead-of-indonesian-election-podcast-223119

Generative AI may change elections this year. Indonesia shows how
https://www.reuters.com/technology/generative-ai-faces-major-test-indonesia-holds-largest-election-since-boom-2024-02-08/

Indonesia’s Presidential Elections: Old Guard, New Guard, and TikTok
https://www.fpri.org/article/2024/02/indonesias-presidential-elections-old-guard-new-guard-and-tiktok/

Deepfakes Pose Election Cybersecurity Threat in Indonesia: Crowdstrike
https://jakartaglobe.id/tech/deepfakes-pose-election-cybersecurity-threat-in-indonesia-crowdstrike

AI in Context: Indonesian Elections Challenge GenAI Policies
https://www.cfr.org/blog/ai-context-indonesian-elections-challenge-genai-policies