自分の声で脅迫が行われるーー「合成音声をめぐる社会問題」を考える
2023.4/21 TBSラジオ『荻上チキ・Session』OA
Screenless Media Lab.は、音声をコミュニケーションメディアとして捉え直すことを目的としています。今回は、合成音声を利用した詐欺など、合成音声がもたらす社会問題について紹介します。
◾自分の声で脅迫が届く
声の合成音声化技術が進む中で、様々な問題が生じています。以前も紹介した通り、アメリカでは自分の声優の声の合成音声化を認める契約書が広がっており、声優の仕事を圧迫しています。
同じくアメリカでは、ポッドキャストやYouTubeで配信を行う声優に対して、「Doxxing＝晒し」、つまり個人情報等をインターネット等に公開するといった脅迫が、それも声を使って行われるケースが報告されています。
報告されたケースでは、ゲーム等の声を担当する声優の合成音声で、人種差別発言とともに、住所等を晒す音声がTwitterに投稿されたというものです。発言していない差別発言とともに、自分の声に酷似した声で住所を読み上げられるDoxxingは、大きな問題です。特に声優は自らの声を職業としており、そのダメージはとりわけ深刻なものです。
ちなみに、合成音声に利用されたのは、以前も紹介した合成音声のスタートアップ「ElevenLabs」のシステムが利用されたとのこと。ElevenLabsも対応を行っていますが、根絶は難しい状況にあります。
◾合成音声で行われる電話詐欺
合成音声による問題は、いわゆる「オレオレ詐欺」にも用いられています。米連邦取引委員会のデータによれば、2022年の全米の詐欺による被害額は約88億ドルで、前年比30％の増加となっています。中でも2番目はなりすまし詐欺です（26億ドル）。ワシントン·ポストによれば、その中でも電話での詐欺は5100件以上生じ、被害額は1100万ドル（約15億円）とのことです。
https://www.washingtonpost.com/technology/2023/03/05/ai-voice-scam/
被害者の報告によれば、電話の声は本人（主に子供や孫）に非常に似ているため、信じてしまったとのことですが、これらの音声は合成音声であると考えられています。以前も紹介した通り、電話の音声は「その人らしさ」を表す高周波帯が取り除かれるので、相手を認識するのが難しくなります。そのため、電話は特に声が似ていれば、本人と信じてしまうリスクが高まってしまうのです。
このように、合成音声を悪用する事例は、増加傾向にあります。
◾問題行為を行わない「合成音声」
最後に、詐欺や脅迫とは異なりますが、中国で利用される特徴的な合成音声の問題についても紹介します。
中国で人気のある声優は、2022年に刑事事件の容疑者となりました（金銭問題を抱えたことが報道されています）。この声優が関わるアニメやゲーム、ドラマといったあらゆる関連コンテンツ企業は、代役の声優等を立てましたが、いくつかのケースでは合成音声を利用しました。
この件は、様々な問題で本人が演じるのが難しい場合でも、本人の合成音声による吹き替えなら問題なし、という事例がつくられることになりました。
声以外の領域にはなりますが、昨今の中国では、政治的な発言等で人間のインフルエンサーが表舞台から姿を消すケースなどがある一方で、AIによるバーチャルアナウンサーやバーチャルヒューマンなど、コンピュータによって発言をコントロールできるキャラクターが自治体で登用されるケースが増えています。
https://www.chaitopi.com/2022/02/21/16341/
このように、人間でない声（やキャラクター）を利用するケースは、様々な思惑から生じています。可能性と課題をともに有するこうした点について、当ラボは今後も注視していきます。
この記事が気に入ったらサポートをしてみませんか？