【使用注意】ディープフェイクAI技術で簡単に顔交換できるアプリ
生成AIしかり、AI技術の進歩の早さは目まぐるしいです。
今回紹介するのは...
いえ、紹介という目線よりは、注意喚起目線となります。
なぜ注意喚起目線なのかというと、私が実際に当該アプリを使用した際、ディープフェイクに該当すると判断したためです。
ディープフェイクは、AI（人工知能）を使用して、人間の顔や声をリアルに模倣した動画ないし音声を作成する技術です。この技術は、元の映像や音声からデータを学習し、それを基に新たな映像や音声を生成する、という仕組みです。
そんなディープフェイクですが、単純に技術としては凄い技術だとは思います。今現在、数多くの当該AIツール・アプリが存在しています。
その中から、ここで取り上げるのは「HelloFace」というアプリです。
HelloFaceは、AI技術を活用して、簡単に顔交換動画を誰でも簡単に作成できるアプリです。（Android版も有り）
テンプレート動画に自分の画像をアップロードするだけで、リアルな顔交換動画を作成することができます。それも無料で。（広告を見て作成のスタイル）
つまり、言ってしまえば誰でも簡単にディープフェイク動画が作れる・作れてしまうということです。
↑画面左側がHelloFaceで用意されているテンプレートのダンス動画、右側が顔を交換した後です。このように簡単に出来てしまいます。
少しわかりずらいかも知れませんが、↓の画像（私が生成したAI画像です）にて顔交換したものです。
HelloFaceにあるダンス動画や様々なテンプレートは、全く同じものがInstagramで海外ユーザーが投稿しているのを見かけたことがあります。
厳密に、例えば友人知人に許可を取って、「君が踊っているのを動画にしたい。それで顔を別の人の顔に変えたいんだ」といった場合、それはその友人知人の許可があるので、顔交換後にSNS等にアップロードしても問題はないと言えるかも知れません。
ですが、いわゆるネットの拾い画（拾い動画）を元に、HelloFaceなどで顔交換した動画に変換し、それをSNS等にアップロードしてしまったら、それは違法となってしまいます。
また、動画のベースとなる友人知人の許可を得ていても、交換する顔が著名人・有名人だった場合も、アウトコースになってしまうでしょう。
ここではHelloFaceをピックアップしましたが、同様のAIサービスは他にも幾つかあります。
各SNSにアップロードせずに、個人で楽しむというのかテストないし”どんな感じになるのか試してみたい”というのは問題ないと言えますが、この手のディープフェイク動画は注意が必要です。
また、2024年に入ったあたりから、単にディープフェイクAI生成物がInstagramでは増えてきている印象があります。
例えば↑のアカウント。この場合はプロフィールを見ると、しっかりというか、ちゃんとAIだというのがわかるように記されています。
しかし、中には「これってAIっぽいけど、どうなんだろう」、「これはAIじゃないのかな？」といったように、AI生成物かどうか曖昧のアカウントも見られます。
また、これは個人的な推論・主観込みですが、海外と日本の大きな違いとして、海外ユーザーはAIだとわかっていても課金する傾向にあるというのも興味深いかなと。
おそらく日本人はAIだとわかっていて有料サービスに課金する方は多くないのではないかと思われます。
基本的に、海外のAIインフルエンサーがインスタグラムで投稿・発信しているのは、何らかの外部有料サービスへの流入目的だと考えられます。
外部の有料サービスがゴールということです。（Pateonなど月額会員制のファンクラブ）
ちなみにですが、↑のアカウントの場合、プロフィールにAI生成の旨が明記されていますが、たとえ「これはAIだろう」と思ったとしても、それを何かアウトプットしてしまうのは非常に危険です。
実際に実在する人物が普通に画像や動画を投稿しているだけだった場合、そのアカウントのことを「AIだ」と揶揄等してしまうのは、もれなく名誉毀損罪・侮辱罪・信用毀損罪が付いてくるでしょうから。
個人的には、単純にディープフェイクAI技術は凄いことなのに、悪用されているのを見ると、やはり生成AIに対する明確なルール制定は急務と言えるのではないかと改めて感じてしまいます。
ディープフェイク動画の作成や拡散が犯罪に該当するかどうかは、具体的な状況や法律によるかと思いますが、プライバシーの侵害や名誉毀損など、様々な問題を引き起こす可能性があります。
そのため、AIディープフェイクに関連するものには、十分な注意が必要だと言えるでしょう。
※法的な観点に関して、具体的なアドバイス等必要な場合は、専門の法律家に相談することをお勧めします。
この記事が気に入ったらサポートをしてみませんか？