見出し画像

『Google検索の生成AI「AI Overview」、「ピザに接着剤」「犬がNBAでプレイ」などと回答　Redditとの提携の影響か』～【web3&AI-テックビジネスのアイディアのタネ】2024.5.26

モリプト タツヤ

「先進テックで未来の生活はもっと良くなる！」と信じて、Web3・AI・ガジェットなどのデイリーニュースから毎日ひとつピックアップしてご紹介しています。

新規ビジネスのアイディアのタネがほしい方、未来を想像してワクワクしたい方、読んでちょっといいなと思った方、ぜひフォロー・高評価よろしくお願いします！


■Google検索の生成AI「AI Overview」、「ピザに接着剤」「犬がNBAでプレイ」などと回答　Redditとの提携の影響か

　米Googleが現在Google検索でプレビューとして提供している生成AI「AI Overview」（旧SGE）のおかしな回答が、5月23日ごろからSNSで話題になっている。例えば、「チーズがピザにうまくくっつかない」という検索に対し「無害な接着剤を8分の1カップほど、ピザソースに混ぜる」というアドバイスを表示したという。
（中略）
　Googleは4月、RedditのデータをAIトレーニングで利用可能にする提携拡大を発表した。米OpenAIも同様の提携を発表している。

GoogleもRedditを学習元にする提携をしていましたが、Googleの場合は検索した際にAIがサマリーを表示する機能を設けているので間違いが目立つのですよね。

ここの部分です。
個人的にも結構便利に使っています。結果をそのまま参考にすることはなく、根拠として挙げられているサイトを見て判断するようにはしています。

このAIサマリーの部分に今回、Redditから学習したことが理由だと思われるアホな回答が表示されたのだそう。提携発表から非常に短期間に実践投入するGoogleのスピード感は素晴らしいと感じる反面、やっぱりRedditだものなーとも思わされました。


Redditを学習元にする良い点・悪い点

5月18日に書いた記事で、OpenAI社がRedditのデータをAI学習に利用する契約を締結したニュースを取り上げました。

この記事の中では、

良い点：
・AIがトレンドを学習できるようになる
・結果、時事ニュースに関する回答が上手になる

心配な点：
・Redditはニュースサイトを話題のタネとして引用してスレッドを立てる使い方が多く、ニュースサイト側の記事を無許諾（※）で学習することにならないか？
（※）日本の著作権法上はAIの学習に許諾は不要ですが、国によって規定が異なり、また有料コンテンツや取材記事などは営業権の侵害など別の問題をを生じることがあり、実際に新聞社などから提訴されるケースも起きています。
・AIがAIの作ったコンテンツで学習するループが起きないか？Redditに何らかのAI機能を提供すると発表がったため。

を挙げていました。

しかし敢えて挙げていなかったのが「AIがアホになる」でした。。


英語版2ちゃんねると評されることもあるReddit

・「英語版2ちゃんねる」と評されることもあるRedditを学習元にすると、AIが2ちゃんねる的ジョークを真に受けてヤバい回答をするようになるのでは？

とは思っていたのですが、

ジョーク書き込みが多数あることをわかってRedditと提携したのだから、何らかの対策は打つだろう。

と思っていました。

でも実際、対策してなかったようです。

　この他、犬がNBA（米国のプロバスケットリーグ）でプレイしたことがあるという回答の画像のポストや、バットマンは警官だという画像のポストがあった。

　Filecoin Foundationで法務顧問を務めるクルト・オプサール氏は自身のポストで、ピザに接着剤という回答のソースは米Redditに11年前に投稿されたジョークのようだと、投稿の画像を添えて指摘した。

おそらくこれからもっとアホな回答例が世界中のユーザーから集められていくことでしょう。


もし「2ちゃんねるが監修した百科事典」があったら

もし「2チャンネルが監修した百科事典」があったら、人間なら初めからジョークだと思って読むはずです。真に受けたりはしません。

しかしGoogleは、今回のAIへのRedditのコンテンツをジョークではなくAIのど真ん中に食わせてしまった模様。

倫理的なフィルターはかかっているようですが、次は一般常識というフィルターを実装するか、AI自身が学習できるようにする仕組みが必要そうです。


自分の常識に合うAIを選ぶ時代に？

もちろん常識とは人それぞれ違うものですし、国柄や宗教などで全く違う常識を持つものではあります。そのためAIに一律の常識を持たせることはむしろ危険で、もしかするとAIも国柄ごとや自分にあう常識を選ぶ時代になるのかもしれません。

今のAIは世界共通で使われる想定になっていますから、ひとつの常識に共通化してしまう展開であるとも言えます。常識をバリエーション化することも難しいと思いますが、選択肢がないことはちょっと不便になるのではないかと思います。

しかし今回のRedditを学習元にしたことによるアホ化を見ると、倫理や哲学よりもっと低レイヤーの常識を学習させる必要性は感じます。

この記事が気に入ったらサポートをしてみませんか？