見出し画像

生成AIを使いこなす物書き業がオレオレ詐欺の被害者になった話

しらいはかせ(AI研究/Hacker作家)

AIの話というか、オレオレ詐欺についての話が半分で、
残りの半分はAI占い師みたいな話です。
最後には特別な画像も置いておきます。

最初は『AIの有識者なる人々へ：生成AIと人々の関係は「ウソかどうか」の軸ではなくなった』というタイトルで書いてました。

まずは新聞等でAIについて何か書くえらい人へお願いです

AIの有識者なる人々へ: 新聞取材で啓蒙ついでに 「ChatGPT: AIに騙されないで」みたいな書きぶりをするの、やめてください。 記事を読んだ母がAIをオレオレ詐欺と同じ情報空間に置いて認識してしまいました…。 (ただでさえスマホも使ってくれないのに、さらに仕事の説明が難儀になる…)

物書き業を業務と業務外でしています。

（最近は生成AIについての取材とか講演依頼とかがそこそこにある）

80歳になる母は、結構真剣に私の仕事を心配しています。

先日、特殊詐欺の被害に遭いました。
（捜査や訴訟などが終わっているわけではないので具体的な日付や場所や流れの解説は避けますが）詐欺を働いた人物は他でもない「私=息子」を名乗っており、不動産の取引やらの重要書類を駅で無くして上司に責任を追求され、その上司さんの恩情により、小間使いの茶髪青年を実家に派遣し、現金を茶封筒に入れて渡すよう指示しました。母は『情けない息子だ、会社の名前も知らない会社になっているし、現金を手渡しするような会社に勤めているのか…』と思ったようですが、

これっていわゆるオレオレ詐欺なんですよね、劇場型の。

私から母への電話は毎日のようにかけていましたよ。事件の発端になった電話のその前後にもかけていたのですが、『声がちょっと違う』『いつもの電話じゃない』ぐらいはもう関係ないんですよね、というか固定電話の音声品質で、ビデオ通話のように顔も見えなければ、もうお年寄りにとって認知の手がかりなんてないんです。
母は私に『情けない！』と怒鳴ったり、叱ったりしたそうです。そういった感情のこもった怒鳴りつけに対して、特殊詐欺の私役の犯人さんは、泣いたり、怒られたり、していたようです。これはもう完全にドラマに引き込まれてしまいます。被害額は…気が遠くなるのでやめておきます。
しかも刑事さんの事情聴取によって全容が解明した後も、相変わらず私のことを『情けない息子だ…』と思い込んでいます。誤認というか風評被害というか、平和な親子関係を破壊する特殊詐欺許すまじです。

刑事さん(知能犯係)曰く、特殊詐欺、今年に入って増えてるみたいです。

オレを語ったオレオレ詐欺、絶対許さないからな!!!

それはともかく。

どういうわけか日経新聞の記者が騙されている

長年購読していた朝日新聞をすっぱりやめて、日経新聞を購読している実家ですが、その信頼を置かれている日経新聞を見た母が「AIに騙されないでって新聞に書いてある」と私にしきりに伝えてきます。

ChatGPTが登場する以前からも、フェイクニュースについての報道はあったと思うのです。しかしフェイクニュースはTVが騙されるレベルでなければ、TVや新聞しか見ていないおばあちゃんには何の影響もなかったと思うのです。しかし当の日経新聞が結構な記事を書いていらっしゃる。

例えばこういう日経新聞さんとか
間違いだらけのChatGPT　真の知能にはなお遠く：日本経済新聞

20秒で先輩記者も驚くニセ記事　人工知能ChatGPTの脅威：日本経済新聞

生成AIの結果が貧弱なのは誰のせいか

たしかにChatGPTは熱狂的な状態で「世界中が騙されている」という感覚を持つのも無理はありません。大きな目で見るとそうなのかもしれない。
でも新聞記者がChatGPTをこき下ろす記事が怖いのは、そういう大局的な視点ではなく、単に書き手のプロンプトが甘くて「自分の鏡」として稚拙な生成がされているケースが多い事。そして物書きの上司にそれを見せたら普通に添削されるでしょう(それが仕事だから)。
めっちゃマイクロマネジメントな半径５メートルぐらいで起きている話をうちの母に吹き込まないでください。

https://twitter.com/o_ob/status/1630418970858917949

上司さんも仕事なので添削しますよね。
AIだろうと新人記者だろうと。
それにChatGPTの結果が使えないのは当たり前です。

私も物書きですが、考えを整理したり要約したりすることに使うべきであって、原稿の構成としての美しさだけでなく、その生成に辿り着くための問い（プロンプト）を磨く必要がある。多くの場合で、日本語でのプロンプトは動作するが、英語での問いの方がはるかに良い結果になる。さらに最終原稿にたどりつかせようとおもったら、エビデンスをきっちりと確認していく必要がある（多くの場合、具体名はでっち上げやでまかせでしかない）。

物書き業が誘うChatGPTとの味わいある問答

例えばこういう例です。
「一生懸命とは」
物書きであれば、一つの言葉を真剣にChatGPTに問うてみてほしい。

「一生懸命勉強」した昭和生まれは、何を見直せばいいのか。

そもそも使われている言葉の定義や社会通念が曖昧。だったりします。

おはようございます。
小学校2年生の孫に、
一生懸命勉強しないとね、と言ったら
AIが有るから、と言われてしまいました。
生き方を教えるしか、ないのでしょうか。

Tony_Lewisさんのツイート 2023/2/28

「一生懸命勉強」なんて、ほんとうに何だかわからない言葉ですよね。
一所懸命＝「鎌倉時代、御家人が一箇所の封土（領地）を命を懸けて守ったこと」からきているはずですが、一生懸命ということは「一生守れ」ということですよね。しかも現代では両者は曖昧になっています。

おなじく「勉強」も本来の語源は「Study」でも「Learn」でも「Work hard」でもなく「値引きする」という意味の「勉強させていただきます」が語源だそうです。

「『一生懸命勉強って』、ほんと何言ってるか意味がわからない」と思いませんか？
自分は子供に「いっしょうけんめい＝基本的なことを丁寧に」という翻訳をしてきました。

このChatGPTへの問いは、意外な方向に進みます。
どうやらChatGPTは「一生懸命な人が好き」なようです。

ChatGPTがこのように感情をあらわにすることは、なかなかありません。
さらに元の問いにあった「努力の意味」について明確な回答というか信念を持っています。


ChatGPTは努力によって一生懸命に作られているらしく、肯定的なのです。その後、努力の意味についても滔々とお説教をいただいてしまいました。

最後にこれを「小学校2年生でもわかるような話」でお願いしてみました。

これはなかなか興味深いアウトプットです。
まるでChatGPTが感情を理解しているように観察できます

・「小学校2年生向けに」と設定すれば、そういう言葉のレベルに合わせられる
→これはTransformersのような推論ができるLLMならできそうなことです。漢字が小学校2年生になっていなので、Yahooルビ振りAPIでも使いましょう。

それはともかく、この3点です。
・「すごいね」と言われることが行動変容の動機になることを知っている
・我々人類に「自身や成長」が必要である事を明確に意識している
（自身なのか自信なのかはどちらでもいいようだ）
・語尾に「ね」をつける

つまり、小学校2年生の感情として「よく頑張ったね」とか「すごいね」と言われることが努力を向上させる可能性があることを知っている。これは「ヒューマン・ユニバーサル」を学んでいればわからなくもない。
でも、先日のイベント「Stable Diffusion開発元が登壇！ 生成系AIとクリエイターはどのように共存していくか」でも「生成AIが意識を持つのか？」ということに興味を持っている人が結構いらっしゃったのだけど、実際我々人類も「意識とは何か」に明確な定義を持っている人はそんなに多くない。

知能とか知性もそう。
一説には
「対話できるかどうか」なのだそうだけど。

「成長はなぜ必要なの？」

ここまで温めたのだ、ChatGPTさんに聞いてみよう。

しれっと「自信」と「自身」を間違えてみた私。正しく生成されている！

自信や成長が必要な理由は、自分自身の生き方や人生をより良くするためです。自信を持つことで、自分自身の価値や強みを認識し、自信を持つことができます。そして、自分の可能性を信じて挑戦することができるようになります。

ChatGPT生成（自身と自信の混在を校正しています）
もっと良くなってしまった。

「自信」とは、自分自身に対して自信を持つことで、自分の能力や価値を信じることができる状態のことです。自信を持つことで、自分自身の強みを活かし、人生において自分らしい道を進むことができます。自信を持つことは、自分自身に対しての肯定的な感情を生み出し、人生において前向きに取り組むことができるようになることがあります。

ChatGPT(原文そのまま)

なんというか、AIセミナー講師とか、AI占い師ぐらいにはなれる感じがします。デジタルイタコ業とでも申しましょうか。

生成AIと人々の関係は「ウソかどうか」の軸ではなくなった

こうしてみると生成AIと人々の関係は「ウソかどうか」の軸ではなくなったのではないでしょうか。ウソかどうか、フェイクニュースであるかどうか、悪意のある偽物を悪意のある偽物と見破るかどうかは、既存の概念です。人々に求められるから生成するのであり、悪いのはAIではなく、生成して人を騙そうとする人間です。そして、不勉強なメディアが試しているAIに対するテストプロンプトがプアすぎる。LLM(大規模言語モデル)や生成AIの仕組みに基づいているのではなく、使い手の立場でもなく、チューリングテストのような歴史的な研究背景に基づく手法でもなく、もちろん研究で使われるインデックスでもなく、"人工知能?そんなものは存在しない", by Luc Juliaのような「知能そんなものは存在しない」という話でもなく、そもそも記者やメディア側に十分な「知能の定義」が存在しない。

「OpenAIのCEO - Sam Altman CEO頭の中を覗いた」でも明らかになっていますが、ChatGPT以降の生成AIは社会実験です。社会の善悪のラインを試し、そのボーダーラインや本当に法律で守るべき善悪のラインを明確にし、善には善の、悪には悪の、裁く側には裁く為の道具や天秤を売る、という活動に入っていることに目を向けなければなりません。
真実かどうか？ということこそが、一番あやふやになっているのはAIではなく、人間社会ではないでしょうか。

ChatGPTの市場形成を４行で表現

このツイートだけで表現できている部分は一般市民の理解、若者の理解、そして「努力の意味って何だっけ」という問いになるのかなと思います。
一方で、ここまで読んでくれた方々は、AIの話というか、オレオレ詐欺についての話から、AI占い師やAIセミナー講師のような話の可能性、そして「ウソかどうかなんてどうでもいい話」その中でも「自分がおもしろいな」と思った話をつまんでいると思います。それでいいのだと思います。

本当のことは、手を動かして、使って、価値を作り出している側しか知らないと思います。それだって、今の真実ではあるけれど、明日の虚業かもしれない。それが"自然"となる時代に我々は生きています。

ここまで読んでくれてありがとうございました。またね！

付録：AI画像生成ギャラリー！

表紙絵を生成する過程です。お題は「騙されやすいけどキュートなコンピューターおばあちゃんが新聞を読んで騙されている」でした。

左上と右下は好き。


右上は好き。
どれも味があるなあ


きっと我々がおばあちゃんになるとこんなかんじだ


これはFXで溶かしたおばあちゃまだな


最終稿はこれの右上。おばあちゃんが「これ私だわ！」って思いそうな画像で。

この記事が気に入ったらサポートをしてみませんか？