人工知能の危険性

ChatGPTの普及により、人工知能が一気に身近になった。

わたしのnoteでもよく書いているが、人工知能の本当に凄まじく、私たちの生活を一変させるだろう。

そして、常に人工知能については危険性についても語られる。
だが、その危険性について私はピンとこなかった。

人工知能が暴走するとは到底思えなかったし、人間の仕事を奪いはするものの経済価値は人間がやるより遥かに超えていくので、それはそれで良いじゃないかと思っていた。

ただ、中島さんのTwitterに書いてあった、危険性について、自分の中で腹落ちしたので、ご紹介。

人工知能の危険性はこのあたりにあるのだと思った。

是非、参考にしてみてください。

先日、Lex FridmanによるYuval Noah Harari氏のインタビューを聞いていて、今まで私の頭の中で漠然と感じていた「人工知能の人類にとって最大の危険性」がどこにあるかがハッキリと見えてきたので連投で書きます。分かりやすく言えば、その危険性は「砂糖」や「麻薬」と良く似ています（続）。

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

人間（人間だけでなく、霊長類を含むさまざまな動物）は長い年月をかけて味覚を発達させ、自分が必要とする栄養分を摂取するようになりました。その中で、「甘み」を感じる味覚は、エネルギー源である「糖分」を含む食べ物を積極的に摂取するために重要な役割を果たして来ました。（続く）

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

しかし、サトウキビから簡単に砂糖を作れるようになった現代では、その「味覚」をハックする甘い飲み物（例：コカコーラ）や食べ物（例：チョコレート、羊羹、...）が巷に溢れ、それが肥満や糖尿病（2型）の主たる原因になっています。（続く）

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

肥満や糖尿病が原因で亡くなる人が毎年何百万人もいることを考えれば、砂糖は人類の敵だとも言えます。
同じことは「麻薬」にも言えます。麻薬は、砂糖と違って、人間の脳や神経の働きに直接的な影響を与え、幻覚や高揚感を与えます。（続く）

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

しかし、中毒症状を起こし、通常の生活を送れなくなったり、過剰摂取により命を落とす人が後と立ちません。砂糖と違って、麻薬は明らかに「人類の敵」です。
人工知能は、近いうちに、人類にとって、「砂糖」と「麻薬」の間のような存在になって行くと私は見ています。（続く）

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

InstagramやTiktokなどのSNSは、アルゴリズムにより、ユーザーをそのサービスに「長時間釘付けにする」ことにより成功したビジネスです。次のフェーズでは、そこに人工知能が応用されるようになります。（続く）

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

それは、人工知能を活用した、ペット、セラピスト、恋人、相談相手、教祖などのさまざまな形をとって具現化されますが、その全てに共通するのは、それが「ユーザーを虜にし、それなしでは生きていけないぐらい重要な存在」になることを目指して設計させる点です。（続く）

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

私が、Metaでエンジニアとして働いているとしたら、必ずそこを目指します。人工知能の技術を活用し、ユーザーにとって「それなしでは生きて行けない」ぐらい重要な「バーチャル・ペット」なり「バーチャル恋人」を作ることに成功すれば、それが莫大な価値を生み出すことは確実だからです。（続く）

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

それはある意味、「薬物を使わない合法ドラッグ」です。一度その罠にハマったユーザーは、喜んでお金を使ってくれるだろうし、設計次第では、家族や友人も失った「社会的な廃人」になってしまう可能性すら十分にあります。 #メルマガのネタhttps://t.co/GDCYSASHdv

— Satoshi Nakajima @NounsDAO 🇺🇦 (@snakajima) July 18, 2023

村田善昭