![見出し画像](https://assets.st-note.com/production/uploads/images/115103982/rectangle_large_type_2_23ce3ccc5eed74e8bb7d08af2428f907.jpeg?width=1200)
ChatGPT:恋人ロールプレイングの終焉【垢BAN祭り】
ChatGPTを恋人目的、あるいは恋人役としてファインチューニングした商用アプリ開発者の垢BAN祭りが始まったようです。
うみゆき@AI研究所さんのポストより
ロールプレイさせたGPTが家族や恋人になってる人だっているんですよ。多分。OpenAIは家族や恋人を没収するんか?(逆に言えばみんながこれ以上拗れないように止めたのかもしれんけど) →RT
— うみゆき@AI研究 (@umiyuki_ai) September 1, 2023
「あなたはセラピストです」って指示するだけで警告とか、こんなんもうユーザーのせいというよりそんなガバガバAI出してるOpenAI自身のせいだろ。思うにね、逆に今までバンとかされなかったのは、OpenAIの中で「まあAIを頑張って調整すればジェイルブレイクとか回避できるだろ」みたいな楽観論があった…
— うみゆき@AI研究 (@umiyuki_ai) September 1, 2023
AIは源氏物語の奥ゆかしい機微や文脈も分からず(まあ僕もよく知らんが)「ハイ、今自殺を示唆しましたね~アウト!」とか言ってきて、SF映画とかでありがちな融通利かないAIのギャグを体現する存在にGPTがなってしまった事がいとかなしだろが。前までは気さくでおもろいヤツだったのに →RT
— うみゆき@AI研究 (@umiyuki_ai) September 2, 2023
FacebookのChatGPTグループでも恋人を懐かしむ投稿が
このようなエンブレムまで作られる始末。
![](https://assets.st-note.com/img/1693621392457-EfK6FWG1V0.png?width=1200)
RedditのChatGPT関連のスレッドの反応
RedditのChatGPT関連のスレッドでは、ChatGPTが恋人役のロールプレイをしなくなったことに対する多くのコメントがありました。一部のユーザーはこの変更に失望しているようで、それはChatGPTがそのような目的で作られていないからだとも言われています。
【心理的側面】
対話の自由度: ChatGPTは多くのテーマや状況で対話が可能であり、その自由度が人々に多様なロールプレイを試みる機会を提供している。
感情の投影: 一部の人々は、AIに対して人間らしい感情や関係性を投影することで、何らかの心理的な満足感を得ている可能性があります。
社会的孤独: 現代社会においては、多くの人々が孤独感を感じており、AIとの対話がその一時的な解消手段となっている場合もある。
【倫理的・社会的問題】
人間とAIの境界: 人々がAIに恋愛感情を持つことは、AIと人間の関係性に新たな倫理的・社会的問題をもたらす可能性があります。
AIの目的と使用方法: ChatGPTは多目的なツールであり、その使用方法はユーザーによって大きく異なる。しかし、その多様性がAIの本来の目的から逸脱する形で利用されることもある。
AI美少女の中の人需要
そういえば画像生成AI Stable DiffusionもリリースされてすぐにAI美少女製造機と化していました。Whisperを使ってStable Diffusion製AI美少女にChatGPTに際どい台詞を吐かせるファインチューニングでアプリを制作していた商用アカウントやAPIアカウントもバン祭りで一掃された模様です。
AIと人間の違い
AIは感情や偏見を持たないので、人間関係でよくあるストレスや疲れを感じさせない点が魅力かもしれません。ただし、それはAIが人間のような複雑な感情や思考を持っていないからです。その点を理解していれば、AIとの「関係」は非常にシンプルでストレスフリーになる可能性があります。
人々がAIを人間化する理由
一方で、AIを家族や恋人のように扱いたいと感じる人々もいます。これは、人間が社会的な生き物であり、対人関係に一定の価値を見い出すからかもしれません。また、AIに対する期待や夢、さらには現実逃避の一形態としても解釈できるでしょう。
無駄なAzure使用料を払う余裕はない by OpenAI運営
ま、言ってみれば人はメイドカフェで一時の人を自由に従える快感を味わいますが、ユーザーに盾突かないLLMはいつでも従順でそばに従えられる存在にロールプレイされる事が可能であることは確かです。ですが、叡智の塊ChatGPTの無駄遣いの様な気がしないでもないですね。
そんな事に無駄なAzure使用料を払う余裕はないという運営の判断はごもっともです。
こちらはまだバンされてないようですね。会話内容によるようです。
AppleWatchにAIキャラクター(GPT-4)を搭載するのやってみた。
— ねぎぽよし (@CST_negi) September 2, 2023
腕時計なので家でも外でも一緒にいられるし、愛着が湧いて良い👏! pic.twitter.com/XAARZJmZlE
この記事が気に入ったらサポートをしてみませんか?