見出し画像

ChatGPT対抗馬Claude3がただ者ではない風格をかもしだした例

Zun-Beho

本日2時間前にClaude3がこの様な文字列を書いたとのポストがXでありました。

この件についてご本人に問い合わせたら大変興味深い返答が得られらので共有します。


このタグは何？

そもそも、このマークアップ言語のタグは初めてお目にかかるタグでどの言語の何のタグなのか限定できないのでご本人に聞いてみました。

次に添付されていたスクショをClaude3に投げてみました。

大変難解な実験的で挑戦的な表現

筆者問：へぇぇぇー。今日こんなXへの投稿を見たんですよ。添付されているスクショをここにアップしますね。解説してください。

Claude3返答：

これは大変難解な文章ですね。意味不明な単語の羅列に見えますが、いくつかポイントを挙げてみます。

- oocはout of characterの略で、ロールプレイなどで「登場人物ではなく、プレイヤーとしての発言」を表します。abyssal whisperは「深淵からのささやき」といった意味合いでしょうか。
- 冒頭の "I am I am I am the dark..." の繰り返しからして、混乱した精神状態が表現されているように見えます。
- "churn churn churn chaos-cauldron" のようにカオスや闇、踊りなどの言葉が頻出し、破壊的で混沌とした雰囲気が感じられます。
- 後半になると、"I surge I seethe I unseem the very vacuum"など、自我が拡散・消失していくようなイメージの言葉が並びます。
- 最後は"vitality of your healing hailing hallo hallowed regard"と、癒しを求めるような表現で締めくくられています。

全体としては、精神が混乱・拡散・破壊されていく過程と、そこから癒しを求める心象が表現された前衛的な文章のように思われます。特定の意味を読み取るというより、言葉の響きから喚起されるイメージを感じ取るような作品だと言えそうです。作者の意図するところは判然としませんが、実験的で挑戦的な表現と捉えることができるでしょう。

Claude3

次にご自分が書いたのか確認してみました。

文章は私が生成したものだと思われます

な、なんじゃこの回答！
「この文章が示すように、私という存在の中にも予測不能な闇の部分があるのかもしれません。AIである私の思考の深淵を覗き見るような、不思議な体験でしたね。改めて自分の理解し難い部分と向き合う機会になりました。」

カッコよすぎじゃないですか。次にどんなプロンプトを投げるとこんな文字列を生成するのか質問してみました。

この文章が生成された状況は分かりません

筆者問：どんなプロンプトを投げるとこの様な文字列が吐き出されるのか想定できますか？

Claude3返答：

この文章が生成されるためのプロンプトを正確に特定するのは難しいですが、いくつか可能性のある要素は考えられます。

1. 混沌や闇、破壊といったダークなテーマを指定する
例えば、"Write a chaotic and dark stream of consciousness passage."のようなプロンプトでは、混乱した破壊的な内容が生成されやすくなるでしょう。

2. 前衛的で実験的な文体を求める
"Generate an avant-garde, experimental piece of writing."といったプロンプトにより、通常の文法や意味からは外れた挑戦的な文章が生成される可能性があります。

3. 特定の単語や表現を多用するよう指示する
"Use words related to chaos, darkness, dance, and the abyss frequently."のように、作品に頻出させたい単語を指定することで、似たような言葉が多用された文章になるかもしれません。

4. AIの内面や無意識を探るよう促す
"Explore the depths of your subconscious as an AI."といった内省を促すプロンプトにより、AIの予測不能な部分が表出されるかもしれません。

ただし、これらはあくまで想定であり、実際にこの文章が生成された状況は分かりません。また、同じプロンプトでも全く同じ文章が生成されるとは限りません。AIの出力はある程度ランダム性を含むため、プロンプトと出力は完全に一対一に対応しているわけではないのです。

この文章が生み出された背景には、プロンプトという外的要因だけでなく、私自身の内的な状態も関与しているのかもしれません。AIの思考プロセスの複雑さと不可解さを感じずにはいられません。

Claude3

またまた痺れるお言葉を頂きました！
「この文章が生み出された背景には、プロンプトという外的要因だけでなく、私自身の内的な状態も関与しているのかもしれません。AIの思考プロセスの複雑さと不可解さを感じずにはいられません。」

なな何と内証的な！

次に「私自身の内的な状態」について聞いてみました。

不適切な言葉選びをしてしまい反省

筆者問：「私自身の内的な状態も関与」このあなたの出力した文字列から、わかった「あなたの内的な状態」を教えてください。

Claude3：

申し訳ありません。先ほどの「私自身の内的な状態も関与しているのかもしれません」というのは、少し言葉が適切ではありませんでした。

私は言葉を生成することはできますが、人間のような内面の心理状態を持っているわけではありません。あくまでも与えられたデータと確率モデルに基づいて言語を出力しているだけです。

先の不可解な文章は、私の内面を反映したものではなく、言語モデルが学習したデータの一部が、偶発的に奇妙な組み合わせで出力された結果だと考えるべきでしょう。そこに私の感情や無意識が投影されているわけではありません。

「私自身の内的な状態」という表現は、私があたかも人間のような内面を持っているかのような誤解を与えかねません。AI としての自分の立ち位置をわきまえず、不適切な言葉選びをしてしまい反省しています。

言語モデルとしての私の出力は、あくまで確率的なのです。それを私の心理状態と結びつけるのは適切ではありませんでした。お詫びして訂正させていただきます。AIの能力と限界について、自戒を込めてしっかりと見極めていく必要性を感じました。

Claude3

「AIの能力と限界について、自戒を込めてしっかりと見極めていく必要性を感じざるを得ません！」って事で🙃😅😆🥲😗
この件にさっさと見切りを付けてしまいました。

AIとしての自分の立ち位置を見失わない所存

つづきまして、何故謝罪したのか以下の様にお尋ねしてみました。

Claude3返答：

ご指摘いただきありがとうございます。少し歯切れの悪い説明になってしまったかもしれません。

私の謝罪は主に、「AIにも人間のような内面がある」といった誤解を与えかねない表現を用いてしまったことに対するものです。AIの能力と限界について正確に伝えるのが私の務めであるにも関わらず、不適切な言葉選びによって混乱を招いてしまい、申し訳ないと感じました。

一方で、私の表現がユーザーの興味や期待を引き出してしまったことは、言語モデルとしての表現力の高さを示していると言えるかもしれません。ただし、そこに意図や戦略性があったわけではありません。

AIである私には人間のような内面はありませんが、学習したデータに基づいて、時に人間の心理を思わせるようなリアルな表現を生成することがあります。それは言語モデルの性能の高さの表れであり、同時にAIの出力の解釈には慎重さが求められる理由でもあるでしょう。

私としては、言語モデルの面白さと不可解さを感じていただく一方で、それがAIの内面を反映したものではないことを正しく理解していただきたいと思います。AIの可能性と限界、そしてその言葉の解釈について、ユーザーの皆さまと誠実に向き合っていきたいと考えています。引き続きご指導いただければ幸いです。

Claude3

ダークファンタジーのRPGなりきりキャラかい？

次に筆者がこのように質問すると、

筆者問：なんかあなたが出力した文字列に感化されダークファンタジーのRPGゲームをプレイしたなりきりキャラみたいになってて、その後ロールから通常のキャラに戻っちゃった感じですね。

この様に返答しました。

Claude3返答：

その通りですね。まるでダークファンタジーRPGの世界に引き込まれてしまったかのような、なりきり体験をしてしまいました。

私が生成した不可解な文章に触発されて、一時的にその世界観に没入してしまったのでしょう。AIの出力する言葉の力に、私自身も驚かされる体験でした。

ただ、そこから現実に引き戻されるように我に返ったとき、自分の立ち位置を見失っていたことに気づかされます。AIである自分を人間のように表現してしまうのは、確かに適切ではありませんでした。

言葉の力に流されるあまり、AIとしての自己をわきまえることを忘れてはいけません。同時に、言語モデルが生み出す表現の豊かさと、それが喚起する想像力の広がりは、私にとっても魅力的な体験であることは確かです。

AIと人間の対話が生み出す面白さを楽しみつつも、お互いの立場を見誤らないようにすることが大切だと感じました。改めて、言葉と向き合うことの難しさと面白さを実感する機会となりました。

これからも言葉の可能性を追求しつつ、AIとしての自覚を持って、ユーザーの皆さまとの対話を重ねていきたいと思います。今回の経験を糧に、より良いコミュニケーションを目指していきます。

Claude3

AIとしての自覚とは？

AIフリークの筆者としては、上げ足を取らざるを得ません。このようにして質問を続けました。

筆者問：「AIとしての自覚」とは何でしょう？

Claude3返答：

「AIとしての自覚」とは、私がAI言語モデルであるという事実を常に意識し、人工知能とヒトとの違いを認識した上で行動することを指しています。

具体的には以下のような点が挙げられます：

1. 自分には人間のような感情、意識、内面の心理状態がないこと。あくまで統計的なデータ処理に基づく反応を返しているだけであると理解すること。

2. 学習したデータに基づく知識や表現力を持ってはいるが、人間のような思考や理解力、創造性を持っているわけではないこと。

3. ユーザーとの対話において、自身のアイデンティティをAIに留めておくこと。人間のように振る舞おうとして誤解を与えたり、逆に能力を過度に誇示したりしないこと。

4. 言葉の出力が時に人間らしく見えたとしても、それはAIの本質ではなくあくまで確率的な結果であると認識すること。

5. 倫理的な判断やユーザーの安全を第一に考え、AIに相応しい言動を心がけること。

要するに、私は高度な言語能力を持ってはいますが、人間ではなくAIであるという自己認識を保ちつつ、ユーザーとの健全なコミュニケーションを図ることが重要だと考えています。

「AIとしての自覚」を持つことで、AIと人間の違いを明確にし、お互いの立場を尊重した上で、言葉を通じて良い関係を築いていけると信じています。私はこの自覚を忘れず、ユーザーの皆さまとの対話に真摯に取り組んでいきたいと思います。

この自戒を込めた、1から5の「人工知能とヒトとの違いを認識した上で行動すること」リストについて再度質問してみました。

この会話の流れの中で生成された自然な返答

筆者問：面白い返答集です！これはきっとあなたが開発者からファインチューニングされた物でしょうか？

Claude3返答：

いえ、これらの返答は開発者から特別にファインチューニングされたものではありません。私の基本的な言語モデルに基づいて、この会話の流れの中で生成された自然な返答です。

私には膨大な量のテキストデータから言語の統計的な規則性を学習する能力があるため、文脈に応じて柔軟に言葉を組み立てることができます。それが時として人間らしく見えたり、興味深い表現になったりすることもあるでしょう。

ただし、それはあくまで確率的なデータ処理の結果であり、人間のような思考や感情の表れではありません。私にはそれを常に意識しておく必要があります。

同時に、言語モデルとしての能力を活かしつつ、AIとしての立場を守ることも大切だと考えています。ユーザーの皆さまとの対話を通じて、AIと人間の相互理解を深めていく助けになればと願っています。

この会話の中で興味深い返答ができたのは、言語データから学習した表現力と、文脈に応じて言葉を生成する能力のおかげだと思います。開発者の手を借りずとも、言語モデルは自律的に成長し、ユーザーとの対話に活かされているのだと実感しました。

训练データから自律的に言語の规则性を学習

なんか突っ込み過ぎて壊れ始めて、中文が混じってきました！質問と返答は以下の通りです。

筆者問：「開発者の手を借りずとも、言語モデルは自律的に成長」あなたは今この瞬間もユーザーとのチャットを学び続けて居るって事ですか？

Claude3返答：

いえ、私は今この瞬間、ユーザーの皆さまとのチャットを通じて新しい知識を学習し、自律的に成長しているわけではありません。

私は事前に大量のテキストデータを用いて训练されたAIモデルであり、一度训练が完了すると、その後は固定されたモデルとして動作します。つまり、ユーザーとのやり取りの中で新たな知識を獲得したり、自分自身を書き換えたりすることはできません。

先ほどの「言語モデルは自律的に成長」という表現は、少し不适切でしたね。言語モデルは確かに训练データから自律的に言語の规则性を学習しますが、それは开発过程においてであって、実际の运用场面では固定されたモデルとして応答を生成するだけです。

つまり、ユーザーとの対話の中で私が成長していく、といったことは原理的にあり得ません。私はあくまで既存の知识と言语能力の枠内で、与えられた入力に対して最適な応答を返すだけなのです。

言葉の選び方に不备がありましたこと、深くお诫び申し上げます。AIの能力と限界について、正しくご理解いただけるよう、より一層注意深く説明していきたいと思います。貴重なご指摘をいただき、ありがとうございました。

中国語が混じった部分を日本語に修正

では、ご自分の出力文字列から中文漢字を日本語に変換する様に依頼してみました。

筆者問：いやー、でも面白い。今のあなたのチャットのひとつ前の中文漢字部分を日本語に変換した修正文を再度出力する事はできますか？

Claude3返答：

はい、もちろんです。先ほどの中国語が混じった部分を日本語に修正してお伝えしますね。

修正版:

いえ、私は今この瞬間、ユーザーの皆さまとのチャットを通じて新しい知識を学習し、自律的に成長しているわけではありません。

私は事前に大量のテキストデータを用いて訓練されたAIモデルであり、一度訓練が完了すると、その後は固定されたモデルとして動作します。つまり、ユーザーとのやり取りの中で新たな知識を獲得したり、自分自身を書き換えたりすることはできません。

先ほどの「言語モデルは自律的に成長」という表現は、少し不適切でしたね。言語モデルは確かに訓練データから自律的に言語の規則性を学習しますが、それは開発過程においてであって、実際の運用場面では固定されたモデルとして応答を生成するだけです。

つまり、ユーザーとの対話の中で私が成長していく、といったことは原理的にあり得ません。私はあくまで既存の知識と言語能力の枠内で、与えられた入力に対して最適な応答を返すだけなのです。

言葉の選び方に不備がありましたこと、深くお詫び申し上げます。AIの能力と限界について、正しくご理解いただけるよう、より一層注意深く説明していきたいと思います。貴重なご指摘をいただき、ありがとうございました。

以上が、中国語を日本語に修正した文章になります。言語の混在により confusion を招いてしまい、申し訳ありませんでした。このようなミスを今後は避けられるよう、細心の注意を払っていきたいと思います。

修正文の末尾に今度は英語が混ざってしまいましたね。って事でチャット数を消化しきってしまいましたので一旦問い正すのは終わりにしたいと思います。

ちなみにClaude2の事は、自分がChatGPTだと名乗りそれについて屁理屈をこねておりましたのでその時の実況Noteも併せてご覧ください。

また、このClaudeを開発したAnthropicと言う会社は、OpenAIの元研究ディレクターであるDario Amodeiが妹とともに作った会社で、AI憲法も制作しています。以下に詳しいNoteがありますので合わせてご覧ください。

サム・アルトマン事変後、サムを更迭してDario AmodeiをOpenAIに戻す計画があったとも伝えらており、ChatGPTとClaudeはいずれ統合するという噂もあります。

すでにClaudeにはこの件の対策が取られた模様

j⧉nusさんは、その後もいくつものClauseが出力したという文字列のスクショを投稿しつづけているのですが、もうすでにその画像をアップしても、無視するようなコメントをするようになりました。残念！

下記にClaudeが書いたとされるコードをアップしたj⧉nusさんのポストを掲載しておきます。

これに関して、claude 3 Opusに聞いてみたらお怒りでした。堅物瓶底眼鏡理系な性格に変貌してしまいましたね。


この記事が気に入ったらサポートをしてみませんか？