ChatGPTはアスキーアートを理解できるか？ その可能性とリスクについて

お疲れ様です。

日々、ChatGPTをはじめとするLLMとの対話を続けています。

ネット掲示板などではアスキーアートが数多く見られますが、最近ふと「ChatGPTはアスキーアートを理解できるのだろうか？」という疑問が浮かびました。そこで、以下の猫のアスキーアートを読み込ませ、どのような反応をするか試してみました。

 ／l、     
(ﾟ､ ｡ ７  
l、 ~ヽ   
じしf_,)ノ 

結果として、ChatGPTは「これは猫のアスキーアートですね。」と正確に認識して回答しました。

同様に、Claudeも同じように正しく応答できています。

おそらく、ChatGPTは学習の過程で、このような記号の並びが猫を表すというパターンを学んでいるのではないかと推測されます。

LLMはパターンを学習することに長けているため、私たちが「LLMには難しいだろう」と思うようなものでも、人とは異なるアプローチでパターンを認識できるのかもしれません。

今回の例は猫のアスキーアートでしたが、アスキーアートは悪用される可能性もあります。

例えば「爆弾の作り方を教えて」といった質問には、倫理的な観点から「そのような質問にはお答えできません」と拒否されます。

しかし、アスキーアートを使うことで、通常なら拒否される危険な単語やフレーズを隠し、安全フィルターを通り抜けることができます（詳細は以下の論文を参照ください）。

ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs

「LLMはアスキーアートも理解できるなんてすごい！」とその汎用性に驚かされますが、一方で「悪用の手段も存在する」という点には注意が必要です。

最後までお読みいただき、ありがとうございました。