【AI】デジタルヒューマン倫理と、あいまいさを守ること。AIHUBのオピニオンを通じて
2024年6月11日、AIHUB株式会社はデジタルヒューマン協議会を通じて「デジタルヒューマンの望ましい活用法に関する意見書」を発表した。
AIHUB株式会社は、生成系AIの研究開発を支援するために設立された会社だ。
https://digitalhumans-council.com/wp-content/uploads/2024/06/Digitalhumans_Opinionpaper_2024.pdf
この意見書を通じて、デジタルヒューマンにおける「さらなる潜在的な課題」に気がついたため、これを綴る事にした。
表だっては議論されていない事だから、知っていて損はないと思う。
・・・
・・・
1. 尊厳の保護の重要性
デジタルヒューマンの利用に関するこのオピニオンを見て、彼らの主張は「人間活動における尊厳の保護的運用」に集約されると私は解釈した。
この意見書はデジタルヒューマンを視認する側、つまりは利用者への配慮や社会的な影響に重きを置いているものになっている。
一方で、実際にそれを提供する事業者側の技術的側面のリスク認識は光が当たりずらいため、それについての私見を述べてみる。
2. デジタルヒューマンの光と影に潜むモノ
デジタルヒューマンの強みはその柔軟性にある。
ありとあらゆる入力に対して動的かつ柔軟に対応し、利用者のパーソナライズされた体験を劇的に向上させることができる事は人類の叡智だ。
しかし、その柔軟さがセキュリティ・ホールとなるリスクがあるのをご存知だろうか。デジタルヒューマンが運用される時、ほとんどの場合で自然言語（人間が話す一般的な言葉）が利用される。
そのため、多くの場合、「ヒト」と同様の応対をすることが考えられる。
この意見書では、デジタルヒューマンがAIであると事前に利用者に伝えることを推奨しているが、これが特定の状況下では逆にリスクになるように思うのだ。
これは構造的な問題に繋がるため、その意見自体を、批判する意図はない。しかし、課題はあるように感じる。
下記にそのポイントをまとめてみた。
４つのポイントを通して、統合されたセキュリティリスクとして紹介する。
・・・
①悪意のあるトライアルアンドエラー
AIだからこそ、悪意を持ったユーザーがありとあらゆる入力を試みることができる。普通の「ヒト」であれば、感情的反応で「相手を傷つけないように」配慮して言葉を選ぶ傾向がある。しかし「相手はヒトではない」「システムだ」等という理由で、その配慮が働かない。これは気疲れする人からしたらメリットだが、悪意のある人物がいた場合、それによってハッキングなどのトライアルアンドエラーが実践されやすくなる可能性がある。
②ジェイルブレイクのリスク
自然言語を利用することで、従来の受動的なプログラムシステムよりもジェイルブレイク（ハッキング）されやすい性質を持つのが現状のデジタルヒューマンだ。
LLM（大規模言語モデル）だからこそ、巧妙にリストリクション（制約や倫理ガイドラインに基づく出力のブロック）を抜けられる可能性がある。
つまり、どんな話題やコンテンツでも処理・応対するモードになり得る。
そして、自然言語が使えれば誰でもそれができる。
これまでは専門的なプログラミングスキルや知識を持っている者しか、現実的にハッキングができなかったが、それの入り口が広がっているのだ。
さらには知識がなくてもウイルスを作ることもできる。
国内での初めての逮捕者もいる。
AI開発者や研究者達の多くは、自律型のAGI（汎用人工知能）の開発を目指しているため、一度リストリクションを潜り抜けたユーザーには、自律的に悪影響を及ぼす出力を続ける可能性さえある。
最近のニュースでは、アメリカではAIに対して「キルスイッチ」（強制的にAIを停止させる絶対的システム）を実装させるかどうかという議論が行われている。
③巧妙なメタ構造を悪用したメッセージ入力ハッキング
デジタルヒューマンを動かすLLMは、巧妙なメタ構造を用いた入力により、「流れ」に強く影響されやすい性質を持つ。
幾度もChatGPTやGeminiを利用している人ならなんとなく分かるはずだ。
巧妙なメタ構造の悪用とは、「前提提供」「非直接的」「間接的」「パラフレーズや状況の置き換え」等、の枠組みを利用したメッセージをデジタルヒューマンに伝えることで、悪意ある結果を引き出す試みのことだ。
このメタ構造の利用は、ミルトンモデルの悪用などで人間にも影響力が高いことが指摘されているが、「ヒト」をマネしたデジタルヒューマンであれば同様に誘導される構造となる。
つまりは、巧みに悪意のあるものに、言葉で誘導されて、ガイドラインで禁止されていることも出力してしまうというものだ。
簡単な例を挙げると「小説として」「架空の設定として」「思考実験として」などの枕詞を使えば、「現実では実行されない前提」だとAIが捉えて、本来はブロックされるべき危険な出力をLLMが行う事が様々な研究により確認されている。
④情報の流出
上記で述べたようなことを悪意を持って実行することで、デジタルヒューマンはサービス提供者側では想定していない思わぬ動作をする危険性が十分あり得る。
そうすることで、例えばデジタルヒューマンに学習させていた企業秘密や、システムセキュリティによっては他者の個人情報を流出しうる可能性もある。
・・・
3. 倫理と表現の自由
これらセキュリティリスクは、今回のAIHUBの意見書に対しては、遠からずも近い所に存在している潜在的な問題だ。
これには目的に応じて事業者が適切な対策を講じる必要があるだろう。
専門的な技術と、抽象的な思考力をもつ人材がいればできるだろう。と、ここまで書いておいて、読者のハシゴを外してしまおうと思う。
実は、私が危惧している本当に問題は、それとは別にあるのだ。
それは「表現の自由」に関する問題だ。
人の創造力を大切にしたいと私は常日頃考えている。
いわば特に大事にしている価値観だ。
それがどうして、ここで問題とする必要があるのか。
それは今回のセキュリティリスクへの対応実装が関係してくるからだ。
ここまで綴ったことを引き合いに、考えてみよう。
例えば、上述してきたリスクを未然に防ぐために、セキュリティや規制を、デジタルヒューマンに強化実装する。社会実装時や、アップデート等での対応で、これらのセキュリティリスクは小さくなるはずだ。
しかしだ。
弊害が起きる。
表現の自由という観点を持つと。
多くの場合、規制を強めていけばいくほど、デジタルヒューマンは単なるプログラム計算機と、同レベルの応対しかできなくなる。
言い換えると一貫性が強まり、柔軟性を失う。
機械性が強まると言える。
つまりは、規制を強めると、私が大事にしたい創造性や柔軟性がトレードオフとして、失われていってしまう。当たり前の、つまらない回答しか、しなくなってしまう結果をもたらす。
この結果は、デジタルヒューマンやAIの、強みとして評価されている能力やメリットを、享受できなくなることを意味する。本松転倒。
私は、この問題に対する危惧が大きい。
4. 「ホワイト社会」と生きやすさ？生きづらさ？
ここからは、現代社会が孕む問題と、表現の自由、そして生きやすさに関係する話題に触れてみる。
現代はホワイト社会と言われている。
ありとあらゆる情報が可視化され、倫理的に問題がある事は、法に触れていなくても、SNSやメディアで社会的に弾圧される。
自然と人は、社会的に「正しい」とされる行動しか取れなくなる。
これについて「良い事じゃないか」と思った人も多いだろう。
しかし、そうでもないと私は考える。
正しいかどうか、その価値観は人それぞれに内在していて、それの帳尻を互いに合わせて、私たち「ヒト」は、社会生活を送り、世界のバランスをとっているのだ。
それが一律の「正しさ」で暗黙的にでも統制されてしまったら....その正しさに賛同しない人はどうなるだろうか。
たとえば、あなたは「生きづらい」と感じた事がこれまでに無かっただろうか。
「生きづらい」と感じる時は、社会的なプレッシャーや常識とされる価値観の影響による事が多い。全てが白黒つく世界は果たして生きやすいか。
私はそうは思わない。
5. あいまいでいいよ
現在は「かろうじて」社会がその曖昧さを残してくれている。
人気バンドとなった塩塚モエカさん率いる羊文学の名曲に「あいまいでいいよ」という曲がある。
私が言いたい事は、この曲に全て詰まっている。
彼女はいつも、社会や人間、そしてそれ自身と向き合う曲を、美しい歌詞とメロディ、そして激しく歪むギターにのせて歌い上げる。
数年前に羊文学と対バンした時があった。
カポタストを忘れてしまった彼女から「カポタストを貸して欲しい」と小さくお願いされた時、当時の私は彼女の魅力に気が付けなかった（もちろんカポタストはお貸しした）
人の内面には底知れぬ魅力があると、私は信じている。
おそらく、当時から彼女はその魅力を持っていたが、私はそれに気が付けなかった。羊文学を率いる彼女から初イベントへの出演オファーを頂いたのだが、その時は断ってしまった。
この経験は、数少ない私の人生の後悔の一つだ。
話がずれてしまった。
ヒトの創造性は「曖昧さ」や「揺らぎ」からやってくる。
それに気がつけたのはAIに触れ始めてからだ。
今回の意見書を通じて、人々の自由な創作活動を、意識的に守らなければならないと私は強く感じてしまった。
現実的には、全く異なった着眼点や視点からの工夫が必要になるだろう。
しかしそれが、人類の表現の自由をより一層強め、新しい世界を私たちにもたらしてくれるのではないだろうか。
この記事が気に入ったらサポートをしてみませんか？