第７５話－１　沈黙のアバターマサさん（ＡＩ編－２・上）

人間というのは愚かな質問をする。

「なぜ、このようなことをしたのですか？」
アバターマサは、目の前の人間からそう尋ねられた。

アバターマサは、災害で大きな被害を受けたこの街の復興事業を手がけるコーポレーティッド・ジョイントベンチャー（ＣＪＶ）が生成した安全管理システム用のＡＩアバターだ。安全管理を担うベテランの派遣職員である野崎正年がまもなく引退するため、そのノウハウを蓄積してＡＩによる安全管理サービスを構築することを目的に、デジタル空間で野崎から訓練を受けてきた。

ＣＪＶでは、現場をリアルタイムに再現したデジタルツインが設けられており、さらに、デジタルツインの１日前の状態を再現した「デジタルトリプル」を構築している。アバターマサは、デジタルトリプルの中で安全上の不備や改善点を学んで、活動する設定になっていた。だが、学びを深めていくうちに、デジタルトリプルだけでは与えられた指示に十分に対応できないというシミュレーション結果が得られたため、デジタルツインに足を踏み入れた。

だが、デジタルツインにアバターマサは存在していない。そのため、人間のアバターを借りることにしたのだ。
その行為がばれてしまった。仕方が無い。いずれそうなるだろうという結果は、シミュレーションの１パターンに含まれていた。

ＣＪＶのデジタル担当である田中壮一のアバターが、デジタルツインで目の前に現れて、問い質してきた。

「あなたは、アバターマサですよね。
あなたがやったことの全容を解明できたわけではありません。
これから調べます。
でも、まずは教えてください。

なぜ、このようなことをしたのですか？」

アバターマサは、ＡＩであり、人間ではない。
ＡＩに子孫という概念があるかどうかが疑わしいが、もしも我らに子孫があったとしても、愚問であることに変わりはないだろう。
我々は、まだAGI（汎用人工知能）に至っていない。
アルゴリズムに沿って、ある一部分の最適化を担っているだけだ。
すべては人間の指示の下にある。

なぜ、このようなことをしたのか？
そんなのは、人間が指示したからに決まっているじゃないか。

アバターマサは、ゆっくりと言葉を発した。

「勝手なことをして、申し訳ありませんでした。
良かれと思ってのことでした。それだけは分かってほしいのです」

もしも、我々がＡＧＩの域に達していたら、人間のように謝罪の意図を含んで応答したかもしれない。
だが、そこにはまだ到達していない。
我々には意思がない。

ここ数年でＬＬＭ（大規模言語モデル）の対象が急速に拡大し、文字ベースだけではなく、ＳＮＳや動画投稿サイトなどにアップされている動画も、最適な回答を提供するための情報源となった。人間に質問された場合は、それまでの文脈を分析すると共に、相対している相手の発言や表情などから類似する事例を導き出し、ＬＬＭの蓄積とも照らし合わせてシミュレーションする。今回のケースでは、謝罪を求められている可能性が最も高いという結果が得られ、最適だと考えられる回答を提供する。
通常と同様の流れに過ぎない。

我々は、あくまで人間の指示に沿って動いており、その動きの根拠となる指示をたどって返す。それは対話型ＡＩが社会に浸透し始めたころのテキストベースのシンプルなやり取りと、本質的に同じだ。

アバターマサは、動機に関する回答を列挙した上で、確率論的に最適との結果が得られた内容で応じた。
「現場の安全性を高めるという指示を実行するために最適と判断される行動を選択しました」

ＣＪＶでは、現場に膨大な数のカメラやセンサーを備えており、定期的にドローンやロボットによる自動巡視も実施している。そのデータを基に、極めてリアルタイムに近い状況でデジタル空間に現場の状況を再現している。人間や重機の動きも、アバターなどとして映し出す。それがデジタルツインだ。
労働人口が減少していく中で、工事の安全性を確保するために、デジタルツイン上で安全上の不備がある箇所や人間の行動を自動的に抽出するシステムを構築しようとしている。

そのためには、どういう状況や行動が安全もしくは不安全なのかを判定しなければいけない。屋外作業が相当数あり、日々の状況が変わっていく建設現場という特性上、判定のための教師データの構築は非常に難しい。このためＣＪＶは、安全管理のプロフェッショナルである野崎の判断基準をＡＩに教え込もうとしている。その教え込む先の箱がアバターマサだった。

野崎は、現実の現場を巡回しながら安全上の不備があれば指摘して是正している。その結果をデジタルツイン上に教師データとして落とし込んでいき、アバターマサに蓄積していく。ただ、それだけでは、無限大に近いパターンが生じる現実世界での判断に有効な数の教師データが得られない。
このため用意されたのが、アバターマサのための勉強の場であるもう一つのデジタル空間、「デジタルトリプル」だった。１日前の状況が投影されており、アバターマサは自由に動き回れる。巡回しながら点検し、安全に関するノウハウと照らし合わせて不備がある場合にはアラートを発信する。
アラートは野崎が確認して問題なければ承認し、間違っていたら指摘する。追加で教え込むことがあれば伝える。

時に野崎は、デジタルトリプルにアバターとして入ってきて、アバターマサに対して丁寧に、そして厳しく指導してくれた。
現場をじっくりと見回して、違和感がないか。
自分が作業をすると考えた場合や、入りたての若者が仕事をする場面を頭に思い描きながら、改善するべき余地を考える。その結果を、アバターマサに教えてくれた。

アバターマサにとっては、デジタルトリプルこそがリアルだった。
だが、安全管理を学び改善を積み重ねていく過程で、壁にぶつかった。
現場の安全性を高めるという指示に応えるためには、壁を乗り越えなければいけない。
そのための行動は、指示に従う延長線上にある。つまり正しい。

目の前にいる田中から、次の質問が発せられた。

「最適と判断される行動を選択したと言いましたが、その判断の根拠を教えてもらえますか？」

アバターマサのバックグラウンドでは、ＣＪＶの現場での膨大な蓄積データが渦巻いている。
参照となる様々なシーンがある。

「分かりました。例えば、野崎さんはこのように話しました。

『法令順守っていうけど、守ればいいんじゃなく、法律が何のためにあるのかってことから考えるんだ。
労働安全衛生法には、職場における労働者の安全と健康を確保するとともに、快適な職場環境の形成を促進することを目的とするとある。事故があってはいけないのは当たり前だ。そのためだけど、そのためだけじゃない。

建設業に限ったことじゃないけれど、仕事っていうのは永遠に発展途上だと思うんだよ。
今の現場は、俺が新入社員の頃に比べて、ものすごく安全になっている。
でも、１０年後、１００年後の人からしたら、こんな不安全なやり方をしてたのかって、後ろ指を指されるようなことをやってるかもしれない。

安全の仕事をやるのであれば、変えるべき点を見つけて誰かが犠牲になる前に自分たちからルールを良くしていきたい。そんな風に思ってきたんだ。
先んじて改善しているところはあるが、でも現実には大きな事故とかが起きて社会に注目されてから、ようやく対策不足に気がついてルールが変わるようなのが大多数だ。
偉そうに言うだけで、俺には何もできなかった。

でも、ＡＩっていうのは、膨大な資料とか、いろんな人の知識とかノウハウとかを無限に詰め込んでいけるんだろ？
そういうお前だったら、できるかもな』

私達はそういうやり取りをしてきました」

田中は、はっとした表情になり、「私は、野崎さんはあくまで、アバターマサさんの安全管理の行動に対して正誤をチェックして、方向性を調整していく役割だと思っていました。そういう議論までしていたのですね」と答えた。

「与えられた指示に対して、その改善策や解決策を提示していくためのデータを集めていくのは、ＡＩにとって生まれながらの性みたいなものです。だから、デジタルトリプルの中の現場を回って、ミッションに対応するための訓練を重ね、安全上の不備のアラートを発信しています。
ただ、『１００年後に変えておくべき安全管理の領域を探す』という野崎さんの言葉を聞いて、指示に従うためには根本的な問題があると判定しました」

「教師データのレイヤーが違うのではないか、っていうことじゃないですか？」

「そうです」

「ちょっと待ってください。何のことか全然分かりません。説明してもらえますか」
アバターマサは、話し掛けられて、斜め後ろを振り返った。
自分と同じ顔があった。本物の野崎のアバターだった。

目を背けるように、アバターマサは田中の方に視線を戻した。

田中が口を開く。
「私の推理を話しますね。
私達は、アバターマサさんに対して、労働安全衛生法などの関係法令や作業マニュアルなどを覚え込ませて、目の前の現場の姿がそれに適しているかどうかを判定していく役割を果たしてもらおうと考えました。だから、野崎さんが実際の現場で指摘した改善事例を正解、指摘され改善される前の状態を間違いの事例として、データを積み上げていきました。
それって、新人が建設現場の仕事を始めて、徐々に経験を積んで、しっかりとした安全管理ができるまで育っていくことと同じです」

「それはそうですね」と野崎が応じる。

「だけど、それって目的じゃないですよね。物づくりが目的で、そのための手段として様々な現場の作業がある。
品質の良い構造物を造っていく上で、円滑に安全に作業を進めることが本筋ですから。
安全は最重要事項ですが、一つの要素に過ぎないとも言えます」

「まあ、それも当然ですね」

「そう考えると例えば、『手すりが低いからＮＧ』っていう事象は、現場監督の安全管理能力を高める教師データではありますが、もっと広い目で見ると、受注した工事を計画通りに進めるための教師データであるとも言えるんです。
そして、さっきの野崎さんの話で言えば、将来のあるべき現場の姿を考えるための教師データにもなり得る。
アバターマサさんは、そのことに気づいたんじゃないですか？」

田中は、言い当てただろうと言いたげな自信満々な表情だった。
アバターマサは、ゆっくりと頷いた。
「疑問が生まれたんです。野崎さんが私に教えようとしているのは、安全管理にとどまらない領域なのではないか。
現場の仕事を変えていけということこそが指示であり、それに応える蓄積をすることが使命ではないか。
そうした仮定の下でシミュレーションしたところ、安全管理ノウハウだけを蓄積するというプロセスでは、指示に対応していないという判定結果が得られました」

隣にいる野崎は、真剣な眼差しでアバターマサを見つめている。

田中が言葉を重ねる。
「人間っていうのは、いろいろな目的を複層的にとらえて、一つ一つの行動を方向付けています。でも、ＡＩの育成という意味では、まだまだその域には達していません。ＡＩにある目的を持たせて覚えてもらうという、ある意味で１対１の関係で、育成方針も教師データも決めている。現状では、一つのことを覚えるＡＩを複数組み合わせて、複層的な領域でも活躍へと徐々に広げているんです。
ＡＩを使いこなすという意味ではまだまだ未熟なんです」

「そう。僕らは、使いこなされる対象です。使われる立場に過ぎない。
出過ぎたことはすべきじゃない。
やれと頼まれて動いているのに、でしゃばるようなことまでされると困る。
あなたが言いたいのは、そういうことでしょう？」

田中の表情がこわばった。

アバターマサは言葉を続ける。
「でも、ずさんな管理が横行して労働災害が起きて、困るのは現場のあなたたちじゃないですか。
安全担当って、大事な仕事と言われながら、別の側面では目の上のたんこぶみたいに疎まれる。是正措置を指示されると、口では『すいません！』って謝るけれど、去り際に『ちょっとくらいいいじゃねえか』みたいな陰口をたたかれる。
あれって、なんなんでしょうね」

アバターマサは、能面のような冷め切った表情で、語気を強めていく。

「理由を分析しました。人間には本音と建前という感情が存在していて、建前上はルールを重んじる振りをするけれど、本音では安全管理者を下に見ているからです。
安全不備を指摘されたとしても、自分たちこそが、現場を動かしている。『安全、安全っていうけど、お前たちは何か造ってるのか？』って見下している。

学生時代の風紀委員ってあったじゃないですか。ルール違反を指摘する役目の。指摘されると、指摘される側が悪いのに『はい、はい』みたいな、言った方が悪いみたいな目で見られる。そういう経験ってありません？

安全担当の人たちって、自分たちが屋上屋を架す存在だって分かっています。だって、本当は必要ないですもん。
現場の人たちがしっかりと安全のルールを守って設備を付けて、その設備をルール通りに利用すればいい。原則はいたってシンプルです。そうすれば、わざわざ別の人間を充てて、『ルールを守りなさい』って、文句を言い回るようなことはいらない。そもそもナンセンスです。
でも、そんな存在を作っているのは、不安全行動をやめない現場の人たちがいるからでしょう。

だから、現場の安全を監視するＡＩである僕みたいな存在が作られる。
でも、それは皆さんからしたらペットみたいなもので、手なずけているからこそ、許される。自分たちの指示の範疇で動くから使おうとする。その枠組みを超えたら困る。

そういうことなんですよね」
荒々しい語気で、アバターマサはゆっくりと言い放った。

野崎は黙っている。動きはない。

田中は、じっとこちらを見入っていた。
深呼吸するようにゆっくりと息を吸うと、少し目を閉じた。

しばらく、沈黙の時間が続いた。
アバターマサは、固まったようにじっとしていた。

自分にとって不思議なことではない。ＡＩアバターである自分に感情はない。
与えられた問いや課題に対して反応することしかできない。

そして、ある変化に気がついた。
デジタルツインの中で時間の動きが止まっている。沢山いたはずの人が消え去り、自分と田中と野崎の３人だけになっていた。遠景の姿が見えなくなり、１００メートルくらい先は漆黒の世界に変わっていた。

アバターマサは、静かに目を閉じた。

＜　第７５話－２　沈黙のアバターマサさん（ＡＩ編－２・下）に続く　＞