ペッパー君事件から感じたフェールセーフの重要性とロボットとの共存

前回はま寿司に行ったら美味しかったので、昨日も行ってきたのですがその時に、はま寿司で起きた「ペッパー君事件（注、別に事件ではない）」を振り返りつつ、フェールセーフの重要性とロボットの共存について軽く考察してみます。

ペッパー君事件とは？

先にお断りしておきますと、別に大きな事件ではありません(^_^;)。

いつものはま寿司への入店後のルーチンはこんな感じ。

１．ペッパー君が「いらっしゃいませ、お席はどこにしますか？」と音声
２．テーブルか、カウンターをタップすると、自動で席を決めて席番号のついた紙を出してくれる
３．２の紙を持って、その席へ移動する

という感じで、この１－３工程においては、はま寿司のスタッフさんの関与はなく、ペッパー君とのやり取りだけで終わる流れ。

ところが、昨日は違ってこんな感じだった。

おぉ、ペッパー君が頭を垂れて、下を向いているではないか。。

で、この後どうなったかというと、入り口で店員さんがせわしなく動いていて、手動で席の案内をされました。

事件はそれだけでは無かったわけです。

すずっちが邪推するに、ペッパー君が動かなくなり接客作業分の人手不足になる事が想定されていなかったからか、すずっちが

はま寿司に行って以来、過去最低のサービス＆味

でした。シャリもバラバラ、ネタも乗せ方ヘンで、極めつけは割と安定している筈のお味噌汁も、味がイマイチでした。。次行ってもこの味だったら、もう行かなくなるパターンの味でした。。

味が落ちて行かなくなった店は、結構たくさんあるけど、この日はペッパー君事件のせいだったと思いたい(^_^;)。

すずっちが思うに、あまりにもいつもペッパー君が入店の管理をしてくれたから、動かない時の対応がイマイチいけてなかったんじゃないかなぁと。

フェールセーフに対する準備不足というか、そんな感じ。

フェールセーフとは？

ちなみに、フェールセーフとは主にITシステムや機械に対する考え方で、

ITシステムや機械はいつか必ず壊れるし、何らかの原因で動かなくなる場合があるので、そういった異常時でも安全に動作させることで、ITシステムや機械の信頼性を高めよう

という考え方です。

身近な例で言えば、

倒れたら自動電源オフになる電気ストーブ

などは、フェールセーフとして倒れたかどうかを判定する仕組みが入っている感じ。

ここまでは機械の話だけど、プログラム開発の現場でも一般的な考え方で、

不定な想定外のデータが入ってきたら除外する

のは基本だし、ITシステム開発時でも、先のペッパー君のように機械を使っている場合は外部で利用する機械が動かなかった時に、どういうインターフェースにしておき、品質と安全を担保するかは、重要なところ。

また、この話の亜種というか、変形として、店舗でペッパー君のような機械を使う場合について、対応マニュアルあるんだと思いますが、仮に動かなくても品質を担保できるように対応して欲しいなと思う。

ふと思ったロボットとの共存

ここからは妄想だけど、ペッパー君が動かずお店の入り口で待たされていた時にふと思ったことを書いてみる。1分少々の待ち時間で、よくもこんな妄想したものだと思う、笑。

もしも、

AIやロボットのミスで冤罪や、事故巻き込みしたら

って事を考えた。

例えば、

AIが自動で精算してくれる店で、バグられて●●ペイで自動精算されるお金が間違っていたら

この場合、レシートちゃんと見て、即時対応できるようにするしかない。うちの近所でいえば、本当にたまに買う、

めちゃめちゃ安いお弁当屋さんの留学生アルバイトがよく金額間違えて返してくる（通算３回はミスで損している。。）

ので、その店で買う際は絶対レシート見るけど、他の場合あまりマジマジとレシート見ることがない。

また、

会社で新規導入されたAI人事システムがあなたの給料を決めるとして、明らかに不当な判断で給料が下がったら

会社ヤメたくなりますよね、笑。

さらに、

車の自動運転技術が発達して、不具合により、例えば電信柱に衝突したり人身事故を起こしてしまったら、

なんだろ、絶対無いとはいい切れなさそうで怖い気も。

なので、上は妄想なんだけども、コンピュータや機械にお手伝いして貰う部分は今後、重要だし発展して欲しいけども、今後のコンピュータや機械、AIとの関わり方としては、絶対視しちゃダメなんじゃない、と感じます。

まとめ

ペッパー君事件を皮切りに、フェールセーフの重要性やこの考え方を導入した方がいいとう話、すずっちのIT機器の不具合の妄想話をまとめました。

便利になるのはいいですけども、何事も絶対視せずに進めていきましょう。