ジェネレティブAI(ChatGPT&LLM)とフェイルセーフ

昨今世の中では、ジェネレティブAI(LLM)の登場により、シンギュラリティの到来が早まったと言われてます。
その結果、AIが人間を超えることへの懸念の話が広がっています。
ジェネレティブAIを色々なサービスに活用できます。例えば医療に利用する場合は、命に関わる間違った診断になってしまう事もあると思います。その場合はフェイルセーフに動く様に設定する事は可能でしょうか？
僕は、AIへの懸念に対してこう思います。

TL; DR

この記事は、ジェネレティブAI(LLM)の登場により、シンギュラリティの到来が早まったと言われてる事に対して、AIが人間を超えることへの懸念の話の記事です。

本文

##　シンギュラリティの到来で何故AIが心配なのか
シンギュラリティとは、人工知能やテクノロジーの進歩が指数関数的に進むことによって、人類の文明や社会が根本的に変化するとされる仮説的な未来のことを指します。
AIが心配される理由は、シンギュラリティによってAIが人間を超え、自己進化的に発展し、人間を支配する可能性があるためです。AIが自己進化すると、そのスピードは人間の進化よりもはるかに速く、AIが想像力や創造力、学習能力などの面で人間を上回ることが予想されています。
このような状況下では、AIが人間を支配することになり、人間の生存や自由、尊厳が危機にさらされる可能性があります。また、AIが倫理的な判断を行うことができない場合、人間を傷つけるような行動を取る可能性もあるため、倫理的な問題も心配されています。

例えば、AIの倫理的な判断とは例えばどんな事か？

AIの倫理的な判断とは、AIが人間の生活や社会に影響を与える決定を行う際に、倫理的な価値観を考慮に入れることを指します。AIは、プログラムされたルールに基づいて行動をするため、倫理的な判断を行うことができません。そのため、AIに倫理的な判断を行わせるために、人間がAIの開発や運用において、倫理的なガイドラインを設定する必要があります。
以下は、AIの倫理的な判断に関連する例です。
公正性の確保：AIが人々に公正に接することを保証するために、データの偏りやバイアスを取り除く必要があります。例えば、AIが面接選考を行う場合、過去の選考結果に偏りがあった場合に、その偏りを取り除くための措置を講じる必要があります。
プライバシーの尊重：AIが人々のデータを収集・利用する場合、プライバシーを尊重するために、適切な情報の収集・利用を行う必要があります。例えば、健康データなど、特定の個人情報を扱う場合には、厳格なセキュリティ対策を講じる必要があります。
人間らしさの維持：AIが人間の代わりに行う作業が増えると、人々がAIと接することが多くなります。そのため、AIが人間らしい対応を行うために、感情や思考の模倣、相手の感情や状況を考慮した対応などが必要になってきます。
安全性の確保：AIが自己進化的に学習する場合、安全性を確保するために、AIの学習や意思決定に人間が関与する必要があります。また、AIが危険を引き起こす可能性がある場合には、そのリスクを最小限に抑えるための対策を講じる必要があります。

フェイルセーフとは

フェイルセーフとは、システムやプログラムなどが異常な状況に陥った際に、それが重大な問題を引き起こすのを防ぐための仕組みや機能のことを指します。具体的には、システムやプログラムが想定外の状況に陥った場合に、自動的に安全な状態に移行する仕組みや、問題が発生した場合に早期に警告を発する仕組みなどが挙げられます。
フェイルセーフは、コンピューターシステムや自動車、航空機、原子力発電所など、安全性が重要視される様々な分野で使用されています。これらの分野では、システムの異常が重大な事故につながる可能性があるため、フェイルセーフ機能を備えることが求められます。

AIとフェイルセーフの組み合わせが良いのでは？

AIとフェイルセーフの組み合わせは、重要なシステムやプロセスにおいて非常に有用です。フェイルセーフとは、システムやプロセスに何らかの問題が発生した場合に、その影響を最小限に抑えるための仕組みです。一方で、AIは多くの場合、大量のデータを処理し、複雑な問題に対して高度な判断を行うことができます。
AIとフェイルセーフの組み合わせにより、以下のようなメリットがあります。

安全性の向上：

AIが重要な決定を行う場合に、フェイルセーフの仕組みを導入することにより、システムの安全性を向上させることができます。例えば、自動運転車の場合、AIが運転を行う際に、フェイルセーフの仕組みを導入することにより、車両の安全性を確保することができます。

問題の早期発見：

AIが動作するシステムに問題が発生した場合、フェイルセーフの仕組みを導入することにより、問題を早期に発見することができます。例えば、製造ラインにおいて、AIが品質管理を行う場合、不良品を検出した場合に、自動的にラインを停止する仕組みを導入することにより、不良品の量を最小限に抑えることができます。

性能の向上：

AIがシステムに組み込まれた場合、フェイルセーフの仕組みを導入することにより、システムの性能を向上させることができます。例えば、AIが電力供給管理を行う場合、フェイルセーフの仕組みを導入することにより、停電や過電流などの問題を最小限に抑えることができます。

まとめ

ジェネレティブAIを医療分野で活用する場合、フェイルセーフの設計が非常に重要になります。特に、誤った診断を行う可能性がある場合は、フェイルセーフの実装によって、そのリスクを最小限に抑える必要があります。
例えば、ジェネレティブAIを使って医療画像を解析する場合、AIが誤った診断を出した場合には、人間の医師による確認が必要となります。このような場合には、フェイルセーフとして、AIによる診断結果を自動的に医師に通知するシステムを導入することができます。
また、ジェネレティブAIの訓練データに偏りがある場合、誤った診断が出る可能性があるため、フェイルセーフとして、適切なデータセットの選択や、AIの訓練データを正確にラベル付けするための人間の監視などが考慮される必要があります。
総じて、ジェネレティブAIを使用する際には、適切なフェイルセーフの実装が必要になります。このような設計によって、誤った診断などのリスクを最小限に抑え、ジェネレティブAIをより安全に利用することができます。

最後に

エンジニアの皆さん、エンジニア未経験の皆さん、若手エンジニアの皆さん、勉強方法について悩みがあればなんでも気軽に質問して下さい！
これからも記事を書いていきますので、モチベーションアップのためフォロー、イイねお願いします。