![見出し画像](https://assets.st-note.com/production/uploads/images/140936692/rectangle_large_type_2_d93e8e7c6f7e51f865aa595baf16048d.jpeg?width=800)
#信頼できるAI のビデオ配信始めました。
AIに関わる ちょっとした疑問にお答えする #信頼できるAI にかかわるビデオを Twitterにて配信開始しました。ホームページとあわせてご覧ください!
このブログでは、今まで配信した 記事をまとめてご覧頂くことができます。続々と配信していきますので、もし何か「これが知りたい」といったようなご要望がございましたら、是非お寄せ下さい。
従来のシステムとAIの違いって何?
![](https://assets.st-note.com/img/1662502689009-MWA9wcN5sA.png?width=800)
釘を調整することで、うまく玉がチューリップに入ったり入らなかったり・・・
気付かぬうちに、釘が曲がって歪んでしまうこともありますよね。
AIの学習時と運用時の環境の違いって何?
![](https://assets.st-note.com/img/1662502835642-iHMOqzbTBs.png?width=800)
あれは一体何だったんろうか、と思ったりした記憶はありませんか?
AIでも同じことが当てはまります。
AIの学習データと運用データの違いって何?
![](https://assets.st-note.com/img/1662502973502-QqSGeZyllq.png?width=800)
お受験本番の問題には、当然のことですが、答えは付いていませんよね?
運用中のAIが間違えてしまったら、一体どうやって答え合わせしたら良いのでしょうか。
AIの学習時に発生する問題の具体例(その1)
![](https://assets.st-note.com/img/1663061708417-VvBLELrHpV.png?width=800)
実はこんな「まだら模様」になっているかも知れません。
でもAIにフタなんて付いていないし・・・
AIの運用時に発生する問題の具体例(その1)
![](https://assets.st-note.com/img/1663674479561-w4tkNOdOOw.png?width=800)
そうした人間にとってはちょっとした、些細なミスが、
AIにとっては大きなダメージとなります。
運用中のAIの精度監視って何で難しいの?
![](https://assets.st-note.com/img/1664286309094-VD3l9tG4Kt.png?width=800)
高速のあるいは大量の処理を任せますようとしますよね。
でもそのAIが間違った判断をしてしまった場合
一体誰がどうやってそれを見つけたら良いのでしょうか?
AIの学習時に発生する問題の具体例(その2)
![](https://assets.st-note.com/img/1664872492624-euhVqkjKzE.png?width=800)
「育てていく」ことが重要です。
一方で、良かれと思って手を尽くして改善した積りが
上手く行かないことも発生します。
AIの信頼性リスクに関わる世界各国の動き
![](https://assets.st-note.com/img/1665485292901-01HCVpuHSt.png?width=800)
今後の社会経済の根幹にかかわる、重要課題です。
先週ホワイトハウスからも新たな発表がありました。
AIの運用時に発生する問題の具体例(その2)
![](https://assets.st-note.com/img/1666104836614-8fQTKdNhmw.png?width=800)
AIへの入力のデータ項目は、100項目以上に及ぶこともあり
その組合せ異常を見つけるのは極めて困難です。
AIの品質マネジメントに立ちはだかる「壁」
![](https://assets.st-note.com/img/1666703629300-YRqZxl79qI.png?width=800)
予期せぬ間違った出力をしてしまった場合
一体、誰がどうやって見つけたら良いのでしょうか?
AIの学習時に発生する問題の具体例(その3)
![](https://assets.st-note.com/img/1667863022182-BmNnG5kjcK.png?width=800)
AIの学習データのラベルも、付け間違っていることは当然あり得ます。
ラベルの付け間違えが自動で見つけられたら・・・
なんて思うことありませんでしょうか。
AIの運用時に発生する問題の具体例(その3)
![](https://assets.st-note.com/img/1668333087930-58uaUYelc2.png?width=800)
頭が真っ白になった・・・という経験ありませんか?
私はそれで駿台にお世話になった一人です。
AIでも同じようなことが起こります。
【第12弾】AIに対する新たなセキュリティリスクとは?
![](https://assets.st-note.com/img/1669192422204-jVJehznCNM.png?width=800)
そんなSF映画に出てきそうな話が既に技術的には実現可能です。
AIに対するアタックは、従来のサイバーセキュリティ技術では
全く対応できず、新たな対応が必要です。
画像AIの弱点について
![](https://assets.st-note.com/img/1672468108176-6e2GfpNAwj.png?width=800)
運用に出したら思い通りに精度が出ない
ということはありませんか?
大規模言語モデルの導入にあたって困っていることはありませんか?
![](https://assets.st-note.com/img/1699101548842-ClQybKEVyP.png?width=800)
GitHub上でOSSで公開中です。是非お試しください!
この記事が気に入ったらサポートをしてみませんか?