AIの説明になってない説明

　最近説明可能なAIというのが話題に上ります。

　AIの説明って、説明になってないものがそれらしく語られることがあるので「あー、こういう風に説明できるのか」と誤解してしまうと説明可能なAIを簡単なものだと誤解する可能性があるので注意が必要です。

説明になってない説明の例

　その例として、一時期よく見かけたディープラーニングの説明があります。

質問 : ディープラーニングはどうやって画像が人間の顔だと判断するのですか？
答え : ディープラーニングは画像からまず"耳"、"目"、など顔の部品の特徴を自動的に抽出して把握し、それらの特徴を組み合わせて「人間の顔」と判断します

　なんかそれっぽく聞こえますが、これは全く説明になっていません。

そもそも答えになっていない

　質問している人が知りたい「ディープラーニングが画像を認識する仕組み」に対して「耳を認識して、目を認識して、人間の顔と認識する」という説明は全く答えになっていません。普通に考えても「じゃあディープラーニングはどうやって耳を認識するんですか？」という疑問が湧きます。

特徴という言葉への誤解

　ディープラーニングなど機械学習はデータから傾向を見つけるためにデータを変換します、これを特徴抽出と言います。これは私たちが一般的に使う特徴（あの人は目が大きい）という言葉とは全く別のものです。

　機械学習が「耳を認識して、目を認識して、人間の顔と認識する」という人間もどきのような認識を行うことはありません。

Photo by Thiago Cardoso on Unsplash