見えない箱の中

私たちはいまどんどんと「見えない箱」があふれている社会の中で生活するようになっている。システムとはそういうものだといえばそうなのかもしれない。が、この記事を読まれたときに、どう思うだろうか

アルゴリズムの計算式が、医療における「人種間の不平等」を生んでいる

「アルゴリズム」というのは、コンピューターで計算を行うときの「計算方法」のこと、日本ではわりに適当な使い方をされがちなAIも「AI、というより機械学習ですが、機械学習自体も根本的には、なんらかのアルゴリズムを利用してプログラミングされています」とのこと。つまりは、基礎にはアルゴリズムの計算式があるということになる。

　この計算式は見る人が見れば理解できるもしくは公開されていれば見ることができるが、能力や情報公開というエッセンスに左右されることになる。内容ももちろん、そういった構造が「見えない箱」になっている。そして、それは「神の見えざる手」にもなる。私たちは知らぬ間に、だれかに操作された中で生活されているということにもなりうる。いわゆるビッグデーター問題にも関係していく。

　統計学的な優位性の検証というのはいろいろな方法で指向されている。優位性があるという判断をくだせることは、分析の結果でてくるある確率的な数字そのもののことは意味しない。あたりまえのことだが、その数字を優位であると判断するには、さらに判断の基準を精査するという作業があり、そのことが統計学的にはくり返されることになる。その作業とは別に、たとえば「0.25」という数字の意味を考えなければならない。そして、その判断の際には実は、もともとの統計設定が「公正」であるという前提が必要になる。この記事のように、優位性が証明できていないものを要素として組みこんでしまうことができれば、最終的な「判断」は、判断そのものが正しいかどうかの判断ができなくなるはずである。が、しかし、私たちには、このプロセスもそれぞれの判断も計算式ももはやみえていいない。「見えない箱」の中にある。

　だから、そんなものには意味はないし、そんなものを信用するなという意見もある。また、もっという方は１％でも間違いが起こるならそれは信用ができないといわれる。実は、社会には１００％はないはずなのでその意見は極論でしかないように個人的には思うが。。。

　見えない箱の問題は実は、仮にそういった恣意的な要素が組み入れられていたとしても、おそらくそのことではなく、「見えない」このが問題なのだと思う。見えないことを見えるようにする、オープンであることが大原則になるように思うのだ。