かつげんの拠り所

1992年生のしがない福祉系地方公務員のブログ

AIは、自動であるが中立ではない

最近では、自治体向けの雑誌でも、DXやAIという言葉が飛び交っている。

ただその様相は、流行的な側面が強く、「とりあえずAIって言っておけばいいだろう」という投げやりさすら感じるときもある。AI関係の議論は、私には以下の動画のような光景に見えてしまう。

さて、「AIってそんなにいいのか?」というのは、私が前から考えていることだ。例えば以前はこんなことを書いている

AIは人工知能である。だから、あらかじめ組まれたプログラム(計算)によって、自動的に答えが導かれる。しかし、このことはAIが中立であるとか、公平であるということを意味しない。

たしかにプログラムという概念それ自体は、中立的なものである。しかし、そのプログラムは人間によって作られる。つまり、何らかの”価値づけ"がなされる。それは教師なし学習であっても同じであろう。

だが私たちは、「自動であること」を「中立であること」と勘違いしている。自動的に答えを導いてくれるからと言って、その答えが「客観的な正解」とは限らない。そして仮に「客観的な正解」が導き出されたとしても、それを解釈するのは人間であることには変わりない。

つまり、AIが導入されたところで、導き出された答えは、中立にはなり得ない。よく先進事例として取り上げられるような「AIによる保育所⼊所選考マッチング」も、その選考結果が”中立”とは限らない。

自動と中立の混同は、AIの神格化を招く。シンギュラリティの議論は、まさにその一端といえるし、その議論にうさんくささを感じるのも、自動と中立の混同が原因だろう。