最近では、自治体向けの雑誌でも、DXやAIという言葉が飛び交っている。
ただその様相は、流行的な側面が強く、「とりあえずAIって言っておけばいいだろう」という投げやりさすら感じるときもある。AI関係の議論は、私には以下の動画のような光景に見えてしまう。
さて、「AIってそんなにいいのか?」というのは、私が前から考えていることだ。例えば以前はこんなことを書いている
AIは人工知能である。だから、あらかじめ組まれたプログラム(計算)によって、自動的に答えが導かれる。しかし、このことはAIが中立であるとか、公平であるということを意味しない。
たしかにプログラムという概念それ自体は、中立的なものである。しかし、そのプログラムは人間によって作られる。つまり、何らかの”価値づけ"がなされる。それは教師なし学習であっても同じであろう。
だが私たちは、「自動であること」を「中立であること」と勘違いしている。自動的に答えを導いてくれるからと言って、その答えが「客観的な正解」とは限らない。そして仮に「客観的な正解」が導き出されたとしても、それを解釈するのは人間であることには変わりない。
つまり、AIが導入されたところで、導き出された答えは、中立にはなり得ない。よく先進事例として取り上げられるような「AIによる保育所⼊所選考マッチング」も、その選考結果が”中立”とは限らない。
自動と中立の混同は、AIの神格化を招く。シンギュラリティの議論は、まさにその一端といえるし、その議論にうさんくささを感じるのも、自動と中立の混同が原因だろう。