われ、AI神話の蔓延を憂う

　近頃、AIに基づいた製品と称するものが世に出るようになった。 曰く、AIスピーカー、AIロボット、AI将棋、等々。そしてそれらがこれまでになかった高度な機能を備えているかのように言い たげだ。一般ピ ープルは、AI機器が我々の人智を超越したものであるかのように錯覚し、「へへえー、AIを使っているのですか」と頭を下げて引き下がってしまう。しかし、その技術的中味はどのようなものなのか。AIの専門家ではないのでその詳細までは分からないにしても、AI機器は内部でおよそこれこれの技術的操作を経てアウトプットしている、と言う程度までは分かりたいものだ。だが、AI機器の開発企業はその内容をあまりよく説明していない。
　一部の人を除いて大部分のひとが、その技術的内容を分からないまま「AIだから」と言って有難がってしまうとしたら、おそろしい状況だ。 そのうち、「AI製品だから高くても仕方が無い」などと、高額なものを押し付けられるかもしれない。もっとおそろしいのは、「AIの言うことだから、しのごの言わずに従え」とならないとも限らない。それでも「へへえー」となってしまうのだろうか。まさに現代版AI神話の蔓延だ。
　最近アメリカの学会誌IEEE Spectrumに「How Much to Trust Artificial Intelligence?」という記事が紹介された。それによると、AIを使って何かを開発する場合、そのアルゴリズムは無数にあり、そのどれが 開発目標に一番適しているのか開発者自信にもよく分かっていない 状況だという。また、AIの基礎は機械学習に際しても、バイアスがかかったデータで学習してしまうと偏った結論に導かれるという危険があるのに、使ったデータが適正かどうかを検証する方法は確 立されていないという。また、AIを使ったと称する開発製品が目的に沿って適正に機能しているかをテストする方法論も不十分だと、IEEE Spectgrumの記事は危機感を表明している。指摘通りとすれば、AIの技術的環境はまさに寒々としたものだ。
　AI技術者は、AIを喧伝して製品を売りまくるのに加担して、AI神話を振り回すのではなく、公衆にその中味をよく説明する義務があると思う。
　自信過剰気味のAI研究者が「AIで民主主義に取って代わる新しい社会システムを構築する」などとおぞましいことを口にしている。機械と人間（とその社会）のかかわりで重要なことは、機械は平均値で処理するが、人間には多様性があると言うことだ。AIによる理由付け（resoning）がすべて可と済まされたら、なんとも味気ない一元的管理社会になってしまうのではないか。（ＡＯ）