ハイテクＡＩ機器の陥穽

ＡＩは進化すると勝手に暴走して人間に牙を剥くようになるのではないか。ーーＡＩ兵器の登場とともに、そういう懸念が現実のものになりつつある昨今だが、もっと別の意味で「すべてをＡＩ任せにすると危険だ」と思わせるニュースを聞いた。

最近、エチオピアで起こったボーイング機の墜落事故は、（ＡＩによる自動操縦装置に搭載された）センサー部の誤作動によるものだという。この手のハイテク機器は「入力→演算→出力」という一連の回路からなるが、出発点のデータ入力装置であるセンサー部が誤作動を起こしたのでは、お話にならない。このシステム全体が致命的な欠陥をかかえていることになる。

同じことは自動車にも言えるのではないか。近年、進化が著しく、実用化も間近とされる自動運転車のテクノロジーだが、ＡＩを駆使するそのシステムにも根本的な見直しが必要だろう。たとえばこのシステムは「歩行者の飛び出し」というデータ入力に対して、「急ブレーキの作動」という出力をするようプログラミングされているが、「あっ、歩行者の飛び出しだ！」と感知するはずのセンサー部が、「微小なスギ花粉の付着」や「微小な黄砂の付着」に対しても同じように反応し、これに「歩行者の飛び出しだ！」と誤った判断を下す結果、自動運転車のシステムが急ブレーキを作動させてしまうこともあるのではないか。

そうなれば、スギ花粉や黄砂が多く飛散するこの時期は、全国各地で交通事故が頻発し、各地の幹線道路で渋滞が発生することになる。便利さと快適の追求が、かえって不便と危険を招くという、愚かしくも滑稽な典型的事例である。こうした事例への対策を立てるためにも、ボーイング機事故の綿密な調査検討は欠かすことができない。