AIは中立・公平な判断ができるのか？

　今日、ディープラーニングの実現によって、AIは飛躍的な発展を遂げています。将来、”AI失業”の深刻化も杞憂とは言えなくなり、実用化の動きも加速しています。

　ところで、AIの強みとは、人間の暗記能力を超えるデータ記憶能力とその素早い処理能力にありそうです。このため、知識集積型の職業が最も影響を受けかねないのですが、”その判断が常に人間よりも賢いのか？”と申しますと、この点については疑問符が付きそうです。何故ならば、AIの判断は、入力データや情報に大きく依存しているからです。先日、米マイクロソフト社のAI「Tay」が、”ヒトラーは正しい”と発言したことから、物議が醸し出されましたが、その理由は、一般の実験参加者によって”ヒトラーは正しい”とする情報が「Tay」に入力されたからなそうです。先日も、日立製作所が、経営判断を援けるAIを開発中とする報道がありました。新聞上の情報が入力されたこの「経営コンサルタントAI」に、試に、再生エネルギーの導入の是非を問うたところ、導入を支持する判断を示したそうです。しかしながら、このAIの判断は、「AIが、再生エネルギーの導入の有無を判断した結果」というよりは、「再生エネルギーに関する新聞社の編纂方針をAIが読み取った結果」、といった方が適切かもしれません。

　より総合的な判断をAIに求めるならば、新聞報道上のデータの他に、エネルギー効率、資源別エネルギー価格、商品価格への影響…といった、関連する全てのデータや情報をインプットする必要があります。しかも、あくまでも、経営者判断としてのAIですので、消費者負担の増加や経済全体への効果は無視されるかもしれません…。何れにしましても、AIの判断が入力データや情報で左右されるのならば、入力する側の人間が、データや情報の取捨選択を予め行ってしまえば、AIは、それを忠実に従って判断するだけの存在になります。仮に、重大なマイナス情報を入力しなければ、AIもまた、この情報を抜いた楽観的な判断、つまり、誤った判断しか示さないかもしれないのです。

　”AIは、中立公平な判断ができるのか？”、という問いは、今後のAIの普及の行方をも左右する重要な問題です。ディープラーニングの手法では、AIは、作成したプログラマーでも理解できない自律的な判断を行うそうですが、囲碁等の平面上に点化された空間把握に関しては意図的に空白が作れませんので、AIは全てを”手”として把握できますが、人間社会の出来事では、人間が、意図的に情報の”空白”を作ることができます。このため、市場での普及化の段階において、入力情報に偏りのあるAIの判断には誤りが頻発してしまうことが予測されるため、AI商品を消費者に売り込むためのAI開発企業側の最大の宣伝文句は、”全ての情報を漏れなく搭載！”となるのでしょうか。


　よろしければ、クリックをお願い申し上げます。


にほんブログ村