現状のAI と言っている代物は、概ね「どういう構造か」は言えるけど、「それがどう動作するか・動作したか」は入力と結果の出力でしか分かっていないに等しい状況。
これって「なんかよくわからないけれど、こういう具合に調整すれば上手いこと動いてくれる蒸気圧力弁」とか、そんな感じでやってた時代に似ている。
この後、アメリカのベル研で「制御工学」が確立されて、どうしてそうすれば上手くいくのかの説明ができるようになって、いろんな「調整」の見通しが予め立てられるようになって、機械や電気機器の設計開発が単純なトライアンドエラー的な手法から脱却していったわけですが。
現状のAIに関しては、丁度この制御工学成立前夜的な状況で、なんとか望んだ結果を出るように、あれこれいじくってる感じ。だから妙な結果が出ても、それがどうしてそうなったか説明して、合理的に対策をとっているという状態ではないように見える。
もし将来、AIに関してのこのあたりの説明がちゃんと付けられるようになった時代が来たら、その時代から今を振り返ると「よくもまあ、あんなやり方でAIを使っていたもんだ」と感心される？
