息子に語るAI の現在

新聞記事でこのところしばしばChat GPT 等のAI が取り上げるけれど、それは現在のAI 進展が社会生活に与える影響が甚大であると予想されるからです。良い影響もないわけではないけれど、使い方によってはとんでもないことになります。その原因の一つは、AIチャット・サービス 、絵画自動作成、自動作曲、等のAI を支えている技術が未完成で、使う人や作った人にも確実には制御できない状態にあるからです。君たちにもわかるように説明します。

これらの最新AIサービスを支えているディープ・ラーニングという技術（下記の図参照）は人間の脳神経ネットワークをモデルにして考案さられたニューラルネットワークという構造を持っています。脳細胞であるニューロンがシナプス（樹状突起）を介して連結し、網の目のようなネットワークを構成しているので、ニューラルネットワークも脳細胞をノード、シナプスをエッジと呼んで同じく網の目のようなネットワークを構成しています。ただし、この時、階層という概念を導入しました。そして、その階層を増やせば増やすほど記憶量が増して性能が向上することが知られています。僕も40年前に、ここまではやってみました。でも、階層を増やすとシナプスの数がネズミ算的増加し、計算に恐ろしく時間がかかるようになり使い物になりませんでした。（人間の脳は数百億個の神経細胞で構成されています）でも、これをGoogle の協力を得て力ずくで解決したのが英国のデープマインド社（後にGoogle が買収した）です。Google は何万台ものPCをネットワークで結合したクラウド・サービスを持っているので、これを使ってディープラーニングの膨大な計算をやってのけたのです。最初に発表したのが「アルファ碁」という囲碁アプリで、囲碁の世界チャンピョンに勝って話題になったことを覚えているでしょう。つまり、彼らは個人や実験室では成し遂げられない膨大な計算を力ずくでやりのけ、それが有効であることを証明した訳です。これが２０１５年の事ですから、それからたった７年でChat GPT にまで発展し、マイクロソフトも負けじと同様の会社を買収し、自社製品に組み込もうとしています。彼らもPC ネットワークを自前で持っているのです。

さて、ディープラーニングは人間の脳神経の構造をモデルとしていますが、なぜノードとエッジという単純な構造を階層化しただけでこんなにすごい機能を実現できるのでしょうか。実は、その理屈はまだわかっていません。現在のAI は経験的にうまくいっているだけで、それがどうして機能しているのか分かっていないのです。だから、アルファ碁は次の一手を選択したとき何故その手を選んだのか説明できません。あえて言えば評価関数（実はこれが曲者なのですがここでは説明を省略します）が最大値だったから、ということになるのですが、なぜ最大値になったのか、他に極大値はないのか、説明できないのです。
つまり、現在のAI がなぜうまくゆくのか、その理論はわかっておらず、経験的にうまくいっているようだから使っているにすぎません。AI が出す答えが正しいのかどうか、保証する手段もありません。経験的に（つまり、やってみたら）うまくいっていればよしとしているに過ぎないのです。それでも、従来技術では対応できなかったある種の用途では実用レベルの解を提供できているので使われるようになってきました。いうなれば品質保証はできないけれど「結果良ければすべてよし」という危うい製品なのです。だから、この技術はクリティカルな判断が必要になる場合に適用すべきではないのです。ディープラーニングではありませんが、マシンラーニング（機械学習）という類似のAI の技術をカリフォルニア州で裁判官が被疑者の保釈可否の判断に使っているのですが、信じがたいです。実際そのAIサービスは黒人に不利な判断をすることが分かり、問題になりました。

このような状況に危機感を覚えた人たちが、AI 開発の一時凍結運動を始めたという報道が次の記事です。あまり現実的とは思いえない提案ですが、放置できない状況になりつつあるという現状認識だけは私も賛同します。

『マスク氏ら１０００人超「ＡＩ開発、半年停止を」　「人類に深刻なリスク」　公開書簡』2023/3/31 朝日新聞