今日のひとこと： #AI がらみでこれから何が起こるのか(2)

導入を書いてから半年空いてしまいましたが…

Open AIのCEOの追放＆復帰事件の原因は、結局AI開発に関してイケイケ（効果的加速主義(e/acc)）のアルトマンに対して幹部達が危険を覚えたから、というのがやはり真相らしいとBusiness Insiderなどでポロポロ報じられ始めました。まあこうなると研究開発担当が殆どの一般社員は、e/accのカリスマであるアルトマン側につくわけで、「アルトマンがマイクロソフトに行くならみんなついてきます！」と言い出し、元の鞘に戻ったところで良識派（効果的利他主義(Effective Altruism：EA)）の幹部を追い出して決着、となったようです。

さて、連日のように目を見張るようなAI関連の研究成果がアナウンスされていますが、(1)いかにAIを人間の脳の機能(/能力)に近づけるか、という目標以外に、(2)人間(の脳)はいかにして人間(の脳)たりえているのか、の解明も「必然的に」進むことになり、余計に注目を集めています。

AIの能力向上方法については大雑把に言って、(1)よりパワフル(/大規模)なシステムの構築(2)より洗練された仕組みの開発(3)より効果的な対話方法の研究、そして(4)より効果的な学習のさせ方、があると思います。僕が特に興味がある、というか「本命」と考えているのが、(4)より効果的な学習のさせ方 なのですが、所謂マルチモーダルでも、単に複数の入力形式やその組み合わせを論じる前に、AIの成長段階に合わせて、学習データの形式や抽象度、強度を変えてゆくことが必要なのではと思います。つまり、人間の成長プロセスをなぞる、人間の様に育てるという事です。

そうやってとにかく所謂AGIに近づいてゆこう、更により凄いものをつくろう、というのがe/accに限らず多くのAI研究者や開発者、そして企業家たちの姿勢なわけですが、このシリーズで前にも書いた通り、万能になるほどエネルギー効率や精度、処理速度は落ちてゆくでしょう。丁度執筆している今日、『人工培養脳をチップに融合させ「ひらめき」で考えるバイオAIを開発！』という記事が出ましたが、エネルギーやコスト効率、そしてたぶん拡張性も考えると最終的にこれがAGI用システムの最適解になると思います。（これを完全な人工知能と呼んでいいのかとか、倫理的にどうなの？といった問題はありますが。）

で、どんな形態にせよAGIらしきものができたとして、例えば「神」として無垢で疲れを知らぬ優秀な指導者や何らかのディシジョンメーカーになれるのか？

ここで問題になるのはやはり「育ち」、つまり何をどのように学んできたか、それを誰が使い、誰が評価する/恩恵を受けるか、です。

もうわかったでしょう。人間は人間以上の知性を「つくれない」し、評価できません。将棋やネット対戦ゲームが強いかどうかぐらいはわかりますが。

もっと色々書くことあった気がしますが、眠くなってきたので今回はこれくらいで。そしてとりあえず〆としてもう一度。「AI について「知りたい」なら、『翠星のガルガンティア』を観ときなさい。」