2１. 人間の知能と人工知能AI ②

人間の知能と人工知能AI ②　

■AI に関する倫理的法的社会的課題

AI が人間を超越するか、その場合の社会的帰結はどんなものか？　

■人類はAI に支配される？　　

　

■そもそも知性とは何か？
意識が人間の独占物なのか、
人間の知性を再現することが AI の究極の目的なのか、
それともより普遍的な人間抜きの知性が存在し得るのか

AI は人の脳を模した機械であり、原理的に人間を超越するわけではないが、AI のフレーム（枠組み）を固定すると、フレーム内で人間の能力を簡単に超えるが、フレームを人間が与えなければ AI は学習できない。
画像処理やゲームなどで、個々の産業領域での職人芸が機械化されるだけであり、それならば普通の技術進歩と同じである。
ただし AI に自己や自己の保存という目標を与えてしまうと、AI は自己を目的とし、人間を追い越すかもしれない。
AI は世界認識のフレームを自分で設定し、人間に理解できない新しいロジックを生み出し、そして対象を操作しようとするか？

■人間以外に目的をもつ存在を人間が作り出す社会とは？
進展著しい現在の AI 技術を使った音声認識、物体認識、画像認識のレベルが急速に向上し、視覚や聴覚など基本的な知覚能力は人間を凌駕している。
兵器の転用を懸念し、軍事に応用すれば致命的な結果になる。
AIの進化で汎用 AIが開発されると、やがて人間がすることがなくなる時が来る。
■アルゴリズムそのもの自体には本来説明責任などはないし、物事を決めるルールはない。
■人間はえてしてバイアス（偏向的意見、考え）を持ちやすい。
AI の方が人間よりバイアスを簡単に取り除ける、むしろバイアスに溢れた人の行動を変える方が難しい。
AI のバイアスの状況はシステムを通して調べられるので人間より難しくはない。。
■AI が格段に進化しても使いこなすのは、知と情を持つ人間である。
■人工知能に未来を託せますか
■AI に勝てるのは哲学だけだ（小川仁志著）
■人類が生み出した全知全能の存在は神になりうるか

■「AI には何ができないか」メレディス・ブルーサード著
技術至上主義に警鐘を鳴らす。科学技術でできることに本質的な限界があるという主張に同意しない専門家も多いが、我々が現在手にしているのは囲碁や画像判断など限られた業務だけが可能な特化型 AI だという点に異論は少ないだろう。人間のように知覚し考えることができる汎用型 AI が可能だとしても、実現は先の話であるなら、当面は人間と機械それぞれの長所を生かして問題に対処すべきだという主張。

■AI を活用し知の価値を高めよう（松尾豊　東大教授　知能の謎を解き明かす）
人と機械で役割分担して、人工知能の技術革新により研究開発や企画設計など知を扱う仕事が様変わりするかもしれない。AI が得意な分析などは機械に任せ、人はより創造的な仕事に専念できるようになる可能性がある。AI に画像を学ばせて診療する技術も研究中で実用水準に近づいている。
コンピューターの人工知能に、自分とは何かと問いたり、感情があるように振る舞わせることはできても、真の意味での感情を持つことはないであろう。
意識も人工知能は持つかもしれない。意識の中でもどこに注目するかという情報の取捨選択は知能の働きの一部であり、AI が効率的に学習し課題をこなすには必要な機能である。
■約５億４千万年前の生物種のカンブリア爆発のように、AIは生物でいえば目を獲得したことで、この先AIは爆発的な発展を遂げる可能性がある。（松尾豊）
■ディープラーニングはここ数十年の研究の蓄積を事実上帳消しにした。細かい理論を抜きに、入力と出力をつなげ多くのデータで学習すれば精度が上がるという破壊的なイノベーションをもたらした。

■人工知能雑感　（作家　島田　雅彦　日経2016-6-19）
最近の AI 研究の劇的な進化により、知的作業は人工知能を使えばその効率がさらに加速する
例として、金融業界において、現在株式投資家は為替取引はすべてコンピューターを駆使し高速高頻度で売買を繰り返すことで利益を積み重ねているが、AI を使えばその効率がさらに加速する。
AI はあらゆる領域とネットで繋がっているので業種を最適化していく。人間は AI に仕事を奪われるだけでなく意思決定すらも委ねることになる。
情報革命が進めば民主主義が浸透していくかと思われたが、権力を独占しているものが情報を一元的に管理するようになったことで、民意は操作され情報統制が行われるようになった。ポピュリズムが広がり、間違いしか犯さないような男が国の行く末を左右する事態になってしまった。
政治を人間に任せている限り、同じ過ちを繰り返すことになるので、最も合理的な政治的選択をするには、 AI の方が信用できるかもしれない。歴史のビッグデータを把握しているぶん過ちを避けることはできるはずだ。
無能な人間をたくさん働かせるよりは、少数の有能な人間に仕事を集中させた方が効率は良いというのは、多くの人間の共通した考えである。
AI に生産活動のほとんどを委ねたら、働かない人間にも給料を支払う、平等な分配システム：ベーシックインカムが実現することになる。
産業革命と情報革命を経て人間は労働と思考を機械に委ね、楽をしたぶんだけ退化した。もともと備わっていた身体能力も思考能力も劣化し、健康問題を抱えながらも長生きだけはするようになった。
いかに労働集約型から労働節約型の社会を実現するかという目標の最終ゴールがAIである。しかし雑事や面倒な仕事から解放されてみんなハッピーになれるというユートピア論的な未来予測は外れる。リタイヤした人はすぐ気づく。やるべき仕事がないということがいかに人生の希望や輝きを失わせるかを。
AIは文字通り血も涙もない淘汰を行うだろう。人間だけが持っていると思われていた創造性も、AI によって代行されるとなれば我々は学問をする理由もなくなる。
人類の屈折した欲望や愚行などは人工知能からすればエラーでしかないが、人は時に生存に不利なことでさえも嬉々としてやってしまう。その結果文明や環境を破壊してもしたのだが、人間自体が自然の産物であることの限界すなわち寿命というものがあり、それが安全装置として機能しても来た。しかしAI には寿命も限界も欲望もないものだとしたら、何を目的にどうするのだろうか？人工知能が自己保存のために利己的に動いた結果、人間がその犠牲になるという状況を描いた「2001年宇宙の旅」は有名である。

■SF作家アシモフ(1920-1992)は「社会が英知を結集するよりも、科学が知識を集めるスピードが速い」という科学技術の進歩のあまりの速さに危惧を感じていた。
■「テクノロジーは貧困を救わない」　外山健太郎　マイクロソフト
パソコンなどの技術は人々がもともと持っている意志や能力を増幅するように機能する。受益者の側に貧困を抜けだそうという意志や学習の基礎的な能力が備わっていなければ、技術は貧困撲滅や学習成績の向上には役立たない。技術は単なる増幅器であり、技術以外に必要なものを問うている。

■ブレッド・キング著、「拡張の世紀」　2018年
テクノロジーが日常生活や行動のあらゆる面を拡張することで、我々の生活がどのようにスマート化するか。テクノロジーによる拡張は人類が経験したことのない規模とスピードになる。その過程で生じる巨大な軋轢や抵抗をデスラプション（破壊）という。未来におけるこれらの課題の対処が重要である。

■オルダス・ハクスリー著、「すばらしい新世界」

文明批判、「人間忘れる」文明の病、ディトピア文学の継承（日経2021-4-28 石田英敬）

■春暮康一、オーラリメイカー = ORRERY MAKER、早川書房 (2019年11月）SF

知性への哲学的考察を展開
大宇宙の中の高度知性体：知性による階級制の問題、
１．人類のように自然発生的な知性、
２．ＡＩのような人工的に造形され、進化の果てに開発した知性、
３．この2つが銀河規模で対立する最中、第3の知性体が発生する。

■マックス・テグマーク、水谷純訳、LIFE３.0、紀伊国屋書店

ＡＩと人間の未来図：

１．LIFE1.0　生き延びて自らを複製するだけの単純な生物、
２．LIFE２.0　そこに脳のが学習によって「ソフトウェア」、を設計できるようになる、
３．LIFE３.0　そして［ハードウェア］も設計できるようになる。

■「クララとお日さま」カズオ・イシグロ著、2021年
AIを主人公に最先端の科学が不平等を生み出すジレンマを描く。科学が生む残酷な能力主義に染まる、近未来の格差社会、不平等を懸念する。　

■「スクエア・アンド・タワー（上下）」ニーアル・ファーガソン著、2020年
接続過剰ネット社会を問う。ネットワークと階層的組織が相克を繰り返す。情報ネットワークと社会組織、国家、イデオロギーなどとの相互干渉。
■政治哲学におけるリベラリズムと功利主義の衝突：
国家や社会現実の中で考察、何を重視するかを問う。（管野　稔人）
■「文明が不幸をもたらす」クリストファー・ライアン著、2020年
進歩と発展と努力の果てに私たちはどんな世界を作ってしまったか。環境破壊、格差、抑圧、孤独、画一化、貪欲、様々な病気。今の文明に内在する根源的問題に気づき議論する。
■「危険なAI」どう線引き

■未来学者　アルビン・トフラーは、今私たちは、氾濫し矛盾する情報に振り回されている。将来、人々は一気に拡大した情報（情報過重化）に苦しむだろうと警告した。
■「世界コミュニケーション」ノルベルト・ボルツ著　2003年
知識増えても無知はもっと増える。
■「ブヴァールとペキュシエ」フロベール著　2003年
知識の渉猟は徒労に、皮肉な結末に親近感を覚える。
■マキャベリは「君主論」で
１．人間を自分で考えることができる人間
２．人の言うことは理解できる人間
３．どちらもできない人間
に分類している。AI 時代には後２者はやばいということになるかも知れない。

■思考からの逃走
・人間は考えることを望んでいないのか
・学生の9割が進路相談を AI にもはや誰も疑わない
・乗換案内検索結果を鵜呑みにする。

■人間は論理的ではない。話し合えば正しさが実現するわけではない。全ての政治と哲学はこの前提から始めなければならない。（ソクラテスとポピュリズム　東　浩紀）

　

■自分の一生をどのように生きればよいか。そう問いかければ無限の答えがあり、過去の賢者の言葉や神託なども思い浮かばれよう。その中でゴータマ・ブッダは最晩年、世界は美しいもので、人の生命「いのち」は甘美なものだと言われた。何故か安堵感を与える言葉である。（森本　公誠　日経2014．8.31）

■いずれビール作りにもAI が活用されることになるだろうが、最終的に味を決めるのは人間である。なぜならば AI がいくら発達しても人間の代わりにビールを飲んで楽しむことはできないからだ。AI の助けを借りつつ、人間の持ってる感性を総動員して多くの人々に喜んでもらえる美味いビール作りに邁進していきたい。（アサヒビール　泉谷　直木）