賀茂川耕助氏の「耕助のブログ」より
*****
AIの進歩と人類の終焉
今年3月、宇宙物理学者として宇宙の謎を解き明かすことに生涯をささげてきた英国のスティーブン・ホーキング博士が死去した。ホーキング氏はまた、人工知能（AI)の進化は人類の終焉を意味するという警告も発していた。
AIの進歩はもはやSF世界の話ではない。ロボットが雇用を奪うというリポートが研究機関から発表され、自動化によって多くの職がなくなってきたように、これからはAIが仕事をこなし、労働者はそのAIを使う人と使われる人に分かれていく時代が来るという。
ホーキング氏は、完全なAIが開発されれば、AIは自分の意志を持って自立し、これまでにないような早さで能力を上げて自分自身を設計し直していくため、進化の遅い人間はAIに取って代わられると警告したのである。
AIの進歩と人類の終焉を結び付ける前に、まず、現在どれほどコンピューターやスマートデバイスにわれわれは生存を委ねているのかを考えてみるとよい。通信網、電力、金融、株式市場、車やミサイル誘導システム、あらゆるものがネットワークにつながれ、中にはすでにAIが使われている。それらが進化し続けることによって、いずれAI自身が操作をするようになることは十分あり得る。
しかしAIそのものの脅威の前に、まず懸念すべきは人間による悪用である。米国でＡＩの研究を行う非営利団体「OpenAI」は、去る2月、AIの悪用に関しての注意点を、例を挙げて説明した論文を発表した。例えば、インターネットのある広告をクリックしたらウイルスに感染、という事例は今日でも起こっているが、ＡＩを使えば個人の好みを分析して特定の個人を狙った攻撃が簡単にできる。自動運転車をハッキングして事故を起こしたり、テロリストがロボットを使って政府要人を暗殺する、というシナリオも想定できるのだ。
これまでも米国は、北朝鮮やロシアがソフトウエアを使って攻撃してくることを恐れてきた。昨年12月に米国は、イギリスの医療機関が機能停止するなどの被害を出したランサムウエアは北朝鮮が関与していたと発表し、3月にはロシア政府のハッカーが米国の電力系統や水処理施設、航空輸送施設などのインフラを標的にサイバー攻撃を仕掛けていると警告を発した。現代社会で水と電気が完全に遮断されたら、人間は長く生き延びることはできないだろう。
つまりすでに人類は大量絶滅の危機に直面している。地球46億年の歴史の中で火山の爆発や氷河期、隕石の落下などで大量絶滅を5回経験してきたが、生物学者によれば、現在6回目の大量絶滅が進行中だという。過去5回と異なるのは、絶滅の原因が人間であることだ。
日本政府は人手不足対策としてAIなどによる生産性向上のためのIT投資が急務だという。物理学者アインシュタインは、亡くなる少し前に、核兵器は人類という生物の種を絶滅させる危機であると警告した。そしてホーキング氏は同じことをAIについて言った。天才的な二人の物理学者の言葉に、われわれは耳を傾けるべきである。
*****