中国の大学生と作ったＡＩ原則５条（その２）

習近平総書記が昨年１０月、第１９回共産党全国代表大会の報告で、経済の質的強化を実現するため、製造業の強化とともに、「インターネット、ビッグデータ、人工知能と実体経済を密接に結びつける」ことを柱に据えたばかりである。百度（バイドゥ）、阿里巴巴（アリババ）、騰訊（テンセント）の３大ＩＣＴ企業（頭文字をとってＢＡＴと呼ばれる）などが膨大な資金と人材を投じ、世界最先端のＡＩ技術開発に参入している。

こうした社会の後押しを背景に、高度成長期に育った大学生たちは総じて新技術開発に楽観的、肯定的で、包容力があり、明るい未来を描いている。だから当初、想定したＡＩ原則は「私たちのＡＩドリーム（我们的AI梦）」と名称を変更した。

一方、中国の伝統文化を根に持つ若者たちは、欧米には見られない、独自の道徳観を持っている。期末論文のテーマを「ＡＩ教師に何を感じるか？」としたら、かなりの数の学生が、人間の魅力や仁愛によって人を導く教育は、ＡＩ教師には代替ができないと書いてきた。起草の段階でも、ＡＩに道徳観を期待できるかどうかで議論が起きた。ＡＩ原則ではこうした伝統文化の要素も重視した。さらには、メディアを学ぶ新聞学院の特色をも加味した。

ロボット３原則は「こうであらなければならない」と義務付ける法規定のようだったが、若者が将来に期待するＡＩドリームは、断定調、命令調は避け、こうあってほしい願うスタイルにした。こうして、以下の５条と注釈が生まれた。



第１条　私たちは、ＡＩが人類の幸福追求と夢の実現を助けるよう希望する。
（ＡＩは優れた技術によって人類の生活をさらに便利に、快適にするばかりでない。個別的なサービスによって個人の要求を満たし、さらには個人の自己探索、夢の追求をも支え、人類の精神や感情の求めにより多くの関心を注いでくれる）



第２条　第１条を満たす条件のもとで、私たちはＡＩの発展を支持し、さらに自由な発展の空間を与える。
（ＡＩの発展は、人類がよく問題を解決するのを助ける方向に向かい、人類がＡＩの成果を享受する前提のもとで、私たちはＡＩを認め、支持し、相互作用の中でより多くの信頼と包容力を与える）



第３条　私たちは、ＡＩが人類の道徳的価値観を守り、自然と生命を尊重するよう求める。（ＡＩは私たちとともに生存の環境を享受することができるが、それはその活動が人類の利益を侵さないとの前提があり、人類が共有する価値観が最低ラインである）



第４条　私たちは、ＡＩは人類の生活の中で多様な役割を担い、安心感を与えるものだと考える。
（人類のＡＩに対する欲求は異なるので、ＡＩは、例えば助手や仲間、家族など、多様な役割を担い、人類を助け、あるいは人類に付き添う。技術上の安全を確保する以外、ＡＩは愛すべき非人類の外見を持ち、人間的なサービスによって冷たい印象を取り除き、人類に安心感を与えるものである）



第５条　私たちは、ＡＩ研究の本質が人類自身の探求を目指すものだと信じる。これはＡＩ技術の発展によっても変わることはない。（人類とＡＩは対立の関係ではなく、ＡＩは人類が自己を研究し、人間相互の関係を研究する際の鏡となる。人類がさらによく自己を知り、探求するのを助け、人類の自信を強める。ＡＩはフィードバックによって人類との交流を強化し、人類とともに発展し、進歩する）

米国映画のような人類の敵となるのではなく、ドラえもんのようなかわいい仲間であってほしいと願う声があった。冷たいキャラクターではなく、ぬくもりのある、人に安心感を与える存在であってほしいと望む声もあった。道徳観念に対する強いこだわりもある。そのうえで、ＡＩを受け入れ、ともに暮らし、同じように自然と生命を尊重し、独自の自由な空間を与えてもよい、との発想が生まれた。

最後の第５条は、ＡＩと向き合い、人とＡＩの相違点を探索することがすなわち、人間の存在、価値を見直し、再認識する契機となるとの認識である。それは自己、自我の追求という大学の目的にもつながっている。学生たちにとって最大の収穫が第５条の発見だった。起草グループの３人からは、有意義な勉強ができたと感想が届いた。彼女たちにはこれから、ＡＩ原則「私たちのＡＩドリーム」誕生記を記事にして公表する重大な任務が残っている。



（完）

中国の大学生と作ったＡＩ原則５条

３月からの今学期、初めて人工知能（ＡＩ）に関する授業「人工知能時代のメディア」を始めた。前学期、「現代メディア課題研究」の授業でＡＩを主テーマにしたところ、学生の強い関心と反響があったので、今学期から独立させた。全１６週授業の目標を、「ＡＩ原則」の制定に置いた。まずは小グループに分かれ、ＡＩ発展の歴史から生活の中のＡＩ、就職への影響、安全リスク、メディアの中などのテーマごとに基礎的な研究をし、その土台をもとにそれぞれの原則を起草した。自薦で３人の起草グループを作り、そこで全体の取りまとめをした。



論議の過程で、「原則」は法規則のようで堅苦しいとの指摘があり、最終的に「私たちのＡＩドリーム（我们的AI梦）」となった。昨日、最後の授業があり、クラス全員の賛同を得て、「私たちのＡＩドリーム」５条が誕生した。



言うまでもなく、ＳＦ作家のアイザック・アシモフが１９５０年、作品の中でロボットが従うべきとして示された原則、いわゆる「ロボット３原則」を引き継いだものである。以下が、アシモフの唱えた３原則で、その後、ロボット工学など幅広い分野に影響を残した。

－－－－－－－－－－－－－－－－－－－
第１条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
（A robot may not injure a human being, or, through inaction, allow a human being to come to harm.）

第２条 ロボットは人間から与えられた命令に服従しなければならない。ただし、与えられた命令が、第１条に反する場合は、この限りでない。
（A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.）

第３条 ロボットは、第１条および第２条に反しない限り、自分自身を守らなければならない。
（A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.）
－－－－－－－－－－－－－－－－－－－

すでに昨年２月、米ボストンに拠点を置く学術支援団体「Future of Life Institute（ＦＬＩ）」が、カリフォルニア州アシロマに各分野の専門家を集め、「「人類にとって有益なＡＩとは何か」を５日間にわたって議論し、「アシロマＡＩ原則」２３条を公表した。この原則 は、ＡＩの研究、倫理・価値観、将来的な問題の３つ分野に関して、安全性や透明性、プライバシーや人間の尊厳の尊重、利益の共有、軍拡の反対までを網羅したきめ細かい規定だ。

最初の授業で私がＡＩ原則の制定を掲げたとき、多くの学生はすぐに意味が呑み込めないようだった。ある学生は私に尋ねた。

「すでに権威のある原則ができているのに、どうして私たちがまた考えなくてはならないのか？」

私の答えは明確だった。

「人間の知能にとって代わり得るＡＩの開発は、われわれの生活や生き方そのものにかつてないほどの変革をもたらす可能性がある。専門家だけにゆだねるのではなく、すべての人が関心を持つべきだ。そして、すべての人に発言権が与えられるべきだ。われわれがその先例を作ればいい」

議論の過程で何度も繰り返したのは、世の中がどうなっていくか、どうあるべきかを大上段に語るのではなく、私たちがどうあってほしいかを若者の目で率直に訴えようではないか、との呼びかけである。次代を担う若者たちのアピールである。

こんな具合にクラス３５人の探求が続いた。

（続く）