今朝（6/22）の新聞投書欄に「生成ＡＩにもロボット三原則を」というのが載っていました。人間を傷つけない、人間の命令を聞くなど、70年以上も前にアイザック・アシモフがＳＦ小説の中で提唱した「ロボット三原則」を確立せよと述べています。
何だ生成ＡＩのことをいうより先に、人間に「三原則」を躾けた方がいいんじゃないかと、ロシアのプーチンを思い浮かべて思いましたね。手塚治虫の「鉄腕アトム」もそういうことに関心を払っていたなあと懐かしい。
生成ＡＩで調べてみたら、ロボット三原則は「ロボットが人間の安全性、命令への服従、自己防衛という3つの目的をもって行動することを定めたもの」と要領よくまとめて文章にしてきました。その上で、「現実のロボット工学においては、この三原則をそのままロボットに適用することは困難」と付言し、アシモフ自身も三原則に「第零原則」を付け加えたと説明して、何だか私の関心を先取りしています。その解説が揮っている。
《例えば、「人間」と「人類」の区別です。ロボットは個々の人間よりも人類全体の利益を優先すべきかどうかという問題です》
おっ、一挙に「カントの永遠平和のために」という論題が登場してきた感触です。それに続けて、
《しかし、これによっても、人類とは何か、人類の安全性とは何かという問いが生まれます。……ロボット工学はまだ発展途上の分野であり、今後もさまざまな課題や倫理的な問題に直面することでしょう》
いやいや、お見事。この回答がウクライナ戦争を意識して作成されたものとは思いませんが、新聞の投書を軽く凌いで面白い問題提起にしています。
現今の生成ＡＩの「危険性」に関する論議は、二通りに分けられます。ひとつは、現今の利益システムを護ろうとして制限を設けようとするもの。もうひとつは、そのＡＩを利用をする（であろう）人間の「危険性」を直に反映したものです。不戦条約のように制約を設けようとしています。
人間の危険性というのをこれまでは「悪意」と呼んできました。だがトランプ米大統領の登場以来、ヒトの「自然（じねん）」が「危険性」を孕んでいると思うようになりました。そこへプーチンのウクライナ侵攻が出来し、その人の存在が「危険」そのものと示しています。人間が、変わってしまっているのです。
文科省は早速、学校教育における生成ＡＩ利用の「適/不適」の指針案を作成して発表していますが、直感、こりゃあ駄目だと思いましたね。なぜか。
（１）学校に指針案を提示するという文科省の初発のセンスが、上意下達的、中央集権的。すなわち、現場に「人間三原則」を見せて統制しようというモメント。これで動く人間は、とても生成ＡＩを使いこなすようには思えませんね。
（２）人を育てるというとき、生成ＡＩを使いこなしてゆくには、どう人を育てるか思案する場をつくるのが、文科省ではないのか。（１）のように文科省が思案し方法をつくって現場に降ろして実行させるという「人間工学」的な教育センスこそが、一番、教師と学校現場と児童生徒を損なっている。
（３）人間の「悪意」ではなく「自然（じねん）」が「危険」を孕まないように育てるにはどうするかを、最優先で考えなければならない地点に来ている。
生成ＡＩに紐付けていうと、文科省は生成ＡＩを使いこなす（技能をもった）人間を育てようと思案しています。だが、デジタル時代になってヒトは「自然（じねん）」存在そのものが、「危険」になっています。その大元を考えると、いま最も喫緊の課題は、生成ＡＩの「三原則」を打ちたてることよりも、アシモフが「第零原則」を付加したように、「人間」ではなく「人類」を育てる教育へと切り換えなければならないことです。その瀬戸際に立っていると言えます。
かつて学校は、アナログの時代であったとき、もっと適当でした。世の中の全体がＴＶ画面越しに見えていたわけではない。親も教師も町の人々も、それぞれ勝手に経験し、本を読み、昔の話を聞き新聞で知り、せいぜいラジオや映画で目にしたことから「事実」を思い描いていました。つまり世界の断片を受けとっていると自覚していました。断片から類推して、世の中とか世界というのはこうなんじゃないかと考えていたわけですね。
とうぜん自分の類推は世界の一部、偏りがあると思うから、人の話に耳を傾けます。あるいは自分の話も半分だけと受け止める。それに反応する他人の振る舞いも、何をどう受け止めているか分からないから、判断をコレと決めつけるのにも、余白を採っておくようにしたからでしょうね。
それが例えば、政治次元でいえば、民主主義は少数意見を尊重するという命題を組み込むようになりました。政党というのはPartyです。partなのです。たとえ多数派となっても一部だという自覚が、そうでない部分（少数意見）を尊重するという「倫理性」の源泉になっていたのです。
適当というのは、いい加減ということでもあります。いずれも「ほどよい加減」という元の意味が、「厳密でない」「始末がずぼら」という意から「ものごとをきちんと始末せず、中途で抛り出している」という意にまでひろがって、人の性格の駄目さかげんを表すように用いられています。これは、たぶん近代に近づくにつれて社会関係が精密になり、契約の関係なども厳格になり、人がそれに合わせて「始末」をきちんとつけるようになって、意味が変わってきたのだと思います。
それでも、人を育てることについては、すぐさま時代に即応するわけには行きません。いつも時代の変化の後を追いかけて変わってくるのが教育です。デジタル時代になってからもまだ、アナログ時代の教育が行われ、それが（社会の上層から下層までさまざまでしたから）ほどよさを残した「適当」であったと言えます。
ところが、デジタル社会となってモノゴトの考え方が細かいところから一つひとつ「白／黒」つけるように階梯を踏んで進められていくようになりました。併せて、情報化の伝達単位がマス（塊）からインディヴィデュアル（個別）の多数へと一気に加速してきました。マス（塊）で情報が伝わっていた時代には、情報自体が、それを受けとる人たちの間の「共通感覚」になりました。ところが個々別々の人たちに降り注ぐように世の情報が流され、受けとる人もそれぞれの好みに応じているから、多様性だけはよくわかるが、共通感覚にはならず、むしろ自分の好みや在りようの不確かさが日常的に感じられるようになったようです。トランプ支持の群衆の過激化は、その不安の裏返しのようにみえます。
デジタル機器の社会的な場面での採用は、ついつい人にもメリハリをつけ、端境・端末をきっぱりと始末することを厳しく要求します。とうとう１円でも足りなければ、押したボタンの何万何円という金銭支払機が次へ移ってくれないというようになりました。そして人は、それに適用しようと変わっていっているのです。感性も感覚も、好みも思考のメリハリもはっきりさせるようにして、迷うこと、曖昧なこと、訂正を繰り返すことは社会的不適応に分類されます。
つまり今のデジタル時代の教育は人間ロボットを育てるようになっていると言えます。もちろん人を数として扱えるようなセンスです。そのプロセスに乗れないヒトは、社会の落ちこぼれ同然、生成ＡＩを使いこなすどころか、埒外の人になっていくのです。
ちゃらんぽらんに過ごしてきた八十路の老爺がこういうのですから、人間が変わってしまった時代とでもいうのでしょうかね。そうだ、ちゃらんぽらんて、語源は何だろうと生成ＡＩに訊ねました。返ってきた応えは、以下のようなものです。
《「ちゃんぽらん」という言葉の語源は、諸説ありますが、有力な説は「ちゃらほら」が変化したものだと言われています12。 「ちゃらほら」の「ちゃら」は「でたらめ」「嘘」「でまかせ」の意味で、「ほら」は「ホラ吹き」の「ホラ」と思われます1。 いいかげんで無責任なことや人を表す言葉として使われています》
ははあ、恐れ入りました。いいかげんで無責任なことや人か。ソンナヒトニワタシハナリタイ。
何だ生成ＡＩのことをいうより先に、人間に「三原則」を躾けた方がいいんじゃないかと、ロシアのプーチンを思い浮かべて思いましたね。手塚治虫の「鉄腕アトム」もそういうことに関心を払っていたなあと懐かしい。
生成ＡＩで調べてみたら、ロボット三原則は「ロボットが人間の安全性、命令への服従、自己防衛という3つの目的をもって行動することを定めたもの」と要領よくまとめて文章にしてきました。その上で、「現実のロボット工学においては、この三原則をそのままロボットに適用することは困難」と付言し、アシモフ自身も三原則に「第零原則」を付け加えたと説明して、何だか私の関心を先取りしています。その解説が揮っている。
《例えば、「人間」と「人類」の区別です。ロボットは個々の人間よりも人類全体の利益を優先すべきかどうかという問題です》
おっ、一挙に「カントの永遠平和のために」という論題が登場してきた感触です。それに続けて、
《しかし、これによっても、人類とは何か、人類の安全性とは何かという問いが生まれます。……ロボット工学はまだ発展途上の分野であり、今後もさまざまな課題や倫理的な問題に直面することでしょう》
いやいや、お見事。この回答がウクライナ戦争を意識して作成されたものとは思いませんが、新聞の投書を軽く凌いで面白い問題提起にしています。
現今の生成ＡＩの「危険性」に関する論議は、二通りに分けられます。ひとつは、現今の利益システムを護ろうとして制限を設けようとするもの。もうひとつは、そのＡＩを利用をする（であろう）人間の「危険性」を直に反映したものです。不戦条約のように制約を設けようとしています。
人間の危険性というのをこれまでは「悪意」と呼んできました。だがトランプ米大統領の登場以来、ヒトの「自然（じねん）」が「危険性」を孕んでいると思うようになりました。そこへプーチンのウクライナ侵攻が出来し、その人の存在が「危険」そのものと示しています。人間が、変わってしまっているのです。
文科省は早速、学校教育における生成ＡＩ利用の「適/不適」の指針案を作成して発表していますが、直感、こりゃあ駄目だと思いましたね。なぜか。
（１）学校に指針案を提示するという文科省の初発のセンスが、上意下達的、中央集権的。すなわち、現場に「人間三原則」を見せて統制しようというモメント。これで動く人間は、とても生成ＡＩを使いこなすようには思えませんね。
（２）人を育てるというとき、生成ＡＩを使いこなしてゆくには、どう人を育てるか思案する場をつくるのが、文科省ではないのか。（１）のように文科省が思案し方法をつくって現場に降ろして実行させるという「人間工学」的な教育センスこそが、一番、教師と学校現場と児童生徒を損なっている。
（３）人間の「悪意」ではなく「自然（じねん）」が「危険」を孕まないように育てるにはどうするかを、最優先で考えなければならない地点に来ている。
生成ＡＩに紐付けていうと、文科省は生成ＡＩを使いこなす（技能をもった）人間を育てようと思案しています。だが、デジタル時代になってヒトは「自然（じねん）」存在そのものが、「危険」になっています。その大元を考えると、いま最も喫緊の課題は、生成ＡＩの「三原則」を打ちたてることよりも、アシモフが「第零原則」を付加したように、「人間」ではなく「人類」を育てる教育へと切り換えなければならないことです。その瀬戸際に立っていると言えます。
かつて学校は、アナログの時代であったとき、もっと適当でした。世の中の全体がＴＶ画面越しに見えていたわけではない。親も教師も町の人々も、それぞれ勝手に経験し、本を読み、昔の話を聞き新聞で知り、せいぜいラジオや映画で目にしたことから「事実」を思い描いていました。つまり世界の断片を受けとっていると自覚していました。断片から類推して、世の中とか世界というのはこうなんじゃないかと考えていたわけですね。
とうぜん自分の類推は世界の一部、偏りがあると思うから、人の話に耳を傾けます。あるいは自分の話も半分だけと受け止める。それに反応する他人の振る舞いも、何をどう受け止めているか分からないから、判断をコレと決めつけるのにも、余白を採っておくようにしたからでしょうね。
それが例えば、政治次元でいえば、民主主義は少数意見を尊重するという命題を組み込むようになりました。政党というのはPartyです。partなのです。たとえ多数派となっても一部だという自覚が、そうでない部分（少数意見）を尊重するという「倫理性」の源泉になっていたのです。
適当というのは、いい加減ということでもあります。いずれも「ほどよい加減」という元の意味が、「厳密でない」「始末がずぼら」という意から「ものごとをきちんと始末せず、中途で抛り出している」という意にまでひろがって、人の性格の駄目さかげんを表すように用いられています。これは、たぶん近代に近づくにつれて社会関係が精密になり、契約の関係なども厳格になり、人がそれに合わせて「始末」をきちんとつけるようになって、意味が変わってきたのだと思います。
それでも、人を育てることについては、すぐさま時代に即応するわけには行きません。いつも時代の変化の後を追いかけて変わってくるのが教育です。デジタル時代になってからもまだ、アナログ時代の教育が行われ、それが（社会の上層から下層までさまざまでしたから）ほどよさを残した「適当」であったと言えます。
ところが、デジタル社会となってモノゴトの考え方が細かいところから一つひとつ「白／黒」つけるように階梯を踏んで進められていくようになりました。併せて、情報化の伝達単位がマス（塊）からインディヴィデュアル（個別）の多数へと一気に加速してきました。マス（塊）で情報が伝わっていた時代には、情報自体が、それを受けとる人たちの間の「共通感覚」になりました。ところが個々別々の人たちに降り注ぐように世の情報が流され、受けとる人もそれぞれの好みに応じているから、多様性だけはよくわかるが、共通感覚にはならず、むしろ自分の好みや在りようの不確かさが日常的に感じられるようになったようです。トランプ支持の群衆の過激化は、その不安の裏返しのようにみえます。
デジタル機器の社会的な場面での採用は、ついつい人にもメリハリをつけ、端境・端末をきっぱりと始末することを厳しく要求します。とうとう１円でも足りなければ、押したボタンの何万何円という金銭支払機が次へ移ってくれないというようになりました。そして人は、それに適用しようと変わっていっているのです。感性も感覚も、好みも思考のメリハリもはっきりさせるようにして、迷うこと、曖昧なこと、訂正を繰り返すことは社会的不適応に分類されます。
つまり今のデジタル時代の教育は人間ロボットを育てるようになっていると言えます。もちろん人を数として扱えるようなセンスです。そのプロセスに乗れないヒトは、社会の落ちこぼれ同然、生成ＡＩを使いこなすどころか、埒外の人になっていくのです。
ちゃらんぽらんに過ごしてきた八十路の老爺がこういうのですから、人間が変わってしまった時代とでもいうのでしょうかね。そうだ、ちゃらんぽらんて、語源は何だろうと生成ＡＩに訊ねました。返ってきた応えは、以下のようなものです。
《「ちゃんぽらん」という言葉の語源は、諸説ありますが、有力な説は「ちゃらほら」が変化したものだと言われています12。 「ちゃらほら」の「ちゃら」は「でたらめ」「嘘」「でまかせ」の意味で、「ほら」は「ホラ吹き」の「ホラ」と思われます1。 いいかげんで無責任なことや人を表す言葉として使われています》
ははあ、恐れ入りました。いいかげんで無責任なことや人か。ソンナヒトニワタシハナリタイ。