人工知能のこれ以上の開発は禁止せよ

最近は人工知能に関するニュースが多い。

囲碁の世界では、まさかと思われたトップ棋士に4勝1敗。

小説の世界では、星新一賞の予選通過。

いずれも科学技術の進歩ととらえるなら、喜ばしいことだ。

しかし、それに伴う負の側面について、そろそろ心配しなければならない
局面に入りつつある。

素直に吸収する「マシン」だから、誰かが悪意を持って吹き込んだら、
すぐその思想に染まってしまう。

先日の「ヒトラー礼賛」事件など、実例も出ている。

つまり、システムには誰かが教えない限り、倫理観はない。

だから純粋にマシンが思考して行動する限り、最後には人間に敵対する可能性を
否定できないのだ。

たとえば

①コンピューターが新たな「神」となって人類に命令を下す。

②地球環境の維持という命題に対し、ヒトの人口爆発を防止する必要がある
との結論を下し、人間の間引きを開始する。

③ロボットが自己増殖して、圧倒的多数になる。

等のケースが考えられるが、ある線を超えたら、人類は人工知能の暴走を
止められなくなるだろう。

これはもうターミネーターの世界だ。

どうせなら私は、同じ死ぬならロボットではなくヒトに殺されたい
と願うのは無理な相談だろうか。

現状の水準で開発は凍結すべきである。

ロボットがヒトに従順な「労働力」であるうちに。