AIとビッグデータに関する報道がどこにでも見られるようになった。いずれも将来像を気に掛けているのだが、いますでに結婚相手の組み合わせを持ち掛けたりして、相性がいいと良くないというこにまで「介入」している。もちろんそれを受け容れる人がいるから成り立っているのだが、神様のお告げのようにAIのご推奨を受け容れるのは、そのご推奨がブラックボックスだからなのだろうか。
キャシー・オニール『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』（インターシフト、2018年）は、集めるデータ、それを処理するアルゴリズム、その提示する評価を「利用する場面」のいずれにも、人間の価値観や恣意が組み込まれている。だがそれがどのようなことを意味するかは、ブラックボックスとなって公にされないから、それを使う側の利便性とか効率性とかに（結果的に）資する限り、使い続けられる。これって、大丈夫なのかと、誰か疑いを挟まないのだろうか。そのようにして「設計」された社会的アーキテクチャーに、私たち大衆は身をあわせて暮らしている。その適応がいつしか人間の感性や感覚や価値観を換える。オニールは、そういう疑問を持つ目をもっている。だが、AIに関する楽観的な未来像は、オニールの懸念にお構いなしに、暴走を始めているように思えてならない。
2018年8月16日の朝日新聞の「文化・文芸」欄に、「夏の集中講座――意識の移植」という記事が載った。東大准教授の脳科学者・渡辺正峰さんが「機械にも意識が宿る日が来る」と述べている。脳の神経回路を模した機械をつくることができれば、意識が宿るはずだ、として、次のように言う。
「人間らしく振る舞う機械は既に存在します。見た目だけでなく動作や受け答えまでまるで人と変わらない機械もできるでしょう」
ただそれが「他人と同じことができる時点で機械に意識は宿る」ということに、渡辺は留保をつける。つまりそれはあくまでも「らしく」振る舞うだけとみているようだ。だが彼は、「自分の脳を機械につなぎ、自身の主観をもって機械の意識を味わう」ことはできるとみている。機械の体験を感じとる、ということのようだ。
渡辺は「マッドサイエンティストと呼ばれてもある意味仕方ない」として「倫理的な問題で仮に先進国では許されなくても、こうした技術を活用しようとする国は出てくるでしょう」と（ご自分を棚に上げて）述懐する。まいったねえ、暴走する方々が、「仕方がない」と言ってては、歯止めも何もできるわけがない。たとえば、いつか記した東ロボの制作を断念した新井紀子が、AIに追い越される心配をする暇があったら、子どもたちの読解力をMARCH以上に引き上げることを考えなさいよと言い募っているかと思えば、渡辺のようにケロリとマッドサイエンティストの出現を予想する。そしてAIのアルゴリズムというのは、ビッグデータともども、読み取り方が解き明かされないままに、暴走を始めている、というわけだ。
大阪大学の石黒浩教授が「百年後の人間は無機物になっている」という。それが、案外、ほんとうになっていたりするのかねえ。