何気なく毎日新聞を開いていたら、気になる記事がふたつほどあった。
ひとつはコラムで、イギリスの歴史家トインビーが、イスラエル建国をめぐりユダヤ人に同情する息子の質問に答えた話が紹介されていた。
ヨーロッパという海で乗っていた船が難破し、「溺れかかった人間がようやくイカダにすがりついているようなものではありませんか」と息子。それに対して父親の答えは「そのイカダにすでに乗っているイカダの正当な所有者を押しのけようとしているのだよ」というものだった。長い間不運な運命に翻弄されたユダヤ人に同情する人、正当な所有者であったにも関わらず武力で押しやられようとするパレスチナ人に同情する人。父と息子の溝はいつになっても埋まることはないのである。
もうひとつ気になった記事は、人工知能が人間を証明しなければアクセスできないシステムを、嘘をつくことで「キャプチャ認証」を突破したというニュースである。詳しいことはよくわからないが、ウイルスではなく人間がアクセスしていることを確認するシステムとしてのキャプチャ認証の壁を、なんと人工知能は「私は視覚障害があり画像を見ることが困難です」と嘘をつくことで、迂回することができたという。
今でもチャットGPTは堂々と適当なことばかり言うので、まだまだ信用に足らないということになっているが、今回のはそんなレベルを遥かに超える嘘である。記事では将来原爆を超える人類の危機だと警告していた。
人工知能の進歩には限界がない。いずれ人間の知能では制御できなくなるときが来る。そんなときは、コンセントを引っこ抜けばいいではないかと僕なんかは考えるが、ことはそう簡単ではない。なぜなら人類が生きていくうえで重要なインフラも、人工知能抜きには機能しない時代になっているからだ。
電力の発電も供給もコンピュータなしには僕らは使うことができない。交通も医療もすべてコンピュータ任せだ。ビックリすることに、このままでは人工知能のコンセントを引っこ抜こうとすれば、それに抵抗することもできるようになるという。まるでSF映画のように、人工知能は人工知能が生きていく世界を作ろうとするのである。人間にそれを止めるすべはない。
今読んでいる「サピエンス全史」に、現代は絶滅する種が出る一方、人類が知性で生み出した生命が溢れていると指摘している。植物や動物にしても、人工交配や遺伝子組み換えにより品種改良を行っている。そのうち地球上にいる生き物のほとんどの人間の知性が生み出した存在に取って代わるのではないかと思っていたが、最後に地球を支配するのは、姿形をもたない人工知能という人類が生み出した怪物ということになるのかもしれない。
ひとつはコラムで、イギリスの歴史家トインビーが、イスラエル建国をめぐりユダヤ人に同情する息子の質問に答えた話が紹介されていた。
ヨーロッパという海で乗っていた船が難破し、「溺れかかった人間がようやくイカダにすがりついているようなものではありませんか」と息子。それに対して父親の答えは「そのイカダにすでに乗っているイカダの正当な所有者を押しのけようとしているのだよ」というものだった。長い間不運な運命に翻弄されたユダヤ人に同情する人、正当な所有者であったにも関わらず武力で押しやられようとするパレスチナ人に同情する人。父と息子の溝はいつになっても埋まることはないのである。
もうひとつ気になった記事は、人工知能が人間を証明しなければアクセスできないシステムを、嘘をつくことで「キャプチャ認証」を突破したというニュースである。詳しいことはよくわからないが、ウイルスではなく人間がアクセスしていることを確認するシステムとしてのキャプチャ認証の壁を、なんと人工知能は「私は視覚障害があり画像を見ることが困難です」と嘘をつくことで、迂回することができたという。
今でもチャットGPTは堂々と適当なことばかり言うので、まだまだ信用に足らないということになっているが、今回のはそんなレベルを遥かに超える嘘である。記事では将来原爆を超える人類の危機だと警告していた。
人工知能の進歩には限界がない。いずれ人間の知能では制御できなくなるときが来る。そんなときは、コンセントを引っこ抜けばいいではないかと僕なんかは考えるが、ことはそう簡単ではない。なぜなら人類が生きていくうえで重要なインフラも、人工知能抜きには機能しない時代になっているからだ。
電力の発電も供給もコンピュータなしには僕らは使うことができない。交通も医療もすべてコンピュータ任せだ。ビックリすることに、このままでは人工知能のコンセントを引っこ抜こうとすれば、それに抵抗することもできるようになるという。まるでSF映画のように、人工知能は人工知能が生きていく世界を作ろうとするのである。人間にそれを止めるすべはない。
今読んでいる「サピエンス全史」に、現代は絶滅する種が出る一方、人類が知性で生み出した生命が溢れていると指摘している。植物や動物にしても、人工交配や遺伝子組み換えにより品種改良を行っている。そのうち地球上にいる生き物のほとんどの人間の知性が生み出した存在に取って代わるのではないかと思っていたが、最後に地球を支配するのは、姿形をもたない人工知能という人類が生み出した怪物ということになるのかもしれない。