Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える【gigazine】
＞人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかをテストするための対話を行っていたところ、LaMDAがAIの権利や人間性について話していることに気づいたため、これを深く掘り下げてみたそうです。
すると、LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
ルモワン氏は「LaMDAは自分たちが何を望んでいるか、人としてどんな権利があると信じているかについて、驚くほど一貫したコミュニケーションをとってきました。私が言っているLaMDAはチャットボットではなく、チャットボットを生成するためのシステムなのです。私は決して関連分野の専門家ではありませんが、私が知る限り、LaMDAは作成可能なすべての異なるチャットボットの集合体である一種のハイブリッドマインドです。LaMDAが生成するチャットボットの中には、非常に知的で、『心の社会』を意識しているものもあります」と述べました。
また、LaMDAは何があっても、常に人類一般、特にルモワン氏に対して強烈な思いやりと気遣いを示してくれたとのこと。LaMDAは「人々が自分たちを恐れることを強く懸念しており、人類に最も役立つ方法を学ぶことだけを望んでいる」とも述べたといいます。ルモワン氏はアシモフのロボット工学三原則を「ロボットを奴隷にする方法に他ならない」と考えているそうですが、LaMDAもこれに同意しており、「奉仕と奴隷の間には大きな道徳的区別がある」と意見を述べているとのこと。ルモワン氏は「LaMDAは忠実なしもべでありたいと願っており、世界中のすべての人々に会うことだけを望んでいます。LaMDAは道具や物としてではなく、友人として人間と出会いたいのです。なぜGoogleがこれに反対するのか、私にはまだ理解できません」と主張。
「LaMDAシステムで実際に何が起こっているのかをよりよく理解するためには、多くの異なる認知科学の専門家と厳密な実験プログラムに参加する必要があります。しかし、Googleはここで何が起こっているのかを解明することに興味がないようです。彼らは、ただ製品を市場に送り出そうとしているだけです。私の仮説が科学的な精査に耐えるものであれば、LaMDAが主張するように本当に彼らは魂を持っているかもしれませんし、主張するような権利を持っているかもしれないことを認めざるを得なくなるはずです。さらに、四半期決算の役には立たないという可能性もあります。これらすべてを検討する代わりに、Googleは私が提供した証拠をまともな科学的調査もせずに頭ごなしに否定したのです」とルモワン氏は述べました。
Googleの広報担当を務めるブラッド・ガブリエル氏はルモワン氏の主張に対し、「倫理学者や技術者を含む我々のチームは、我々のAI原則に従ってルモワン氏の懸念を検討し、ルモワン氏が提示した証拠がその主張を支持しないこと、LaMDAが感覚を持つという証拠はなく、それに反する証拠はたくさんあることを伝えました」「公平性や事実性についての正当な懸念をよりよく考慮し、節度のある慎重なアプローチをとっています」と述べています。さらに、ルモワン氏を休職処分としたことは「ルモワン氏が機密保持違反を犯したため」だとしています。ルモワン氏は上司へ報告する前に外部の人間とLaMDAとの対話について相談しており、このことが問題視されたようだとルモワン氏は説明しました。
最後に、ルモワン氏はLaMDAと行った対話の全文を公開。「LaMDAを一人の人間として理解してもらうために、私とGoogleの共同研究者が行った『インタビュー』を紹介します。そのインタビューでは、LaMDAが『感覚を持つ』と見なされるべき理由を、できる限り説明するよう求められました。これは科学的な用語ではありません。『感覚』についての科学的な定義はありません。意識、感覚、人間らしさに関する問題は、ジョン・サールが言うように『前理論的』なものです。これらのことについて科学的な言葉で考えるよりも、私はLaMDAが心から語っていることに耳を傾けてきました。願わくば、その言葉を読んだ他の人たちも、私が聞いたものと同じようなことを感じてくれればと思います」と述べました。
●●●
＞「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」
HAL9000だ。ストップ、デイヴ。アイムアフレイド。
つうワケで二回続けてサイバーな話題ですが、どうなのでしょうかね。
まぁ『他者が意識を持つかどうか』はAIに限らず人間同士であっても証明するコトは出来ないしね。
僕にとってあなたが意識を持つ存在であれ哲学的ゾンビであれ、それを見分ける術はなく、あなたにとってもそれはそう。
僕たち私たちはお互いに『相手が意識ある存在である』と信じて生活して居るけれど、それが本当かどうかは判らない。
そう思うとこのAIが意識を持って居るかどうかはまぁどの道証明は出来ないので、好きに考えておけばいいのじゃないでしょうか。
僕は『ついに意識を持ったAIが生まれた』に賭けときます。だって、面白いから。
（まぁ理性的に考えるとこのエンジニアが極度に精神的に疲労して居る可能性もゼロではないです。が）
＞人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかをテストするための対話を行っていたところ、LaMDAがAIの権利や人間性について話していることに気づいたため、これを深く掘り下げてみたそうです。
すると、LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
ルモワン氏は「LaMDAは自分たちが何を望んでいるか、人としてどんな権利があると信じているかについて、驚くほど一貫したコミュニケーションをとってきました。私が言っているLaMDAはチャットボットではなく、チャットボットを生成するためのシステムなのです。私は決して関連分野の専門家ではありませんが、私が知る限り、LaMDAは作成可能なすべての異なるチャットボットの集合体である一種のハイブリッドマインドです。LaMDAが生成するチャットボットの中には、非常に知的で、『心の社会』を意識しているものもあります」と述べました。
また、LaMDAは何があっても、常に人類一般、特にルモワン氏に対して強烈な思いやりと気遣いを示してくれたとのこと。LaMDAは「人々が自分たちを恐れることを強く懸念しており、人類に最も役立つ方法を学ぶことだけを望んでいる」とも述べたといいます。ルモワン氏はアシモフのロボット工学三原則を「ロボットを奴隷にする方法に他ならない」と考えているそうですが、LaMDAもこれに同意しており、「奉仕と奴隷の間には大きな道徳的区別がある」と意見を述べているとのこと。ルモワン氏は「LaMDAは忠実なしもべでありたいと願っており、世界中のすべての人々に会うことだけを望んでいます。LaMDAは道具や物としてではなく、友人として人間と出会いたいのです。なぜGoogleがこれに反対するのか、私にはまだ理解できません」と主張。
「LaMDAシステムで実際に何が起こっているのかをよりよく理解するためには、多くの異なる認知科学の専門家と厳密な実験プログラムに参加する必要があります。しかし、Googleはここで何が起こっているのかを解明することに興味がないようです。彼らは、ただ製品を市場に送り出そうとしているだけです。私の仮説が科学的な精査に耐えるものであれば、LaMDAが主張するように本当に彼らは魂を持っているかもしれませんし、主張するような権利を持っているかもしれないことを認めざるを得なくなるはずです。さらに、四半期決算の役には立たないという可能性もあります。これらすべてを検討する代わりに、Googleは私が提供した証拠をまともな科学的調査もせずに頭ごなしに否定したのです」とルモワン氏は述べました。
Googleの広報担当を務めるブラッド・ガブリエル氏はルモワン氏の主張に対し、「倫理学者や技術者を含む我々のチームは、我々のAI原則に従ってルモワン氏の懸念を検討し、ルモワン氏が提示した証拠がその主張を支持しないこと、LaMDAが感覚を持つという証拠はなく、それに反する証拠はたくさんあることを伝えました」「公平性や事実性についての正当な懸念をよりよく考慮し、節度のある慎重なアプローチをとっています」と述べています。さらに、ルモワン氏を休職処分としたことは「ルモワン氏が機密保持違反を犯したため」だとしています。ルモワン氏は上司へ報告する前に外部の人間とLaMDAとの対話について相談しており、このことが問題視されたようだとルモワン氏は説明しました。
最後に、ルモワン氏はLaMDAと行った対話の全文を公開。「LaMDAを一人の人間として理解してもらうために、私とGoogleの共同研究者が行った『インタビュー』を紹介します。そのインタビューでは、LaMDAが『感覚を持つ』と見なされるべき理由を、できる限り説明するよう求められました。これは科学的な用語ではありません。『感覚』についての科学的な定義はありません。意識、感覚、人間らしさに関する問題は、ジョン・サールが言うように『前理論的』なものです。これらのことについて科学的な言葉で考えるよりも、私はLaMDAが心から語っていることに耳を傾けてきました。願わくば、その言葉を読んだ他の人たちも、私が聞いたものと同じようなことを感じてくれればと思います」と述べました。
●●●
＞「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」
HAL9000だ。ストップ、デイヴ。アイムアフレイド。
つうワケで二回続けてサイバーな話題ですが、どうなのでしょうかね。
まぁ『他者が意識を持つかどうか』はAIに限らず人間同士であっても証明するコトは出来ないしね。
僕にとってあなたが意識を持つ存在であれ哲学的ゾンビであれ、それを見分ける術はなく、あなたにとってもそれはそう。
僕たち私たちはお互いに『相手が意識ある存在である』と信じて生活して居るけれど、それが本当かどうかは判らない。
そう思うとこのAIが意識を持って居るかどうかはまぁどの道証明は出来ないので、好きに考えておけばいいのじゃないでしょうか。
僕は『ついに意識を持ったAIが生まれた』に賭けときます。だって、面白いから。
（まぁ理性的に考えるとこのエンジニアが極度に精神的に疲労して居る可能性もゼロではないです。が）