ChatGPTは学習と意思決定に不可逆的な結果をもたらす可能性

ChatGPTについて説明している人がいたので紹介するわ。

要約を箇条書きにしてみたけれど、長くなっちゃった。

要約しなかった最後の方に、もっと怖いことも書いてある。

政府レベルではどうとか、医療に関してはどうとか。

スマートベビーがとか。

 

ええ、これどうしたらいいんだろうね。

おおかたの人は喜んで使っていて、聞く耳持たないし。

本当に悪魔的。

 

 

 

ChatGPTは学習と意思決定に不可逆的な結果をもたらす可能性があります。

TOPICS:Artificial IntelligenceMathew Maavak（マシュー・マーヴァック）氏

2023年3月13日

https://www.activistpost.com/2023/03/chatgpt-may-have-irreversible-consequences-for-learning-and-decision-making.html

 

【どのように機能するのか？】

・ChatGPTはオンラインソースからデータを収集し、数秒以内にクエリに対する答えを合成する。

　音符の作曲、ソフトウェアコードの記述、数式の解答、小説、エッセイ、学位論文の執筆、翻訳など

 

 

・まだ計り知れないほど広い範囲にわたって人間の活動に取って代わるかもしれない。

・何億もの雇用が失われるかもしれない。

 

しかし、最も直接的な影響を与えるのは、人間の学習と意思決定の分野だろう。

 

 

【人間の学習】

 

・人間の学習は、無数の要因によって形成される生涯のプロセスである。

経験、本能、相互作用、間違い、やり直し、内省、個人的な怒り、大胆さ、教育、テキストデータ、個人の精神などが含まれ、人間の学習と発達に関する「痛みなくして得るものなし」という公理が存在する。

・しかし、これらの前提条件のほとんどはChatGPTにとって異質なものである。

・AIツールは、時間的制約、疲労、オフの日、病気といった人間の限界にも影響されないので、人間は考え、学ぶという存在要件を機械に委ねるようになった。

・デジタル化によって、人間は、情報を保持する方法を学ぶ代わりに、どこで、どのように情報を探すかを知ることを得意とするようになった。

・日常生活のあらゆる場面で、「デジタル松葉杖」が必需品となっている。

・私たちの日常業務は急速に機械化され、創造する能力を奪っている。私たちは、機械の延長線上にいるのではなく、その逆になっている。 

・ChatGPTは、多くのハイレベルな試験をクリア

・論文代筆業者は、科学論文や報告書を捏造することもあり、捏造データを使用、あるいは意図的に改ざんする研究者は、社会にとって不利益な政策や製品を推進することになりかねない。

・本物と人工物を選別することも難しくなってきています。

・ほとんどのユーザーをAIが生成したデータの従順な消費者に変えてしまうかもしれない。

・デジタルに媒介された受動的な状態が長く続くと、思考力が萎縮してしまう。

・デジタルデバイドを拡大する可能性がある。特に、アクセスに購読料が必要になった場合に。

 

 

【人間の意思決定】

・シンガポール政府は先日、公務員の業務負担を軽くするためにChatGPTの利用を開始すると発表した。

・統治機構は徐々に機械に簒奪され、必然的に予測型ガバナンスを伴う。

・ベルリン警察は、すでにシステムに組み込んでいる。近い将来、マイノリティ・リポートのような社会がやってくるのだろうか。

 

--マイノリティリポートを視聴した人の感想より--

・暴動の被疑者たちがビッグデータや防犯カメラの動作認証などにより確保されるに至った。 防犯カメラで犯罪が起こらないという世界を｢ユートピア｣と見るか、監視社会化した｢ディストピア｣と見るかは...。

・未然防止のシステムは、冤罪リスクを孕む。また個人情報･プライバシー侵害とも無縁ではない。危険人物にカテゴライズされる恐怖。