NHK BS世界のドキュメンタリー「AIの不都合な真実」を観ました。
私は時々ChatGPTを使います。間違いがあるかもしれないことを念頭に置けば、便利なツールだと思っていました。この番組を見て見方が少し変わりました。
AIはどのように作られていくのか?
インターネット上にあるデータをプログラムが自動収集、その膨大なデータの中からAIが学習していくのではないかと思っていましたが、実はそうではないようです。
例えば缶詰の写真に対し「これは缶詰である」というように、AIに教えてやる必要がある。
同様にAIは善も悪もわからないため、判断基準を示してやる必要がある。
善とは何か。悪とは何か。例えば殺人や暴力事件などの写真を示し、これらは悪だと教えてやらなければならない。
AIに教えるため、画像にラベリングを行うのがデータワーカー。
そのほとんどが第三世界と呼ばれる地域の人々で、それで生活が豊かになるわけではないごくごく低賃金でこの仕事を担っている。最初は安いけれど楽な仕事だと思っていたのが、正視にたえない画像を見ることとなり、精神を病む人が出てくる。仕事の内容に関し口外することは固く禁じられている。AIはこのような搾取の上に成り立っている、と。
またAIには巨大なデータセンターが必要である。それを維持するためには大量の電力、冷却機能、レアアースが必要だと。
私の頭の中ではAIとデータセンターが結びついていませんでした。
AIの開発を進めてどこへ行こうとしているのか。その道は正しいのか。
環境に大きな負荷をかけてまで行う価値があるのか。
人類にとって本当に必要なのか。
その過程で一部の人たちを踏みつけにしていいのか。
AIの光の部分だけが喧伝されて、影の部分は秘密にされている。
このドキュメンタリー(フランス)が事実であるのならば、私たちはもっと真実を知らなくてはなりません。
以前、車の自動運転のプログラムを開発している人の話を、人づてに聞いたことがあります。
AIは何も知らないから全てをプログラムしなければならない。
例えば左側から子どもが飛び出してきて、右側から高齢者が出てきたとする。
どちらも無傷で済めばいいが、どちらかを犠牲にしなければならないとなった時、どちらを犠牲にするのか。それをAIに教える必要がある。開発しているうちに精神を病む人が出てくる。AIとは、そういうものなのだと。
私は時々ChatGPTを使います。間違いがあるかもしれないことを念頭に置けば、便利なツールだと思っていました。この番組を見て見方が少し変わりました。
AIはどのように作られていくのか?
インターネット上にあるデータをプログラムが自動収集、その膨大なデータの中からAIが学習していくのではないかと思っていましたが、実はそうではないようです。
例えば缶詰の写真に対し「これは缶詰である」というように、AIに教えてやる必要がある。
同様にAIは善も悪もわからないため、判断基準を示してやる必要がある。
善とは何か。悪とは何か。例えば殺人や暴力事件などの写真を示し、これらは悪だと教えてやらなければならない。
AIに教えるため、画像にラベリングを行うのがデータワーカー。
そのほとんどが第三世界と呼ばれる地域の人々で、それで生活が豊かになるわけではないごくごく低賃金でこの仕事を担っている。最初は安いけれど楽な仕事だと思っていたのが、正視にたえない画像を見ることとなり、精神を病む人が出てくる。仕事の内容に関し口外することは固く禁じられている。AIはこのような搾取の上に成り立っている、と。
またAIには巨大なデータセンターが必要である。それを維持するためには大量の電力、冷却機能、レアアースが必要だと。
私の頭の中ではAIとデータセンターが結びついていませんでした。
AIの開発を進めてどこへ行こうとしているのか。その道は正しいのか。
環境に大きな負荷をかけてまで行う価値があるのか。
人類にとって本当に必要なのか。
その過程で一部の人たちを踏みつけにしていいのか。
AIの光の部分だけが喧伝されて、影の部分は秘密にされている。
このドキュメンタリー(フランス)が事実であるのならば、私たちはもっと真実を知らなくてはなりません。
以前、車の自動運転のプログラムを開発している人の話を、人づてに聞いたことがあります。
AIは何も知らないから全てをプログラムしなければならない。
例えば左側から子どもが飛び出してきて、右側から高齢者が出てきたとする。
どちらも無傷で済めばいいが、どちらかを犠牲にしなければならないとなった時、どちらを犠牲にするのか。それをAIに教える必要がある。開発しているうちに精神を病む人が出てくる。AIとは、そういうものなのだと。