６月２５日放映ののNHKスペシャル「人工知能ー天使か悪魔か2017」はインパクトのある特集だった。ネット上ではAIの急激な発展に不安を覚える投稿が多かった。また、6月7日の朝日新聞声の欄でもAIが将棋や囲碁で人間を凌駕し、近い将来には多くの仕事がAIに取って代わられるという予測に対して不安感じている投稿が複数掲載されていた。
ところで、現在のAI技術は本当に人間の知性を超えているのであろうか。
18世紀、英国でジェームス・ワットが蒸気機関を改良し、産業革命の進展に貢献した。この時、労働者は仕事を奪われると思い込み工場を打ち壊した。しかし、蒸気機関の出現により人類は安定した動力を得、産業革命を経て飛躍的に生産性を高め、生活環境の改善にも成功したのだった。もちろんそこには波に乗れず、苦汁をなめた人々もたくさんいたのだが。
NHKスペシャルでは、5月に行われた電王戦（佐藤名人v.s.ポナンザ）の経過を詳しく追っていた。結果はAI将棋ソフト・ポナンザの三連勝だったが、ポナンザがプロ棋士の常識を覆すような差し手を打った事、中盤の形勢判断が観戦していたプロ棋士たちと将棋ソフトでは逆転していた事が印象的だった。ただ何故ポナンザは中盤に自分が形勢優位だと判断したのか、また何故ポナンザがプロの常識を覆す差し手を選択したのか、ポナンザ自身はもちろん開発者である山本一成氏にも説明はできないのである。
ポナンザはAIの一つの技法である機械学習採用している。そこには駒の相互関係を表したり、盤面を評価するために数百のパラメータが定義されている。これに対して初期データとして過去の対局データ5万件を与えて学習させる。さらに、自己対局（ポナンザ同士で戦う事）を700万回以上繰り返して強くなった。パラメータの多さ、相関の複雑さから、いまや開発者にもどうプログラムを修正すれば強くなるのかわからない。そこで、現在開発者は経験と勘を頼りに試行錯誤を繰り返し、改良を行っている。一般に将棋ソフトでは評価関数を使って盤面を評価し、次の一手を選択しているが、この関数が複雑になり過ぎて開発者にも理解できないレベルに到達したという事だろう。また、ポナンザが繰り出す新しい指し手はプロ棋士の常識を超えるものがあり、そこには知性さえ感じられるようだ。
今年の5月Googleの英国子会社 Deep Mind 社が開発した囲碁ソフト「アルファ碁」が、世界最強の棋士 柯潔（かけつ）に三連勝し、その後非公式ながらネット上でプロ棋士と対戦して60連勝したというニュースは世界中に伝わった。アルファ碁のすごさは、強さだけではない。プロジェクト開始当時、プロキシに勝つには十年以上かかると言われていたにもかかわらず、それを3年で成し遂げったところにもある。
この躍進を支えたのがディープラーニングと呼ばれる技術である。ディープラーニングは機械学習の一つであり、プログラムを作成する代わりに入力・出力の一対データを与えるだけでその特徴を自動的に（機械的に）学習してゆく。理論的には以前から知られており、画像や音声認識の分野では実用化されている。ただ、囲碁に適用しようとすると層が深くなり、学習に時間がかかり過ぎるという問題があった。Deep Mind 社はこの問題をGoogle 社の分散処理技術と豊富なコンピュータ資源を利用することで乗り越えたのだ。
アルファ碁の成功で、ディープラーニングによりAIは一気に人間の知能を超えたと考える人たちが増えたようだ。そのため、近い将来多くの人間の仕事がAIに取って代わられるという発言に勢いが付き、人々は不安を感じるようになったのだろう。
ポナンザやアルファ碁は現時点では確かにプロ棋士たちを凌駕した。将棋ソフトや囲碁ソフトは棋士たちが思いもしなかった差し手を編み出し、また形勢判断をする。コメンテータの羽生棋聖の指摘だが、実はこれは将棋や囲碁が奥深いゲームであり、今まで人間はその表面一部だけで遊んでいたにすぎず、将棋・囲碁ソフトが新たな領域を開拓したのかもしれない。であれば、棋士たちはデビュー29連勝を飾った若い藤井四段のようにソフトから学び、さらに強くなる可能性があるのではないか。
ところで、アルファ碁は昨年（2016年）3月に韓国最強のプロ棋士 イ・セドルと5番勝負を行い、4勝1敗で勝った。この時イ・セドルが唯一勝利した第4局でアルファ碁は途中から明らかな悪手を繰り返したが、その原因は開発者であるDeep Mind のメンバーにもわからなかった。
また、ポナンザの場合と同じくアルファ碁はプロ棋士の常識からは考えられない手を選択することがよくある。結果的にはそれで勝ってるケースが圧倒的に多いのだが、何故その手を選んだのかアルファ碁自身はもちろん開発者にも説明できないし、観戦しているプロ棋士には理解できなかった。そして現在では極めてまれにしかないが、過ちを犯し悪手を打つことがある。
機械学習（ディープラーニングを含む）とういう技術には、本質的に判断の根拠や過程を説明できないという問題があるのだ。説明をする技術の研究もおこなわれていが、現時点では成功していないし、個人的にはあまり期待できないと思う。
そもそも将棋や囲碁に於いてAIが棋士に勝利したのは、圧倒的な記憶量と計算速度（処理速度）のなせる業だったのであり、そこには人間の限られた能力によって「物事を知り、考え、判断する能力」と同質の知性は感じられない。もちろん力技の威力に不気味さは感じるが。
現在のAIにはいろいろ問題はあるが、今後様々な分野で応用されるであろう。NHKスペシャルでもバスの運行記録から事故の発生率を予測しドライバー再教育の判断に使用する。裁判官が仮釈放の判断に再犯率予測を参照する。タクシーの需要予測へ応用する。等々のAI応用事例を紹介していたが、いずれの応用もAIを統計処理機能として使用しており、AIの出した結論を最終的に判断するのは人間である。これらの応用全てにおいて機械学習やディープラーニング技術が使われているわけではないが、結論に至る過程を説明ができない、根拠を示す事ができない、現段階のAI応用としては妥当なところであろう。
そもそも現時点でAI（ここでは機械学習技術）が実社会の課題に応用された場合、AIを使ったシステムが誤った動作をした責任はだれがとるのだろうか。その前に、事故を未然に防止するために誰がそれを誤動作と判断するのだろうか。また、AIが人間に説明できない判断をした場合、その採否を誰がどうやって決めるのだろうか。例えばAIによる医療診断ではそのようなケースが充分起こり得る。自動車の自動運転等では、事故回避のために瞬時の判断が求められるが、それをAIに任せることが出るのだろうか。
さらに、AIが常識的な因果律で説明できないような判断をして事故が発生した場合、責任を負うのは開発者（会社）・サービス提供社・利用者のいずれか？ 等々、問題は山済みである。
説明責任を果たす事ができない現在のAI技術が本当に人間の知性に迫っていると言えるのだろうか。疑問である。
最後に一つ、身近なところで使われているAI（機械学習）の成果を紹介しょう。
昨年の秋頃からGoogle 翻訳の精度が大きく改善されたのを御存じだろうか。これは、AI技術を導入した結果である。新しいGoogle翻訳では対象となる文章の前後の文章における単語の関係から文脈を少しだけ学習し訳語を決定するようになった。「少しだけ」というのは、文全体の意味や文脈を理解して翻訳しているわけではない、という意味である。つまり単語の関係という形で意味のあいまいさを補っているのである。それでも一度使ってみれば、数行の短い文章ならば非常に役立つことが理解される。しかし、長文を訳させてみれば誰しもがっかりするだろう。完全な文脈理解なしに文章の意味を正しく理解することなど到底望めないし、自然な訳文が生成できるはずもない。もちろん、機械翻訳の出力をたたき台とし、これを人間が修正して使うという利用方法は大いに役立つが。
ところで、現在のAI技術は本当に人間の知性を超えているのであろうか。
18世紀、英国でジェームス・ワットが蒸気機関を改良し、産業革命の進展に貢献した。この時、労働者は仕事を奪われると思い込み工場を打ち壊した。しかし、蒸気機関の出現により人類は安定した動力を得、産業革命を経て飛躍的に生産性を高め、生活環境の改善にも成功したのだった。もちろんそこには波に乗れず、苦汁をなめた人々もたくさんいたのだが。
NHKスペシャルでは、5月に行われた電王戦（佐藤名人v.s.ポナンザ）の経過を詳しく追っていた。結果はAI将棋ソフト・ポナンザの三連勝だったが、ポナンザがプロ棋士の常識を覆すような差し手を打った事、中盤の形勢判断が観戦していたプロ棋士たちと将棋ソフトでは逆転していた事が印象的だった。ただ何故ポナンザは中盤に自分が形勢優位だと判断したのか、また何故ポナンザがプロの常識を覆す差し手を選択したのか、ポナンザ自身はもちろん開発者である山本一成氏にも説明はできないのである。
ポナンザはAIの一つの技法である機械学習採用している。そこには駒の相互関係を表したり、盤面を評価するために数百のパラメータが定義されている。これに対して初期データとして過去の対局データ5万件を与えて学習させる。さらに、自己対局（ポナンザ同士で戦う事）を700万回以上繰り返して強くなった。パラメータの多さ、相関の複雑さから、いまや開発者にもどうプログラムを修正すれば強くなるのかわからない。そこで、現在開発者は経験と勘を頼りに試行錯誤を繰り返し、改良を行っている。一般に将棋ソフトでは評価関数を使って盤面を評価し、次の一手を選択しているが、この関数が複雑になり過ぎて開発者にも理解できないレベルに到達したという事だろう。また、ポナンザが繰り出す新しい指し手はプロ棋士の常識を超えるものがあり、そこには知性さえ感じられるようだ。
今年の5月Googleの英国子会社 Deep Mind 社が開発した囲碁ソフト「アルファ碁」が、世界最強の棋士 柯潔（かけつ）に三連勝し、その後非公式ながらネット上でプロ棋士と対戦して60連勝したというニュースは世界中に伝わった。アルファ碁のすごさは、強さだけではない。プロジェクト開始当時、プロキシに勝つには十年以上かかると言われていたにもかかわらず、それを3年で成し遂げったところにもある。
この躍進を支えたのがディープラーニングと呼ばれる技術である。ディープラーニングは機械学習の一つであり、プログラムを作成する代わりに入力・出力の一対データを与えるだけでその特徴を自動的に（機械的に）学習してゆく。理論的には以前から知られており、画像や音声認識の分野では実用化されている。ただ、囲碁に適用しようとすると層が深くなり、学習に時間がかかり過ぎるという問題があった。Deep Mind 社はこの問題をGoogle 社の分散処理技術と豊富なコンピュータ資源を利用することで乗り越えたのだ。
アルファ碁の成功で、ディープラーニングによりAIは一気に人間の知能を超えたと考える人たちが増えたようだ。そのため、近い将来多くの人間の仕事がAIに取って代わられるという発言に勢いが付き、人々は不安を感じるようになったのだろう。
ポナンザやアルファ碁は現時点では確かにプロ棋士たちを凌駕した。将棋ソフトや囲碁ソフトは棋士たちが思いもしなかった差し手を編み出し、また形勢判断をする。コメンテータの羽生棋聖の指摘だが、実はこれは将棋や囲碁が奥深いゲームであり、今まで人間はその表面一部だけで遊んでいたにすぎず、将棋・囲碁ソフトが新たな領域を開拓したのかもしれない。であれば、棋士たちはデビュー29連勝を飾った若い藤井四段のようにソフトから学び、さらに強くなる可能性があるのではないか。
ところで、アルファ碁は昨年（2016年）3月に韓国最強のプロ棋士 イ・セドルと5番勝負を行い、4勝1敗で勝った。この時イ・セドルが唯一勝利した第4局でアルファ碁は途中から明らかな悪手を繰り返したが、その原因は開発者であるDeep Mind のメンバーにもわからなかった。
また、ポナンザの場合と同じくアルファ碁はプロ棋士の常識からは考えられない手を選択することがよくある。結果的にはそれで勝ってるケースが圧倒的に多いのだが、何故その手を選んだのかアルファ碁自身はもちろん開発者にも説明できないし、観戦しているプロ棋士には理解できなかった。そして現在では極めてまれにしかないが、過ちを犯し悪手を打つことがある。
機械学習（ディープラーニングを含む）とういう技術には、本質的に判断の根拠や過程を説明できないという問題があるのだ。説明をする技術の研究もおこなわれていが、現時点では成功していないし、個人的にはあまり期待できないと思う。
そもそも将棋や囲碁に於いてAIが棋士に勝利したのは、圧倒的な記憶量と計算速度（処理速度）のなせる業だったのであり、そこには人間の限られた能力によって「物事を知り、考え、判断する能力」と同質の知性は感じられない。もちろん力技の威力に不気味さは感じるが。
現在のAIにはいろいろ問題はあるが、今後様々な分野で応用されるであろう。NHKスペシャルでもバスの運行記録から事故の発生率を予測しドライバー再教育の判断に使用する。裁判官が仮釈放の判断に再犯率予測を参照する。タクシーの需要予測へ応用する。等々のAI応用事例を紹介していたが、いずれの応用もAIを統計処理機能として使用しており、AIの出した結論を最終的に判断するのは人間である。これらの応用全てにおいて機械学習やディープラーニング技術が使われているわけではないが、結論に至る過程を説明ができない、根拠を示す事ができない、現段階のAI応用としては妥当なところであろう。
そもそも現時点でAI（ここでは機械学習技術）が実社会の課題に応用された場合、AIを使ったシステムが誤った動作をした責任はだれがとるのだろうか。その前に、事故を未然に防止するために誰がそれを誤動作と判断するのだろうか。また、AIが人間に説明できない判断をした場合、その採否を誰がどうやって決めるのだろうか。例えばAIによる医療診断ではそのようなケースが充分起こり得る。自動車の自動運転等では、事故回避のために瞬時の判断が求められるが、それをAIに任せることが出るのだろうか。
さらに、AIが常識的な因果律で説明できないような判断をして事故が発生した場合、責任を負うのは開発者（会社）・サービス提供社・利用者のいずれか？ 等々、問題は山済みである。
説明責任を果たす事ができない現在のAI技術が本当に人間の知性に迫っていると言えるのだろうか。疑問である。
最後に一つ、身近なところで使われているAI（機械学習）の成果を紹介しょう。
昨年の秋頃からGoogle 翻訳の精度が大きく改善されたのを御存じだろうか。これは、AI技術を導入した結果である。新しいGoogle翻訳では対象となる文章の前後の文章における単語の関係から文脈を少しだけ学習し訳語を決定するようになった。「少しだけ」というのは、文全体の意味や文脈を理解して翻訳しているわけではない、という意味である。つまり単語の関係という形で意味のあいまいさを補っているのである。それでも一度使ってみれば、数行の短い文章ならば非常に役立つことが理解される。しかし、長文を訳させてみれば誰しもがっかりするだろう。完全な文脈理解なしに文章の意味を正しく理解することなど到底望めないし、自然な訳文が生成できるはずもない。もちろん、機械翻訳の出力をたたき台とし、これを人間が修正して使うという利用方法は大いに役立つが。
