『過学習』『汎化性能』『画像処理』

🌸 深層学習から生成ＡＩヘ２

⛳過学習とは
　☆モデル１はモデル２の特別な場合

　＊モデル１は、モデル２でピークはあるけれど

　＊その高さはゼロという場合と等価なので

　＊どんなに小さなピークでもそれがありさえすれば
　＊モデル１よリモデル２が正しいという結論が

　＊「いつも」でてしまう

　☆複雑なモデルのほうが説明能力が高いので

　＊予測の良さで選んだらより

　＊単純なモデルが選ばれる可能性はないので

　＊即ち直感に反する結論を得る
　☆複雑なモデルと単純なモデルが存在した場合

　＊自由にパラメータを変更していいなら

　＊複雑なモデルの方が、説明能力が高いとなり

　＊これが、過学習の大きな原因の一つになっている
　☆深層学習は意味もなく

　＊複雑なモデルを導入しているにもかかわらず

　＊なぜか複雑なモデルほど過学習せず

　＊高度な汎化性能を獲得することが知られている

　☆これが一度は見捨てられたニューラルネットワークが

　＊リバイバルしたときに驚きをもって迎えられた理由である

⛳深層学習の「謎性能』
　☆深層学習には、いままでの機械学習の常識を超えた

　＊膨大なパラメータを導入しても過学習しない、「謎性能」がある

　☆過学習を起こしやすいはずの

　＊膨大な数のパラメータを持った深層学習が

　＊なぜ過学習を逃れることができているのかは

　＊いまも杏として知れない謎のままになっている
　☆深層学習の導入で大きく発展した分野は３つある

　＊画像処理、将棋や囲碁のようなゲ―ム対戦、自然言語処理である

⛳深層学習で成果をあげたのが画像処理

　☆当初、コンピュータに「ウマ」と「イヌ」が写っている写真を見せて

　＊何が写っているのかを判別させようとしてもうまくいかなかった

　＊機械学習でやらせようとすると困難を極めた
　☆ニューラルネットワークを多段で重ねた深層学習方法で

　＊他の機械学習を凌駕する圧倒的成果を出した
　☆単に画像を入力してラベルの判別をしろと命令すると

　＊深層学習が自ら学習して、見事な回答にたどり着いた

　☆画像処理業界が騒然となったのは言うまでもなく

　＊これで一気に深層学習に注目が集まった

　　　　　　　　　　　　　　　　　　　　　　　　（敬称略）
⛳知識の向上目指し、記事を参考に自分のノートとしてブログに記載
⛳出典内容の共有、出典の購読、視聴に繋がればと思いブログで紹介
　☆記事内容ご指摘あれば、訂正・削除します
⛳私の知識不足の為、記述に誤り不明点あると思います
⛳投資は、自己責任、自己満足、自己判断で
⛳詳細は、出典原書・記事・番組・画像でご確認ください
⛳出典、『知能とはなにか』

 『過学習』『汎化性能』『画像処理』

（『知能とはなにか』記事、ネットより画像引用）