1990年に、カリフォルニア大学サン・ディエゴ校のガリソン・コットレルGarrison W. Cottrellさんのグループが発表した三層構造の人工ニューラル・ネットワーク＊01は、本物の人間の顔を識別することができました。
その入力層つまり「網膜」は64×64画素のグリッドからなり、各画素は256段階の異なる活性化つまり「明度」を示すことができました。そして各入力細胞は第2層の80個の（標的）細胞すべてに対して軸索の枝を放射状に投射し、この第2層から最後にわずか8個の細胞から成る出力層への投射が行なわれたのです。
この出力層の細胞は、第一に、人の顔とそうでないものを、第二に、男性と女性を識別し、第三に、訓練用に入力された顔が再提示されたときに、その顔の主の「名」（数字コード）を反応するように、シナプス結合の重みが精密に調整されていました。
ではその重みの調整はどのようにおこなわれたのでしょうか。コットレルさんと同じカリフォルニア大学サン・ディエゴ校の哲学部門に所属するポール・M・チャーチランドさんの著作＊02から引き続き引用してみたいと思います。
まず簡単なＴパターン認識システムの場合と同じく、コットレルさんの顔認識ネットワークにおいて実質的な仕事をしているのは、シナプス結合の全体的な正負、強弱（重みづけ）の配置です。この配置が、そしてそれのみが最初の64×64のバターンつまりベクトルを、順に第二のベクトルへ、それから最後の第三のベクトルへと変形し、この第三のベクトルによって入力写真の顔性、性別、名前が明示的に表現されるのです。
しかし、簡単な二層式のＴパターン認識装置では、その9つのシナプス結合をどう配置すればよいかは明らかであったのに対し、このはるかに大きなネットワークでは、その結合をどう配置すればよいのかまったく不明でした。何と言っても、そのネットワークは（64×64）十80十8＝4,184の細胞と、総計328,320のシナプス結合を含むからです。
このシナプスの結合（重みづけ）配置を見つける一般的な方法が当時すでに提案されていました。「継続的誤差逆伝播法によるシナプス調整」あるいは略して逆伝播法（backpropagation）と呼ばれている方法です。
＊01：Categorization of faces using unsupervised feature extraction／Garrison W. Cottrell M.K. Fleming ／1990
＊02：認知哲学－脳科学から心の哲学へ／ポール・M・チャーチ ランド／信原幸弘・宮島昭二訳／産業図書 1997.09.04
The Engine of Reason, the Seat of the Soul: A Philosophical Journey into the Brain/ 1995/6/1
