数学に関する参考文献を読みながら、これらの文献からインスピレーションを得て何かブログの記事を書けないかと考えていたところ、「線形代数は難しい」との声が多いことを知った。そこで、この際、数学の歴史から発想を飛ばして、「なぜ線形代数は難しいのか」について考察することにした。
紀元前五世紀頃の古代ギリシャにおいて、ユークリッドの「原論」と呼ばれる数学書が成立した。「原論」には、整数論に関する記述も含まれるが、その中心はユークリッド幾何学と呼ばれる幾何学である。
「原論」は、計算によって問題を解決することよりも、論証によって結果の正当性を保証するプロセスに重きを置く。「原論」で扱われる議論の正確なことは驚くばかりであり、その叙述形式は長らく学問的叙述の模範とされてきた。その影響力は大きく、有名なニュートンの「自然哲学の数学的原理」なども、この「原論」を手本にしたと言われている。
これほど偉大な「原論」ではあるが、今日我々が知るような代数学を含んでいない。すなわち、古代ギリシャ人は、記号を用いる代数を知らず、代数式を使った計算を行っていなかったのである。
「代数的思考」は、バビロニアやインドの数学を受け継いだアラビアで誕生し、インドからイスラーム世界を経由して中世ヨーロッパに伝わったのである。この結果、ヨーロッパでは、記号を用いる代数学が発展することになり、論証に代わって「計算」が数学の前面に押し出されることになる。やがて１７世紀となり、アラビア数学由来の代数学とギリシャ由来の理論幾何学が有機的に結合し、近代西欧数学が花開くことになるのである。
１７世紀のデカルトは、解析幾何学の創始者のようにみられているが、正確には、彼の業績は、記号代数学を用いて、古代ギリシャ以来の幾何学的な問題を統一的に解決するための「方法」を開発したことにあるようだ。
いずれにしても、デカルトの貢献が大きい解析幾何学によって、例えば定規とコンパスだけで作図できる図形は、二次方程式の根を求める問題に帰着してしまうことが分かる。逆に、ｘ，ｙに関するどんな一次または二次の方程式が与えられても、その根を求める作図が、定規とコンパスだけで必ずできることも確かめられる。
言い換えれば、解析幾何学と代数学とは連携しており、解析幾何学から梯子を登ればすぐに代数式に到達できるし、適当な代数式から梯子を下れば幾何学の世界に到達することができる。
また、二次元の直交座標上の点（ｘ，ｙ）をベクトルの要素（ｘ，ｙ）とみなせば、このベクトルに線形変換を表現する行列を作用させることによって、同じ二次元空間上の別の点（ｘ’，ｙ’）に移すことができることも分かる。三次元空間上の点（ｘ，ｙ，ｚ）についても、同様であることを容易に類推できる。
ところが、このような二次元や三次元ベクトルの知識をもって、抽象的なｎ次元ベクトル空間上のベクトルを類推しようとすると、もはや類推はできず、あまりにも大きな飛躍のために茫然となってしまう。
ｎ次元ベクトルの要素（ｘ1，ｘ2，．．．，ｘn）は、直交座標上の点の要素とは限らず、解析幾何学から梯子を登ってｎ次元ベクトルに到達することも叶わないためである。逆に、抽象的なｎ次元ベクトル空間から梯子を介して具体的な直交座標上の二次元や三次元ベクトルに下るような思考も無理である。
どうやらベクトルと言うと、頭が、幾何学的な座標点のイメージ（あるいは、「ベクトルとは、矢印で表示され、「大きさ」と「方向」をもつ量である」というイメージ）に束縛され過ぎていて、もっと自由に想像の対象を広げ、ベクトルの要素として「何でもあり」の境地に達するのが難しいようだ。上記の数学の歴史で何を言いたかったのか、その心を理解してもらえると思う。
ｎ次元ベクトルの要素を抽象的で無定義の対象とすることによって、線形代数は、方向をもった矢印のイメージに限定されず、無制限の応用分野を見出すことになったと言うべきである。
以下、線形代数の応用分野の一つとして、統計学の分野で知られる重回帰分析について言及しておこう。
結果のデータを変数ｙで代表させることにし、この結果データに影響を与える要因についてのデータを変数ｘで代表させることにする。ｙを従属変数（目的変数）、ｘを独立変数（説明変数）と呼んでいる。ここで、ｘのデータとｙのデータとの間には、その強い／弱いの程度はともかくとして相関関係があるものとみなされている。
独立変数ｘが複数個あってもよい。それがｎ個あるとして、ｘ1，ｘ2，．．．，ｘnのように識別する。すなわち、ｙの各データ値についてその結果に影響を与えるとみなされるｎ個のデータが対応するようなｎ次元データ表が用意される。
重回帰分析の主目的は、このデータ表のデータ間の関係性を表現するのに最適な線形式（重回帰式）を当てはめることである。この式を
ｙ＝ａ0＋ａ1ｘ1＋ａ2ｘ2＋．．．＋ａnｘn
とすると、定数項ａ0と回帰係数ａ1，ａ2，．．．，ａnとから成る未知数を求めることに帰着する。
従属変数ｙのデータ値とこの理論値との差を残差といい、ｅiで表す。最小２乗法の技法をｎ次元のデータに拡張して適用し、残差の平方（ｅi^2）をすべてのｙデータ値について合計した残差平方和を最小にするように、ａ0，ａ1，ａ2，．．．，ａnを求める。
途中の計算過程を省略するが、（ａ1，ａ2，．．．，ａn）をｎ次元ベクトルａの要素とすれば、
Ｓａ＝Ｍ
の式からａの各要素を計算することができる。Ｓは、行列であり、独立変数の偏差平方和・積和行列と呼ばれる。Ｍは、ベクトルの形式で表示されるが、独立変数と従属変数の偏差和行列と呼ばれる。
また、定数項ａ0は、ｙの平均値、ｘiの平均値および求められたａの値から計算される。
なお、統計学的には、従属変数ｙに関するデータが充分にサンプリングされたものかどうかという問題が生じる。また、重回帰式に取り入れた複数の独立変数の各々に意味があるかどうか、すなわち従属変数ｙの変動に十分寄与しているかどうかを検討することが必要となる。これら統計学上の問題については、詳細説明を省略する。
以上見たように、重回帰式の係数ベクトルａは、データ表がもつデータの特徴だけから決まる。そこに出てくるｎ次元ベクトル空間上のベクトルａは、もはや解析幾何学的な意味付けが不要となり、ただ線形代数のアルゴリズムに従って実行された計算の結果だけが意味をもつのである。
参考文献
森田真生著「数学する身体」（新潮文庫）
村田全など著「数学の思想」（ＮＨＫブックス）
長谷川勝也著「ホントにわかる多変量解析」（共立出版）
長岡亮介著「心に染みる線型代数のために」（数学セミナー２０１３年６月号）
紀元前五世紀頃の古代ギリシャにおいて、ユークリッドの「原論」と呼ばれる数学書が成立した。「原論」には、整数論に関する記述も含まれるが、その中心はユークリッド幾何学と呼ばれる幾何学である。
「原論」は、計算によって問題を解決することよりも、論証によって結果の正当性を保証するプロセスに重きを置く。「原論」で扱われる議論の正確なことは驚くばかりであり、その叙述形式は長らく学問的叙述の模範とされてきた。その影響力は大きく、有名なニュートンの「自然哲学の数学的原理」なども、この「原論」を手本にしたと言われている。
これほど偉大な「原論」ではあるが、今日我々が知るような代数学を含んでいない。すなわち、古代ギリシャ人は、記号を用いる代数を知らず、代数式を使った計算を行っていなかったのである。
「代数的思考」は、バビロニアやインドの数学を受け継いだアラビアで誕生し、インドからイスラーム世界を経由して中世ヨーロッパに伝わったのである。この結果、ヨーロッパでは、記号を用いる代数学が発展することになり、論証に代わって「計算」が数学の前面に押し出されることになる。やがて１７世紀となり、アラビア数学由来の代数学とギリシャ由来の理論幾何学が有機的に結合し、近代西欧数学が花開くことになるのである。
１７世紀のデカルトは、解析幾何学の創始者のようにみられているが、正確には、彼の業績は、記号代数学を用いて、古代ギリシャ以来の幾何学的な問題を統一的に解決するための「方法」を開発したことにあるようだ。
いずれにしても、デカルトの貢献が大きい解析幾何学によって、例えば定規とコンパスだけで作図できる図形は、二次方程式の根を求める問題に帰着してしまうことが分かる。逆に、ｘ，ｙに関するどんな一次または二次の方程式が与えられても、その根を求める作図が、定規とコンパスだけで必ずできることも確かめられる。
言い換えれば、解析幾何学と代数学とは連携しており、解析幾何学から梯子を登ればすぐに代数式に到達できるし、適当な代数式から梯子を下れば幾何学の世界に到達することができる。
また、二次元の直交座標上の点（ｘ，ｙ）をベクトルの要素（ｘ，ｙ）とみなせば、このベクトルに線形変換を表現する行列を作用させることによって、同じ二次元空間上の別の点（ｘ’，ｙ’）に移すことができることも分かる。三次元空間上の点（ｘ，ｙ，ｚ）についても、同様であることを容易に類推できる。
ところが、このような二次元や三次元ベクトルの知識をもって、抽象的なｎ次元ベクトル空間上のベクトルを類推しようとすると、もはや類推はできず、あまりにも大きな飛躍のために茫然となってしまう。
ｎ次元ベクトルの要素（ｘ1，ｘ2，．．．，ｘn）は、直交座標上の点の要素とは限らず、解析幾何学から梯子を登ってｎ次元ベクトルに到達することも叶わないためである。逆に、抽象的なｎ次元ベクトル空間から梯子を介して具体的な直交座標上の二次元や三次元ベクトルに下るような思考も無理である。
どうやらベクトルと言うと、頭が、幾何学的な座標点のイメージ（あるいは、「ベクトルとは、矢印で表示され、「大きさ」と「方向」をもつ量である」というイメージ）に束縛され過ぎていて、もっと自由に想像の対象を広げ、ベクトルの要素として「何でもあり」の境地に達するのが難しいようだ。上記の数学の歴史で何を言いたかったのか、その心を理解してもらえると思う。
ｎ次元ベクトルの要素を抽象的で無定義の対象とすることによって、線形代数は、方向をもった矢印のイメージに限定されず、無制限の応用分野を見出すことになったと言うべきである。
以下、線形代数の応用分野の一つとして、統計学の分野で知られる重回帰分析について言及しておこう。
結果のデータを変数ｙで代表させることにし、この結果データに影響を与える要因についてのデータを変数ｘで代表させることにする。ｙを従属変数（目的変数）、ｘを独立変数（説明変数）と呼んでいる。ここで、ｘのデータとｙのデータとの間には、その強い／弱いの程度はともかくとして相関関係があるものとみなされている。
独立変数ｘが複数個あってもよい。それがｎ個あるとして、ｘ1，ｘ2，．．．，ｘnのように識別する。すなわち、ｙの各データ値についてその結果に影響を与えるとみなされるｎ個のデータが対応するようなｎ次元データ表が用意される。
重回帰分析の主目的は、このデータ表のデータ間の関係性を表現するのに最適な線形式（重回帰式）を当てはめることである。この式を
ｙ＝ａ0＋ａ1ｘ1＋ａ2ｘ2＋．．．＋ａnｘn
とすると、定数項ａ0と回帰係数ａ1，ａ2，．．．，ａnとから成る未知数を求めることに帰着する。
従属変数ｙのデータ値とこの理論値との差を残差といい、ｅiで表す。最小２乗法の技法をｎ次元のデータに拡張して適用し、残差の平方（ｅi^2）をすべてのｙデータ値について合計した残差平方和を最小にするように、ａ0，ａ1，ａ2，．．．，ａnを求める。
途中の計算過程を省略するが、（ａ1，ａ2，．．．，ａn）をｎ次元ベクトルａの要素とすれば、
Ｓａ＝Ｍ
の式からａの各要素を計算することができる。Ｓは、行列であり、独立変数の偏差平方和・積和行列と呼ばれる。Ｍは、ベクトルの形式で表示されるが、独立変数と従属変数の偏差和行列と呼ばれる。
また、定数項ａ0は、ｙの平均値、ｘiの平均値および求められたａの値から計算される。
なお、統計学的には、従属変数ｙに関するデータが充分にサンプリングされたものかどうかという問題が生じる。また、重回帰式に取り入れた複数の独立変数の各々に意味があるかどうか、すなわち従属変数ｙの変動に十分寄与しているかどうかを検討することが必要となる。これら統計学上の問題については、詳細説明を省略する。
以上見たように、重回帰式の係数ベクトルａは、データ表がもつデータの特徴だけから決まる。そこに出てくるｎ次元ベクトル空間上のベクトルａは、もはや解析幾何学的な意味付けが不要となり、ただ線形代数のアルゴリズムに従って実行された計算の結果だけが意味をもつのである。
参考文献
森田真生著「数学する身体」（新潮文庫）
村田全など著「数学の思想」（ＮＨＫブックス）
長谷川勝也著「ホントにわかる多変量解析」（共立出版）
長岡亮介著「心に染みる線型代数のために」（数学セミナー２０１３年６月号）