線形変換をもっと一般化した一般座標変換ではベクトルxをベクトルyに変換する式を行列で表すことはできず、一般の関数形式でしか表せなくなります。 このような一般座標変換は、基本的な直交座標上のベクトルxを一般的な座標系から見たベクトルyに変換します。
一般的な座標系では座標軸が直交しているとは限らず、しかも空間も平らとは限りません。 座標軸が直交せず空間が歪んでいる座標系とは、例えばゴムでできた平らな板の上に方眼紙のように格子模様を書き、それを手でグッと歪めたようなものを想像してください。 この時、座標上の位置によって格子の角度も大きさも変化します。 この歪んだ座標系から元の直交座標上のベクトルxを見ると、座標系の歪みに合わせて大きさも方向も歪んだベクトルyに見えます。 これが一般座標変換です。
一般関数y=f(x)のx=xにおける非常に微小な変化をΔxとすると、それに対応するyの微小変化Δyは、その部分の関数を近似的に直線と考え、xにおける接線の傾き、つまり微分係数df/dxを用いて次のように近似できます。
これと同様にして一般座標系でも、非常に微小な領域なら近似的に平らな平面座標系として扱うことができます。 基本的な直交座標系で、ベクトルxの微小な変化をΔxとすると、それに対応する一般座標系でのベクトルyの微小な変化Δyは、その領域を平らな平面座標で近似してしまい、その部分に接する接平面の基底zを用いて次のように線形変換することができます。
一般座標変換によって構成された空間は、線形なベクトル空間ではなく曲がった空間になります。 それは三平方の定理が成り立たない非ユークリッド幾何学の世界に対応します。
非ユークリッド空間において、空間に沿った微小な距離Δsの平方が次のような2次形式(quadratic form、変数の2次の項から構成される式)で与えられ、しかもその係数行列Gの成分gijが座標の関数fij(x)として与えられている時、このような空間をリーマン空間(Riemann space)といいます。
Δsは線素とも呼ばれ、線素を求めることを空間の計量、その時の係数行列Gを計量行列といいます。 平らなユークリッド空間では、次のように計量行列Gは単位行列Inになります。
リーマン空間においても、微小領域では近似的に平らなユークリッド空間と考えることができるので、微小距離Δsは一般座標変換の前後で不変な値になります。 基本的な直交座標系における微小距離Δsを、
Zが正規直交行列ではない時つまりアフィン変換行列の時、Gyは単位行列にはなりません。 例えば前節でアフィン変換の例として説明した、一方の座標軸がθだけ回転した斜交変換の場合は次のようになります。 (説明の都合上、変換行列と逆変換行列の表記が前章までと反対になっているので注意!)
ZはΔxをΔyに変換する行列なので、その逆行列Z-1はΔyをΔxに逆変換する行列になります。 したがって一般座標変換における微小領域の近似線形変換では、Gyは次のようになります。
一般にベクトルxをベクトルyに対応させる関数y=T(x)が次のような双線形性を持っている時、Tのことをテンソル(tensor)といいます。
行列はベクトルに対して双線形性を持っているのでテンソルになります。 数学的には共通の因子を持つ数字を縦か横に並べてその間に線形演算を定義したものがベクトルですが、物理学分野では大きさと方向を持った実在する力のようなものをベクトルと呼ぶ習慣があります。 それと同様に、数学的にはベクトルを縦か横に並べてその間に線形演算を定義したものが行列ですが、物理学分野ではベクトルとベクトルを対応させる行列で、物理的な意味を持つものをテンソルと呼ぶ習慣があります。 計量行列Gは空間の計量という物理的な意味を持っているため計量テンソルとも呼ばれます。
一般に、座標変換Zに関してテンソルTはZ'TZと変換されるので、反対に「座標変換Zに関してZ'TZと変換されるT」をテンソルと定義することもできます。 この定義は数学的には双線形性の定義と同義になりますが、物理学的な意味合いが強いので物理学者に好まれています。
時空を4次元(3次元の空間+1次元の時間)のリーマン空間と考え、その空間上で物理法則をテンソルを用いて表現した時、一般的な座標変換に関して物理法則の形式は変わらないという原理を一般相対性原理といいます。 この一般相対性原理に基づいて、重力場の方程式をテンソルで記述したものが一般相対性理論です。 一般相対性理論はリーマン空間とテンソルの一般座標変換に関する性質を研究する理論です。