(注1)　表12.6.1の群ごとの平均値を一般化すると次のようになります。 時期t₁〜t_(pi)は全ての群で同一でもかまいませんし、群ごとに異なっていてもかまいません。

時系列共分散分析ではデータy_ijに対して次のような時系列回帰モデルを当てはめて考えます。 これは重回帰モデルに相当し、直線を用いた時系列共分散分析では説明変数をひとつにして、x₁ = tにします。 2番目以降の説明変数に第2節の(注1)で説明した周期成分を入れてx₂ = cos(ω₁t)、x₃ = sin(ω₁t)、…、x_2m = cos(ω_mt)、x_2m+1 = sin(ω_mt)とすると、時間的なトレンドと周期変動を組み合わせた時系列回帰モデルになります。 そのような時系列回帰モデルは、例えば長期間に渡る血圧の変動をトレンドと日内変動に分離して分析する時などに用いることができます。

○群別時系列回帰モデル：群ごとに計算した時系列回帰式

：群別時系列回帰式による推定値 (i = 1,…,a、j = 1,…,p_i)
b_0i：A_i群の定数、群によって異なる (i = 1,…,a)
b_ki：A_i群の偏回帰係数、群によって異なる (k = 1,…,q、i = 1,…,a)
○共通時系列回帰モデル：各群の時系列回帰直線が平行と仮定して計算した時系列回帰式

：共通時系列回帰式による推定値 (i = 1,…,a、j = 1,…,p_i)
b_c0i：A_i群の定数、群によって異なる (i = 1,…,a) 　　b_ck：全群共通の偏回帰係数 (k = 1,…,q)
○全体時系列回帰モデル：全群を合わせて計算した時系列回帰式

：全体時系列回帰式による推定値 (j = 1,…,p_i)
b_T0：全体の定数　　b_Tk：全体の偏回帰係数 (k = 1,…,q)

以上の時系列回帰モデルに共分散分析の原理を適用します。 まず3通りの時系列回帰モデルによる推定値を用いてデータy_ijを3通りに分解し、その基本式に対応する平方和と自由度を求めると次のようになります。

群別時系列回帰：
全体時系列回帰：
共通時系列回帰：
○全体変動：(y_ij - m_T)
総例数： 　　平方和：
自由度：φ_T = N - 1
○群別回帰変動：
平方和：

　　 　　 　　
ｂ_i = [Ｘ_i'Ｘ_i]^-1Ｘ_i'ｙ_i
　　 　　

d_xjki = x_jk - m_x._ki 　　
自由度：
○共通回帰変動：
平方和：


　　
自由度：φ_bc = q
○全体回帰変動：
平方和：
　　 　　
　　
自由度：φ_bT = q
○群差変動：(m_i. - m_T)
平方和： 　　自由度：φ_A = a - 1
○修正群差変動：
平方和： 　　自由度：φ_AA = a - 1
○非平行性変動：
平方和： 　　自由度：
○残差変動：
平方和： 　　自由度：

表12.6.1のA群とB群の平均値について、x₁ = tだけを入れた時系列回帰式を用いて実際に計算してみましょう。

○A群の群別時系列回帰式
　　 　　
○B群の群別時系列回帰式
　　 　　
　　
S_T = 821533 - 48×129.74² ≒ 13579.9 　　φ_T = 48 - 1 = 47
b_c1 = 2300^-1×2232.58 ≒ 0.970688
S_bc = 0.970688×2232.58 ≒ 2167.14　　φ_bc = 1

S_1y = 2232.58　　S_bT = 0.970688×2232.58 ≒ 2167.14　　φ_bT = 1
S_A = 24×128.938² + 24×130.542² - 48×129.74² ≒ 30.8802 　　φ_A = 1
S_AA = 30.8802 + 2167.14 - 2167.14 = 30.8802 　　φ_AA = 1
S_D = 3312.3029 - 2167.14 ≒ 1145.16　　φ_D = 2 - 1 = 1
S_R = 13579.9 - 30.8802 - 2167.14 - 1145.16 ≒ 10236.8 　　φ_R = 48 - 2×(1 + 1) = 44

これらの統計量を用いて表12.9.1の時系列共分散分析表を作成することができます。

(注2)　二元配置型時系列共分散分析を適用する一般的データは第6節(注3)の表12.6.7と同じであり、基本式も同様に記述することができます。 この手法では説明変数に時期だけでなく他の項目も入れることにより、それらを共変数にした共分散分析を行うことができます。 例えば年齢などの背景因子を入れると、背景因子で補正して時期変動を群間比較することができます。

被験者と時期の二元配置：
群と時期の二元配置：
群別時系列回帰：
全体時系列回帰：
○全体変動：(y_ijl - m_T)
総例数： 　　平方和： 　　自由度：φ_T = Np - 1
○被験者変動：(m_i._l - m_T)
平方和： 　　自由度：φ_SUB = N - 1
○時期変動：(m._j. - m_T)
平方和： 　　自由度：φ_P = p - 1
○被験者×時期変動：{y_ijl - (m_i._l + m._j. - m_T)}
平方和：
自由度：φ_S×P = φ_T - φ_SUB - φ_P = φ_SUB×φ_P = (N - 1)(p - 1)
○群差変動：(m_i.. - m_T)
平方和： 　　自由度：φ_A = a - 1
○被験者残差変動：(m_i._l - m_i..)
平方和： 　　自由度：φ_SR = φ_SUB - φ_A = N - a
○群−時期変動：(m_ij. - m_T)
平方和： 　　自由度：φ_AP = ap - 1
○群×時期変動：{m_ij. - (m_i.. + m._j. - m_T)}
平方和：
自由度：φ_A×P = φ_AP - φ_A - φ_P = φ_A×φ_P = (a - 1)(p - 1)
○残差=被験者残差×時期変動：{y_ijl - (m_i._l + m_ij. - m_i..)}
平方和：
自由度：φ_R = φ_SR×P = φ_T - φ_SUB - φ_P - φ_A×P = φ_SR×φ_P = (N - a)(p - 1)
○群別回帰変動：
平方和：
自由度：
○群別時期変動：(m_ij. - m_i..)
平方和： 　　自由度：
○群別ズレの変動：
平方和：
自由度：
○全体時回帰変動＝共通回帰変動：
平方和：
　　 　　
　　
自由度：φ_bT = φ_bc = q
○非平行性変動：
平方和：
自由度：

表12.6.1のデータについて、x₁ = tだけを入れた時系列回帰式を用いて実際に計算してみましょう。

S_T = 2062810 - 120×129.9² ≒ 37930.8 　　φ_T = 120 - 1 = 119
S_SUB = 2025532 - 120×129.9² ≒ 652.883 　　φ_SUB = 5 - 1 = 4
S_P = 5×409340 - 120×129.9² ≒ 21821.2 　　φ_P = 24 - 1 = 23
S_S×P = 37930.8 - 652.883 - 21821.2 = 15456.72 　　φ_S×P = 4×(24 - 1) = 92
S_A = 2024953 - 120×129.9² ≒ 74.1125 　　φ_A = 2 - 1 = 1
S_SR = 652.883 - 74.1125 = 578.771　　φ_SR = 5 - 2 = 3
S_AP = 2054392 - 120×129.9² ≒ 29512.6 　　φ_AP = 2×24 - 1 = 47
S_A×P = 29512.6 - 74.1125 - 21821.2 = 7617.287 　　φ_A×P = (2 - 1)×(24 - 1) = 23
S_R=S_SR×P = 37930.8-652.883 - 21821.2 - 7617.287 = 7839.4
φ_R=φ_SR×P = (5 - 2)×(24 - 1) = 69
○A群の群別時系列回帰式
　　 　　
○B群の群別時系列回帰式
　　 　　
　　
　　
　　

S_1yT = 4770　　S_bT = 0.829565×4770 ≒ 3957.03　　φ_bT = 1
S_D = 6705.4 - 3957.03 = 2748.37 　　φ_D = 1×(2 - 1) = 1

これらの統計量を用いて表12.9.2の周期共分散分析表を作成することができます。

(注3)　一元配置型時系列共分散分析の一般的データは、表12.9.5において各群の被験者が測定時期ごとに独立したものになります。 そのため群ごとに時期t₁〜t_pが必ずしも同一ではなく、被験者数n_iも測定時期ごとに必ずしも同一ではなくなります。 したがって単純な時系列共分散分析と同様に、全体回帰変動と共通回帰変動が同一になるとは限らず、群差と修正群差も同一になるとは限りません。 この手法ではデータを次のように分解し、その基本式に対する平方和と自由度を求めます。

時期の一元配置：(y_ijl - m_T) = (m_ij. - m_T) + (y_ijl - m_ij.)
群別時系列回帰：
全体時系列回帰：
共通時系列回帰：
○全体変動：(y_ijl - m_T)
総例数： 　　平方和：
自由度：φ_T = N - 1
○時期変動：(m_ij. - m_T)
平方和：
自由度：φ_P = P - 1 　　
○残差変動：(y_ijl - m_ij.)
平方和： 　　自由度：φ_R = φ_T - φ_P = N - P
○群差変動：(m_i.. - m_T)
平方和： 　　自由度：φ_A = a - 1
○群別時系列回帰変動：
平方和：
　　 　　 　　
ｂ_i = [Ｘ_i'Ｘ_i]^-1Ｘ_i'ｙ_i
　　 　　
d_xjki = n_ij(x_jk-m_x._ki) 　　
　　自由度：
○群別ズレの変動：
平方和：
自由度：
○全体回帰変動：
平方和：
　　 　　
　　自由度：φ_bT = q
○共通回帰変動：
平方和：


　　自由度：φ_bc = q
○修正群差変動：
平方和： 　　自由度：φ_AA = a - 1
○非平行性変動：
平方和：
自由度：

表12.6.1のデータについてx₁ = tだけを入れた時系列回帰式を用いて実際に計算すると、群別時系列化回帰式と共通時系列回帰式は(注2)と同じ値になり、群差と修正群差の平方和と自由度は(注2)の群差の平方和と自由度と同じ値になり、共通回帰と全体回帰の平方和と自由度は(注2)の全体回帰の平方和と自由度と同じ値になり、非平行性とズレ合計と全体の平方和と自由度は(注2)と同じ値になります。 これは表12.6.1のデータが同じ被験者について繰り返し測定したものであり、時期ごとの例数が揃っているからです。

時期と残差の平方和と自由度は次のような値になり、これは一元配置分散分析独自の値です。 これらの統計量と(注2)の統計量を用いて、表12.9.3の周期共分散分析表を作成することができます。

(注4)　線形混合効果モデル(linear mixed effects model)は固定効果(fixed effect)だけから構成された通常の線形モデルに変量効果(random effect)を追加したものであり、次のように記述されます。

線形混合効果モデル：

データベクトル： 　　誤差ベクトル：
固定効果のデザイン行列：
変量効果のデザイン行列：
固定効果の偏回帰係数ベクトル： 　　変量効果の偏回帰係数ベクトル：
　　
　　
　　
　　 　　
※一般にＧとＲの各成分は不等分散かつ互いに独立ではない。 しかし通常は次のように等分散かつ互いに独立という仮定を置くことが多い。
　　
※Ｚ=０の時、線形混合効果モデルは通常の線形モデル――分散分析や共分散分析や重回帰分析で用いられるモデル――になる。

このモデルに最尤法を適用してβとγの最良線形普遍推定量(BLUE解)を求めると、次のようになります。 (→7.1 重回帰モデル (注1)、9.3 1変量の場合 (注1))

γの密度関数：
εの密度関数：
βとγの尤度関数：
※最尤法：ℒ(β,γ)の最大化 = exp()の中身を(-2)倍したものの最小化 ← 最小2乗法の原理

※Qをβとγで偏微分して０と置くと
→ … (1)
→ … (2)
※(1)と(2)の連立方程式を行列で表したものを線形混合効果モデル方程式と呼び、最小2乗法における正規方程式に対応するものになる。
線形混合効果モデル方程式：
(2)より
※ここで

∴
※ にWoodburdyの恒等式を適用 (→「ベクトルと行列」7. 逆行列)
※ｇを(1)に代入すると



∴

ｂは∑^-1を重みとした重み付け最小2乗法のBLUE解に相当します。 そのため∑つまりＧとＲが決まればデータから求められることがわかると思います。 そしてＧとＲは次の尤度関数に最尤法を適用することによって求めます。

より
尤度関数：
対数尤度関数：

この対数尤度関数の値を最大にする時のＧとＲが最尤解になります。 しかしｂに∑^-1つまりＧとＲが含まれているので、このままでは最尤解をうまく求められません。 そこで色々と工夫してｂとＧとＲを分離し、色々な制約条件を付けた繰り返し計算によって近似解を求めます。 しかしその制約条件はどうしても作為的になり、現実には有り得ないような条件になりがちです。

そのためどうせ現実には有り得ない作為的な条件が必要なら「Ｚ=０かつＲは等分散で互いに独立」という通常の線形モデルと同じ簡単な条件の方が便利です。 したがって線形混合効果モデルは理論的には厳密であるものの、あまり実用的ではなく、従来の線形モデルつまり分散分析や共分散分析や重回帰分析を用いた方が実際的ということになります。

繰り返し測定混合効果モデル(MMRM：Mixed effect Models for Repeated Measures)は表12.9.4の群を被験者にした繰り返し測定データに線形混合モデルを適用したものであり、次のように記述されます。

線形混合効果モデル：
被験者：i = 1,…,n　　時期：j = 1,…,p_i
　　
　　 　　 　　
　　
　　
　　 　　
　　
　　
　　

この場合のγ_iは被験者iの個体差ベクトルであり、全体からの偏差ベクトルになります。 線形混合効果モデルを利用した分散分析ではデータの時期変動を直線で近似し、全体と被験者ごとに回帰直線を当てはめるのが普通です。 そして全体に当てはめた回帰直線を固定効果にし、その回帰直線の回帰係数(定数も含む)と被験者ごとの回帰直線の回帰係数の偏差を変量効果にすると、この時のモデルは次のようになります。

線形混合効果モデル：
β₀：全体の回帰直線の定数(固定効果) 　　β₁：全体の回帰直線の回帰係数(固定効果)
β_i0 = β₀ + γ_i0：被験者iの回帰直線の定数 　　β_i1 = β₁ + γ_i1：被験者iの回帰直線の回帰係数
γ_i0、γ_i1：被験者iの回帰直線の変量効果
　　 　　

これは「被験者ごとの回帰直線が全て異なる」という仮定で組み立てたモデルであり、単純な時系列共分散分析と同様の分析をすることができます。 その場合、固定効果であるβが共通回帰に相当し、変量効果であるγが回帰係数の個人差つまり非平行性に相当します。

また回帰直線の定数項だけを用いる、つまり全体の定数項と被験者ごとの定数項の偏差を個体差として、それを変量効果にする時もあります。 そのモデルは次のようになり、時系列共分散分析において被験者ごとの回帰直線が平行な時に相当します。

線形混合効果モデル：
β₀：全体の回帰直線の定数(固定効果) 　　β_i0 = β₀ + γ_i0：被験者iの回帰直線の定数 　　γ_i0：被験者iの回帰直線の変量効果

これらのモデルに固定効果として群と時期を追加すると、一元配置型時系列共分散分析に相当する手法になります。 さらに被験者ごとの時期1〜pが全て等しく、固定効果に被験者を追加すると、二元配置型時系列共分散分析に相当する手法になります。 また固定効果も変量効果も定数項だけを用いるモデルで、被験者ごとの時期1〜pが全て等しく、固定効果に被験者と時期と交互作用を追加すると、繰り返し測定型二元配置分散分析に相当する手法になります。 (→4.3 繰り返しのある多標本・多時期の計量値　(5) 繰り返し測定データの評価方法)

このように線形混合効果モデルは、色々な統計手法で用いられる数学モデルを一般化したものです。 そのため線形混合モデル用のソフトウェアを作成しておくと、そのソフトウェアを利用して色々な統計手法を行うことができます。 そこで既存の統計ソフトは線形混合効果モデルをサポートし、まるで万能ツールのように宣伝しています。 そのせいか医学論文などでも、往々にして「統計手法として線形混合効果モデルを用いた」と記述してしまうことがあるようです。

しかし上記の説明からわかるように線形混合効果モデルは数学モデルの名称であり、統計手法の名称ではありません。 線形混合効果モデル用のソフトウェアを用いた時は具体的なモデルを記述する必要がありますし、それが従来の統計手法に相当する時はモデル名ではなく統計手法の名称を記述するべきです。

また線形混合効果モデルは、普通は最尤法を用いて繰り返し計算による近似計算によって結果を求めます。 そのため従来の統計手法に相当する時は従来の統計手法よりも結果の信頼性が低くなり、しかもその手法独自の有用な情報を出力することができません。 したがってそのような時はその手法専用のソフトウェアを用いるのが賢明です。 「何でもできる万能ツール」というものは、えてして「中途半端で何にも使えない器用貧乏ツール」になってしまうものです。