线性差分方程及其通解的一般求法

本文介绍了线性差分方程的通解，从特征方程以及延迟算子两个方面介绍了相关概念。并且以AR(2)模型为例，详细介绍了2元线性差分方程的通解情况，另外有若干例题。最后还给出了此类问题矩阵形式，但才疏学浅未能求解。如果有大神路过，知道如何求解还请指点一二。

一、定义

1、线性齐次递推关系

一个常系数的k阶线性齐次递推关系是形如：
$$a_n=c_1{a}_{n-1}+c_2{a}_{n-2}+\cdots +c_k{a}_{n-k}(n>k)$$
的递推关系，其中$c_i,i=1,2,\cdots ,k$为常数，$c_k\ne 0$， { a n } n = 1 ∞ \{a_n\}_{n=1}^{\infty} {an​}n=1∞​是一个序列。

2、延迟算子

延迟算子$B$，作用于一个序列$a_n$，效果为序列的序数减一：
$$B{a}_n=a_{n-1}$$ 延迟算子可以和实数复合，成为新的算子，例如差分算子：

$$\nabla =1-B$$

效果为： $$\nabla a_n=a_n-a_{n-1}$$
延迟算子还有以下一些性质：
交换律

$$C_1(B)[C_2(B)a_n]=C_2(B)[C_1(B)a_n]$$

结合律
$$C_1(B)[C_2(B)a_n]=[C_1(B)C_2(B)]a_n$$

分配律
$$[C_1(B)+C_2(B)]a_n=C_1(B)a_n+C_2(B)a_n$$
也就是说，延迟算子的多项式$C(B)$也是有意义的。（这里说不清楚，总之把算子理解为一个代数式就可以了）

3、线性齐次差分方程

如果定义了延迟算子$B$，那么上述的线性递推关系也可以写成一个k阶线性齐次差分方程： $$\left(1-c_{1}B-c_2{B}^2-\cdots -c_k{B}^k\right)a_n=0$$ 其中$B$为延迟算子，$c_i,i=1,2,\cdots ,k$是实数，$c_k\ne 0$， { a n } n = 1 ∞ \{a_n\}_{n=1}^{\infty} {an​}n=1∞​是一个序列。

4、特征方程与特征根

如果$a_n=r^n(r\ne 0)$是（1）式的一个解，那么就有：
$$r^n=c_1{r}^{n-1}+c_2{r}^{n-2}+\cdots +c_k{r}^{n-k}$$ 等价变换为特征方程：
$$r^k-c_1{r}^{k-1}-c_2{r}^{k-2}-\cdots -c_{k-1}r-c_k=0$$
因此，$a_n=r^n(r\ne 0)$是（1）式的一个解，当且仅当$r$是上述特征方程的一根，特征方程的根称为特征根。

而在延迟算子的定义中，这样的特征方程更为明显。根据特征算子的性质，若$\frac{1}{r}$是$C(B)=0$的一个根，则有$$C(B)a_n=(1-rB)C^{\prime }(B)a_n=0$$也就是说，$$(1-rB)a_n=0$$的根$a_n=r^n(r\ne 0)$是$C(B)a_n=0$的一个特解。而根据代数基本定理，算子多项式可以做以下因式分解： $$\begin{array}{rl}C(B)a_n=& \left(1-c_{1}B-c_2{B}^2-\cdots -c_k{B}^k\right)a_n\\ & =(1-r_{1}B)(1-r_{2}B)\cdots (1-r_{k}B)a_n\\ & =0\end{array}$$
其实这里的$r_i$就和特征方程中的根等价了，也和$C(B)=0$的根一一对应成倒数关系。

二、定理

定理1

如果特征方程有k个不相等的根（复数域上）$r_i,i=1,2,\cdots ,k$。那么递推关系的通解为：
$$a_n={\alpha }_1{r}_1^n+{\alpha }_2{r}_2^n+\cdots +{\alpha }_k{r}_k^n$$
其中${\alpha }_i,i=1,2,\cdots ,k$为复数域上的常数。定理1的证明通过以上延迟算子分解的过程很容易得出。

定理2

如果特征方程有t个不相等的根（复数域上）$r_i,i=1,2,\cdots ,t$，其代数重数分别为$m_1,m_2,\cdots ,m_t$，满足$m_i\ge 1,i=1,2,\cdots ,t$，且${\sum }_{i=1}^t{m}_i=k$。那么递推关系的通解为：

$$\begin{array}{rl}{a}_n=& \left(a_{1,0}+a_{1,1}n+\cdots +a_{1,m_1-1}{n}^{m_1-1}\right)r_1^n\\ & +\left(a_{2,0}+a_{2,1}n+\cdots +a_{2,m_2-1}{n}^{m_2-1}\right)r_2^n\\ & +\cdots +\left(a_{t,0}+a_{t,1}n+\cdots +a_{t,m_t-1}{n}^{m_t-1}\right)r_t^n\end{array}$$
其中$a_{i,j}$是复数域上的常数，$1\le i\le t$ 且 $0\le j\le m_i-1$。

三、二元线性递推关系

以AR(2)时间序列模型的自相关函数为例

这里的AR(2)模型即是时间序列分析中的2阶自回归模型，博主的线性差分方程知识也都是在这门课上学的。这些d

AR(2)模型：$Y_t={\varphi }_1{Y}_{t-1}+{\varphi }_2{Y}_{t-2}+e_t$的自相关函数${\rho }_k$满足如下的线性递推关系
$$\begin{array}{rl}{\rho }_0& =1\\ {\rho }_1& =\frac{{\varphi }_1}{1-{\varphi }_2}\\ {\rho }_k& ={\varphi }_1{\rho }_{k-1}+{\varphi }_2{\rho }_{k-2},k\ge 2\end{array}$$
其特征方程为： $${\lambda }^2-{\varphi }_1\lambda -{\varphi }_2\lambda =0$$ 两根为
$${\lambda }_{1,2}=\frac{{\varphi }_1\pm \sqrt{{\varphi }_1^2+4{\varphi }_2}}{2}$$

1、两个特征根相等

也即${\varphi }_1^2+4{\varphi }_2=0$，则有${\lambda }_1={\lambda }_2=\frac{{\varphi }_1}{2}$
这种情况下根据定理有： $${\rho }_k=(a_1+a_{2}k)(\frac{{\varphi }_1}{2}{)}^k$$
带入初始条件 $$\{\begin{array}{l}{\rho }_0=1\\ {\rho }_1=\frac{{\varphi }_1}{1-{\varphi }_2}\end{array}$$ 解出： $$\{\begin{array}{l}{a}_1=1\\ a_2=\frac{1+{\varphi }_2}{1-{\varphi }_2}\end{array}$$ 于是此时的自相关函数为：
$${\rho }_k=(1+\frac{1+{\varphi }_2}{1-{\varphi }_2}k)(\frac{{\varphi }_1}{2}{)}^k$$

2、两个特征根不相等，且都为实数根

也即${\varphi }_1^2+4{\varphi }_2>0$，则由定理可知： $${\rho }_k=a_1{\lambda }_1^k+a_2{\lambda }_2^k$$ 带入初始条件
$$\{\begin{array}{l}{\rho }_0=1\\ {\rho }_1=\frac{{\varphi }_1}{1-{\varphi }_2}\end{array}$$ 解出： $$\{\begin{array}{l}{a}_1=\frac{\frac{{\varphi }_1}{1-{\varphi }_2}-{\lambda }_2}{{\lambda }_1-{\lambda }_2}\\ a_2=\frac{{\lambda }_1-\frac{{\varphi }_1}{1-{\varphi }_2}}{{\lambda }_1-{\lambda }_2}\end{array}$$ 其中有 $$\{\begin{array}{l}{\lambda }_1+{\lambda }_2={\varphi }_1\\ {\lambda }_1{\lambda }_2=-{\varphi }_2\end{array}\Rightarrow \frac{{\varphi }_1}{1-{\varphi }_2}=\frac{{\lambda }_1+{\lambda }_2}{1+{\lambda }_1{\lambda }_2}$$
于是此时的自相关函数为： $$\begin{array}{rl}{\rho }_k& =\frac{\frac{{\varphi }_1}{1-{\varphi }_2}-{\lambda }_2}{{\lambda }_1-{\lambda }_2}{\lambda }_1^k+\frac{{\lambda }_1-\frac{{\varphi }_1}{1-{\varphi }_2}}{{\lambda }_1-{\lambda }_2}{\lambda }_2^k\\ & =\frac{\frac{{\lambda }_1+{\lambda }_2}{1+{\lambda }_1{\lambda }_2}-{\lambda }_2}{{\lambda }_1-{\lambda }_2}{\lambda }_1^k+\frac{{\lambda }_1-\frac{{\lambda }_1+{\lambda }_2}{1+{\lambda }_1{\lambda }_2}}{{\lambda }_1-{\lambda }_2}{\lambda }_2^k\\ & =\frac{(1-{\lambda }_2^2){\lambda }_1^{k+1}-(1-{\lambda }_1^2){\lambda }_2^{k+1}}{({\lambda }_1-{\lambda }_2)(1+{\lambda }_1{\lambda }_2)}\end{array}$$

3、两个特征根不相等，且都为复数根

也即${\varphi }_1^2+4{\varphi }_2<0$，则有：
$$\begin{array}{rl}{\lambda }_{1,2}& =\frac{{\varphi }_1\pm \sqrt{-{\varphi }_1^2-4{\varphi }_2}i}{2}\\ & =\sqrt{-{\varphi }_2}\left(\frac{{\varphi }_1}{2\sqrt{-{\varphi }_2}}\pm \frac{\sqrt{-{\varphi }_1^2-4{\varphi }_2}}{2\sqrt{-{\varphi }_2}}i\right)\\ & =R(\cos \theta +i\sin (\pm \theta ))\\ & =R{e}^{\pm i\theta }\end{array}$$
其中$R=\sqrt{-{\varphi }_2},\cos \theta =\frac{{\varphi }_1}{2\sqrt{-{\varphi }_2}}$
这种情况下根据定理有： $${\rho }_k=a_1{\lambda }_1^k+a_2{\lambda }_2^k$$
并且由于自相关函数全部为实数，且${\lambda }_1=\overline{{\lambda }_2}$为共轭复数。所以$a_1=\overline{a_2}$也必须为共轭复数，只有这样$\rho =a_1{\lambda }_1^k+\overline{a_1}{\overline{{\lambda }_1}}^k=\overline{a_1}{\overline{{\lambda }_1}}^k+a_1{\lambda }_1^k=\bar{\rho }$才能为实数。
不妨设 $$\{\begin{array}{l}{a}_1=a-bi\\ a_2=a+bi\end{array}$$

则： $$\begin{array}{rl}{\rho }_k& =a_1{\lambda }_1^k+a_2{\lambda }_2^k\\ & =(a-bi)R^k(\cos k\theta +i\sin k\theta )+(a+bi)R^k(\cos k\theta -i\sin k\theta )\\ & =2R^k(a\cos k\theta +b\sin k\theta )\\ & =2R^k\sqrt{a^2+b^2}\sin (k\theta +\Phi )\end{array}$$

带入初始条件：
$$\{\begin{array}{l}{\rho }_0=1\\ {\rho }_1=\frac{{\varphi }_1}{1-{\varphi }_2}\end{array}$$

解出： $$\{\begin{array}{l}a=\frac{1}{2}\\ b=-\frac{{\varphi }_1(1+{\varphi }_2)}{2(1-{\varphi }_2)\sqrt{-{\varphi }_1^2-4{\varphi }_2}}\end{array}$$ 于是此时的自相关函数为：
$${\rho }_k=\frac{R^k\sin (k\theta +\Phi )}{\sin \Phi }$$ 其中

$$\begin{array}{rl}& R=\sqrt{-{\varphi }_2}\\ & \cos \theta =\frac{{\varphi }_1}{2R}\\ & \tan \Phi =\frac{a}{b}=\frac{1-{\varphi }_2}{1+{\varphi }_2}\tan \theta \end{array}$$

四、例题

1、无重根（斐波拉契数列）

斐波拉契数列：$0,1,1,2,3,5,8,\cdots$ $$\begin{array}{rl}& f_{n+2}=f_n+f_{n+1},\\ & When{f}_0=0,f_1=1\end{array}$$ 求通项：

特征方程为$x^2-x-1=0$，特征根为$\frac{1\pm \sqrt{5}}{2}$。

于是$f_n$的通解为：
$$f_n=a{\left(\frac{1+\sqrt{5}}{2}\right)}^n+b{\left(\frac{1-\sqrt{5}}{2}\right)}^n$$
其中$a,b$ 由方程组： $$\{\begin{array}{l}{f}_1=a\left(\frac{1+\sqrt{5}}{2}\right)+b\left(\frac{1-\sqrt{5}}{2}\right)=1\\ f_0=a+b=0\end{array}$$ 解出，得到： $$\{\begin{array}{l}a=\frac{1}{\sqrt{5}}\\ b=-\frac{1}{\sqrt{5}}\end{array}$$

于是：
$$f_n=\frac{1}{\sqrt{5}}{\left(\frac{1+\sqrt{5}}{2}\right)}^n-\frac{1}{\sqrt{5}}{\left(\frac{1-\sqrt{5}}{2}\right)}^n$$

2、有虚根

考虑另外一个数列：$0,1,-1,-2,-1,1,2,1,-1,-2,\cdots$ $$\begin{array}{rl}& a_{n+2}=a_{n+1}-a_n\\ & When{a}_0=0,a_1=1\end{array}$$ 可以观察到这是一个周期数列
$$a_n=\{\begin{array}{ll}0& \text{if n=0}\\ 1& \text{if n=1+6k},k\in N\\ -1& \text{if n=2+6k},k\in N\\ -2& \text{if n=3+6k},k\in N\\ -1& \text{if n=4+6k},k\in N\\ 1& \text{if n=5+6k},k\in N\\ 2& \text{if n=6+6k},k\in N\end{array}$$ 用上述理论解之：
特征方程$x^2-x+1=0$,特征根为$\frac{1\pm \sqrt{3}i}{2}$。
写为三角形式为$\cos \frac{\pi }{3}+i\sin \frac{\pi }{3}$和$\cos \frac{5\pi }{3}+i\sin \frac{5\pi }{3}$。
则$a_n$ 的通解为： $$\begin{array}{rl}{a}_n& =\alpha {\left(\cos \frac{\pi }{3}+i\sin \frac{\pi }{3}\right)}^n+\beta {\left(\cos \frac{5\pi }{3}+i\sin \frac{5\pi }{3}\right)}^n\\ & =\alpha \left(\cos \frac{n\pi }{3}+i\sin \frac{n\pi }{3}\right)+\beta \left(\cos \frac{5n\pi }{3}+i\sin \frac{5n\pi }{3}\right)\\ & =(\alpha +\beta )\cos \frac{n\pi }{3}+(\alpha -\beta )i\sin \frac{n\pi }{3}\end{array}$$
其中$\alpha ,\beta$由方程组： $$\{\begin{array}{ll}& a_1=1\\ & a_2=-1\end{array}$$ 解出$\alpha =\beta =1$。 确定，于是：
$$a_n=2\cos \frac{n\pi }{3},n\in N^{\ast }$$

3、有重根

考虑数列：$0,1,4,12,32,80\cdots$ $$\begin{array}{rl}& a_{n+2}=4a_{n+1}-4a_n\\ & When{a}_0=0,a_1=1\end{array}$$ 求通项：
特征方程为：$x^2-4x+4=0$，特征根为$x_1=x_2=2$为重根。 于是通解为：
$$a_n=\left(\alpha +\beta n\right)2^n$$
验证得到$\alpha =0,\beta =\frac{1}{2}$： $$a_n=n\times 2^{n-1}$$

五、线性代数解法（猜想，具体能不能做出来我也不知道）

1、定义

这类问题也可以写成如下的矩阵形式： $$M{A}_{n-1}=A_n$$ 其中有： $$M=\left[\begin{array}{ccccc}{c}_1& c_2& \cdots & c_{k-1}& c_k\\ 1& 0& \cdots & 0& 0\\ 0& 1& \cdots & 0& 0\\ ⋮& ⋮& & ⋮& ⋮\\ 0& 0& \cdots & 1& 0\end{array}\right]$$ $$A_n=\left[\begin{array}{c}{a}_n\\ a_{n-1}\\ ⋮\\ a_{n-k}\end{array}\right]$$
这个矩阵是一个Frobenius矩阵：
（图源网络，侵删）

那么问题就变成了求矩阵幂次。并且矩阵$M$是由一个单位阵加了一行一列组成，或许它的幂次较为容易求得。并且我们实际上只需要$M^n$的第一行元素即可知道最终$a_n$的通项。
例如斐波拉契数列的例子中: $$\left[\begin{array}{cc}1& 1\\ 1& 0\end{array}\right]\left[\begin{array}{c}{a}_{n-1}\\ a_{n-2}\end{array}\right]=\left[\begin{array}{c}{a}_n\\ a_{n-1}\end{array}\right]$$
做相似对角化: $$M=\left[\begin{array}{cc}1& 1\\ 1& 0\end{array}\right]=\left[\begin{array}{cc}\frac{1-\sqrt{5}}{2}& \frac{1+\sqrt{5}}{2}\\ 1& 1\end{array}\right]\left[\begin{array}{cc}\frac{1-\sqrt{5}}{2}& 0\\ 0& \frac{1+\sqrt{5}}{2}\end{array}\right]{\left[\begin{array}{cc}\frac{1-\sqrt{5}}{2}& \frac{1+\sqrt{5}}{2}\\ 1& 1\end{array}\right]}^{-1}$$ 有： $$A_n=M^n{A}_0$$ 也就是： $$\begin{array}{rl}\left[\begin{array}{c}{a}_n\\ a_{n-1}\end{array}\right]=& M^n\left[\begin{array}{c}{a}_0\\ a_1\end{array}\right]\\ =& \left[\begin{array}{cc}\frac{1-\sqrt{5}}{2}& \frac{1+\sqrt{5}}{2}\\ 1& 1\end{array}\right]{\left[\begin{array}{cc}\frac{1-\sqrt{5}}{2}& 0\\ 0& \frac{1+\sqrt{5}}{2}\end{array}\right]}^n{\left[\begin{array}{cc}\frac{1-\sqrt{5}}{2}& \frac{1+\sqrt{5}}{2}\\ 1& 1\end{array}\right]}^{-1}\left[\begin{array}{c}0\\ 1\end{array}\right]\\ =& \left[\begin{array}{cc}\frac{1-\sqrt{5}}{2}& \frac{1+\sqrt{5}}{2}\\ 1& 1\end{array}\right]\left[\begin{array}{cc}{\left(\frac{1-\sqrt{5}}{2}\right)}^n& 0\\ 0& {\left(\frac{1+\sqrt{5}}{2}\right)}^n\end{array}\right]\left[\begin{array}{cc}-\frac{\sqrt{5}}{5}& \frac{5+\sqrt{5}}{10}\\ \frac{\sqrt{5}}{5}& \frac{5-\sqrt{5}}{10}\end{array}\right]\left[\begin{array}{c}0\\ 1\end{array}\right]\\ =& \left[\begin{array}{cc}{\left(\frac{1-\sqrt{5}}{2}\right)}^{n+1}& {\left(\frac{1+\sqrt{5}}{2}\right)}^{n+1}\\ {\left(\frac{1-\sqrt{5}}{2}\right)}^n& {\left(\frac{1+\sqrt{5}}{2}\right)}^n\end{array}\right]\left[\begin{array}{c}\frac{5+\sqrt{5}}{10}\\ \frac{5-\sqrt{5}}{10}\end{array}\right]\end{array}$$ 则： $$\begin{array}{rl}{a}_n=& \frac{5+\sqrt{5}}{10}{\left(\frac{1-\sqrt{5}}{2}\right)}^{n+1}+\frac{5-\sqrt{5}}{10}{\left(\frac{1+\sqrt{5}}{2}\right)}^{n+1}\\ =& \frac{-\sqrt{5}}{5}{\left(\frac{1-\sqrt{5}}{2}\right)}^n+\frac{\sqrt{5}}{5}{\left(\frac{1+\sqrt{5}}{2}\right)}^n\\ =& \frac{1}{\sqrt{5}}{\left(\frac{1+\sqrt{5}}{2}\right)}^n-\frac{1}{\sqrt{5}}{\left(\frac{1-\sqrt{5}}{2}\right)}^n\end{array}$$

2、特征值

此外，不难发现，$M$的特征值和前述特征方程的根一一对应。

想要求$M$的特征值，先求$M$的特征多项式： $$C(r)=det(M-rE)=0$$ 也就是：
$$\begin{array}{rl}C(r)& =det(\left[\begin{array}{ccccc}{c}_1& c_2& \cdots & c_{k-1}& c_k\\ 1& 0& \cdots & 0& 0\\ 0& 1& \cdots & 0& 0\\ ⋮& ⋮& & ⋮& ⋮\\ 0& 0& \cdots & 1& 0\end{array}\right]-\left[\begin{array}{ccccc}r& 0& \cdots & 0& 0\\ 0& r& \cdots & 0& 0\\ 0& 0& \cdots & 0& 0\\ ⋮& ⋮& & ⋮& ⋮\\ 0& 0& \cdots & 0& r\end{array}\right])\\ & =det(\left[\begin{array}{ccccc}{c}_1-r& c_2& \cdots & c_{k-1}& c_k\\ 1& -r& \cdots & 0& 0\\ 0& 1& \cdots & 0& 0\\ ⋮& ⋮& & ⋮& ⋮\\ 0& 0& \cdots & 1& -r\end{array}\right])\\ & =(-1{)}^2(c_1-r)f(1)+(-1{)}^3{c}_{2}f(2)+\cdots +(-1{)}^{k+1}{c}_{k}f(k)\\ & =\left[\sum _{i=1}^k(-1{)}^{i+1}{c}_{i}f(i)\right]-rf(1)\\ & =\left[\sum _{i=1}^k(-1{)}^{i+1}{c}_i(-r{)}^{k-i}\right]+(-r{)}^k\\ & =\left[(-1{)}^{k+1}\sum _{i=1}^k{c}_i{r}^{k-i}\right]+(-r{)}^k\\ & =(-r{)}^k+(-1{)}^{k+1}\left[c_1{r}^{k-1}+c_2{r}^{k-2}+\cdots +c_k\right]\end{array}\text{\hspace{1em}(*)}$$
上式在（*）处按照第一行展开，其中$f(i)$定义为下列矩阵去掉第$k$列后的行列式：
$$\left[\begin{array}{ccccc}1& -r& \cdots & 0& 0\\ 0& 1& \cdots & 0& 0\\ ⋮& ⋮& & ⋮& ⋮\\ 0& 0& \cdots & 1& -r\end{array}\right]$$

则（**）式为0有方程：
$$(-r{)}^k+(-1{)}^{k+1}\left[c_1{r}^{k-1}+c_2{r}^{k-2}+\cdots +c_k\right]=0$$
也就是： $$r^k-c_1{r}^{k-1}-c_2{r}^{k-2}-\cdots -c_k=0$$
与前述特征方程相同。 则考虑以下两种情况：

3、求解

a、无重根

根据线性代数的理论，特征方程无重根，也就是矩阵$M_{K\times k}$有$k$个不同的特征值时，$M$可以相似对角化为$Q^{-1}eig(M)Q$，其中$eig(M)=diag(r_1,r_2,\cdots ,r_k)$。进而有谱分解形式……

b、有重根

……