递推与线性预测 Recursive Linear Prediction

1. 线性预测引入

  线性预测是要解决这样的问题。假设我们有n个随机变量，事实上，如果我们把随机变量的角标看做是时间，这就是一个随机过程，否则的话，就是一组随机变量

$$Z_1,Z_2,...Z_n，Z_{n+1}$$

  现在我们希望能够利用前面的n个变量，通过线性的方法，去估计第n+1个变量，这就是线性预测问题
$$Z=(Z_1,Z_2,...Z_n{)}^T=>Z_{n+1}$$

  事实上，研究随机过程，很大程度上就是为了进行线性预测。

  我们定义一个参数α
$$\alpha =({\alpha }_1,...,{\alpha }_n{)}^T$$

  我们通过对Z进行线性组合来估计Z_n+1

$${\alpha }^{T}Z=\sum _{k=1}^n{\alpha }_k{Z}_{n+1-k}\to Z_{n+1}$$

  我们的优化条件这样的

$$minE(Z_{n+1}-\sum _{k=1}^n{\alpha }_k{Z}_{n+1-k}{)}^2$$

  注意这里只是将Z_k的角标进行了倒转，不影响问题的本质

  我们之前学过了正交性原理，这里的最优估计，就等价于所有的原材料与残差之间都是正交的

$$\begin{gathered} minE(Z_{n+1}-\sum _{k=1}^n{\alpha }_k{Z}_{n+1-k}{)}^2 \\ =>E(Z_{n+1-k}\ast (Z_{n+1}-\sum _{k=1}^n{\alpha }_k{Z}_{n+1-k}))=0 \\ k=1,2,...,n \end{gathered}$$

  因此，我们就有

$$=>E(Z_{n+1-k}\ast Z_{n+1})-\sum _{i=1}^n{\alpha }_{i}E(Z_{n+1-i}\ast Z_{n+1-k})=0$$

  这里我们假设Z是个平稳过程，因此Z的自相关就仅仅与下标的差(时间差)有关系

$$=>R_Z(-k)-\sum _{i=1}^n{\alpha }_i{R}_Z(-i+k)=0$$

  因为相关函数是对称的

$$R_Z(-k)=R_Z(k)$$

  所以有
$$R_Z(k)-\sum _{i=1}^n{\alpha }_i{R}_Z(k-i)=0(k=1,...,n)$$

  这个方程就Wiener-Hopf方程

  我们来表示一下这个方程

( R ( 0 ) R ( 1 ) . . . R ( n − 1 )

递推与递归原理解释

递推与递归原理解释递归递推递归搜索树常用数递归递推递归搜索树所有递归都可以化成递归搜索树以斐波那契举例常用数2⁶³=10⁸ 查看详情

递推与递归分析(代码片段)

递推与递归递推和递归算是dp的基础入门题递推的本质在于找规律从结论出发递推，确定初始值变可以通过自底向上递推递归则是确定边界条件先自顶向下→\\rightarrow→自底向上p1255数楼梯题目描述楼梯有N阶，上楼可以一... 查看详情

算法总结之递推与递归(代码片段)

递推算法递归算法大致包括两方面的内容：1）递归起点；2）递归关系递推起点递归起点一般由题目或者实际情况确定，不由递归关系推出。如果无法确定递归起点，那么递归算法就无法实现。可见，递归起点是递归算法中的重... 查看详情

现代精算风险理论03：聚合风险模型

本文主要介绍了聚合风险模型的分布，Panjer递推方法及其应用，以及停止损失保费的计算。目录第三讲聚合风险模型第一节聚合风险的分布一、定义和假设二、聚合风险的数字特征三、复合泊松分布第二节Panjer递推一、Panjer递推... 查看详情

递推与递归极值问题

【递推与递归】极值问题题目描述已知m、n为整数,且满足下列两个条件：（1）m、n∈1,2,3,……,k，即1≤m,n≤k（2）(n2-mn-m2)2=1你的任务是：编程由键盘输入正整数k（1≤k≤109），求一组满足上述两个条件的m、n，并且... 查看详情

有关递推与递归的回顾(代码片段)

注：本文为回顾，所以仅会记录本人认为的难点与分析递推联系&难度个人认为，递推与动态规划实际是密不可分的，你说它简单，但到了做题时难以找到转移方程，你要是说它难，但它确确实实是最基本的东西了例题斐波那... 查看详情

算法竞赛进阶指南基本算法：递推与递归(代码片段)

递归实现指数型枚举题模板题：#include<bits/stdc++.h>usingnamespacestd;typedeflonglongll;typedefpair<int,int>pii;#definepbpush_back#definefifirst#definesesecondconstintN=1e5+10;intn 查看详情

递推与递归专题练习(代码片段)

CH0301递归实现指数型枚举搜索与回溯，指数级算法。#include<bits/stdc++.h>#definergregister#defineilinline#definecoconsttemplate<classT>ilTread()rgTdata=0,w=1;rgcharch=getchar();while(!isdigit(ch))if(ch=='-')w=-1;ch=getchar();while(isdigit(ch))data=data*10+ch-&#... 查看详情

有关递推与递归的回顾(代码片段)

注：本文为回顾，所以仅会记录本人认为的难点与分析递推联系&难度个人认为，递推与动态规划实际是密不可分的，你说它简单，但到了做题时难以找到转移方程，你要是说它难，但它确确实实是最基本的东西了例题斐波那... 查看详情

在现代 CPU 上，二分查找比线性查找快多少？

】在现代CPU上，二分查找比线性查找快多少？【英文标题】：AtwhichndoesbinarysearchbecomefasterthanlinearsearchonamodernCPU?【发布时间】：2010-11-1912:38:19【问题描述】：由于分支预测的奇妙之处，二分查找可能比通过整数数组的线性查找要... 查看详情

数字信号处理线性常系数差分方程(根据“线性常系数差分方程“与“边界条件“确定系统是否是“线性时不变系统“案例二|修改边界条件|使用递推方法证明)

...不变先变换后移位先移位后变换时变系统结论参考【数字信号处理】线性常系数差分方程(“线性常系数差分方程“与“线性时不变系统“关联|根据“线性常系数差分方程“与“边界条件“确定系统是否是线性时不变系统方法)中... 查看详情

现代信号处理03-线性估计

线性估计文章目录线性估计1.问题引入2.问题求解2.1线性拟合的方法进行参数求解2.1.1目标函数的确立2.1.2梯度的性质2.1.3目标函数的求解2.2最小方差无偏估计进行参数求解2.3最优线性无偏估计进行参数求解2.3.1标量的最优线性无偏... 查看详情

机器学习——05线性回归算法

...话总结出来，可以配上图片，以及说明该知识点的重要性线性回归就是对大量的观测数据进行处理，从而得到比较符合事物内部规律的数学表达式。也就是说寻找到数据与数据之间的规律所在，从而就可以模拟出结果，也就是对... 查看详情

java学习笔记3.2.3类的封装-方法的递归

文章目录零、本讲学习目标一、理解递推与递归二、案例演示递归（一）利用递推法与递归法计算阶乘课堂练习：利用递推法和递归法计算1+2+……+100（二）利用递归实现汉诺塔游戏1、汉诺塔游戏规则2、编程实现汉诺塔游戏三... 查看详情

递推与递归-递归实现指数型枚举(代码片段)

从1~n这n个整数中随机选取任意多个，输出所有可能的选择方案。输入格式输入一个整数n。输出格式每行输出一种方案。同一行内的数必须升序排列，相邻两个数用恰好1个空格隔开。对于没有选任何数的方案，输出空行。本题有... 查看详情

现代信号处理11-递归最小二乘

递归最小二乘RecursiveLeastSquare(RLS)文章目录递归最小二乘RecursiveLeastSquare(RLS)1.问题引入1.1LMS自适应滤波回顾2.递归最小二乘2.1LMS的缺陷与递归最小二乘模型建立2.2矩阵求逆公式2.2.1两个重要的中间式2.2.2求逆公式2.3递归最小二乘的... 查看详情

第六章基础算法

目录位运算递推与递归前缀和与差分二分位运算90.64位整数乘法递推与递归95.费解的开关前缀和与差分99.激光炸弹100.增减序列二分102.最佳牛围栏113.特殊排序 查看详情

05线性回归算法

...定误差：  （5）误差计算方法与优化： 2.思考线性回归算法可以用来做什么？（大家尽量不要写重复）根据历史气象记录预测明天的温度、根据历史行情预测明天股票的走势、房价信息、根据历史记录预测某篇文章的... 查看详情