正文 

当前位置： 首页 > 开发 > java教程

特征向量与矩阵分析——第一节：向量向量空间和线性相关性(代码片段)

我擦我擦 我擦我擦     2022-12-15     368

关键词：

文章目录

一：标量和向量

（1）基本概念

标量：由单一数值构成的对待研究对象的量化评价，标量的定义与其代表的数据类型强相关

  • 用单位cm的实数值表示身高
  • 用取值为0或1的布尔型值表示信用状况

向量：如果在标定或描述一个事物的特征时需要用到多个标量，那么它就称之为向量

  • 物体的颜色是一个向量（RGB）
  • 空间位置是一个向量

给定任一向量 x = [ x 1 , x 2 , . . . , x d ] x=[x_1,x_2,...,x_d] x=[x1​,x2​,...,xd​]，它包含大小与方向两类信息，只有各分量位置处取相同值时两个向量才相等

  • 大小：是指所有分量的平方和的根号，也即 ∣ ∣ x ∣ ∣ = ∑ i = 1 d x i 2 ||x||=\\sqrt\\sum\\limits_i=1^dx_i^2 ∣∣x∣∣=i=1∑d​xi2​ ​
  • 方向：是向量不同分量之间的比值

若有集合 s = 1 , 3 , 5 s=\\1,3,5\\ s=1,3,5，则

  • x s = x 1 , x 3 , x 5 x_s=\\x_1,x_3,x_5\\ xs​=x1​,x3​,x5​
  • x − s = x 2 , x 4 , x 6 , . . . , x d x_-s=\\x_2,x_4,x_6,...,x_d\\ x−s​=x2​,x4​,x6​,...,xd​

注意以下特殊向量

  • 零向量： [ 0 , 0 , . . . , 0 ] [0,0,...,0] [0,0,...,0]
  • 单位向量 e e e： [ x 1 ∣ ∣ x ∣ ∣ , x 2 ∣ ∣ x ∣ ∣ , . . . x d ∣ ∣ x ∣ ∣ ] [\\fracx_1||x||,\\fracx_2||x||,...\\fracx_d||x||] [∣∣x∣∣x1​​,∣∣x∣∣x2​​,...∣∣x∣∣xd​​]
  • 转置 x T x^T xT： 此时行向量变列向量；列向量变行向量

（2）坐标系中的向量表示

坐标系中的向量表示：在线性代数中，向量是一个以坐标原点为起点的箭头

  • 下图是二维平面直角坐标系，三维或更高维也是如此

以 ( − 2 3 ) \\beginpmatrix -2\\\\ 3\\endpmatrix (−23​)为例，这一对数表示了如何从原点（向量起点）到达末端（向量终点）。每一对数给出了唯一的一个向量，而每一个向量又恰好对应唯一的一对数

  • -2：表示从原点开始沿着平行于X轴的负方向移动两个单位
  • 3：表示从上一位置开始沿着平行于Y轴的正方向移动两个单位

再以 ( 2 1 3 ) \\beginpmatrix 2\\\\ 1\\\\ 3\\endpmatrix ⎝⎛​213​⎠⎞​为例

  • 2：表示从原点开始沿着平行于X轴的正方向移动两个单位
  • 1：表示从上一位置开始沿着平行于Y轴的正方向移动一个单位
  • 3：表示从上一位置开始沿着平行于Z轴的正方向移动三个单位

二：向量运算

向量运算：即向量之间的运算，在实际问题中会经常涉及向量运算。例如：“在共同申请贷款时，银行会把双方的特征向量作为一个整体来考虑他们是否满足标准”

（1）加减与数乘

加减与数乘：对于给定向量 x 1 = [ g 1 , h 1 , r 1 ] x_1=[g_1, h_1, r_1] x1​=[g1​,h1​,r1​]和 x 2 = [ g 2 , h 2 , r 2 ] x_2=[g_2, h_2, r_2] x2​=[g2​,h2​,r2​]，则

  • 加减： x 1 + x 2 = [ g 1 + g 2 , h 1 + h 2 , r 1 + r 2 ] x_1+x_2=[g_1+g_2, h_1+h_2, r_1+r_2] x1​+x2​=[g1​+g2​,h1​+h2​,r1​+r2​]
  • 数乘： 2 x 1 = [ 2 g 1 , 2 h 1 , 2 r 1 ] 2x_1=[2g_1, 2h_1, 2r_1] 2x1​=[2g1​,2h1​,2r1​]

向量加法举例： ( 1 2 ) \\beginpmatrix 1\\\\ 2\\endpmatrix (12​)+ ( 3 − 1 ) \\beginpmatrix 3\\\\ -1\\endpmatrix (3−1​)= ( 4 1 ) \\beginpmatrix 4\\\\ 1\\endpmatrix (41​)

首先 ( 1 2 ) \\beginpmatrix 1\\\\ 2\\endpmatrix (12​)和 ( 3 − 1 ) \\beginpmatrix 3\\\\ -1\\endpmatrix (3−1​)这两个向量在坐标系中表示如下

移动第二个向量，使其起点对齐至第一个向量的末尾，然后连线


为什么向量加法要这样操作呢？其实向量从某种方面来讲，揭示的是一种运动趋势，自然就有方向和距离，所以大家可以看到向量的和其实就是最终的运动趋势。体现在运算上，就是各个分量对应相加

向量数乘举例：2·直观详解线性代数的本质(代码片段)

...总结基变换坐标系与基向量基变换如何转化一个矩阵总结特征向量与特征值WhatWhyHow特征向量的特殊情况旋转变换剪切变换伸缩变换特征基抽象向量空间函数与向量向量空间总结前言【阅读时间】1小时左右words14069words【内容简介... 查看详情

线性代数---矩阵---特征值和特征向量

...自：https://jingyan.baidu.com/article/27fa7326afb4c146f8271ff3.html一、特征值和特征向量的定义首先让我们来了解一下特征值和特征向量的定义，如下：特征子空间基本定义，如下： 二、特征值和特征向量的求法 三、概括总结求解思... 查看详情

浅浅地聊一下矩阵与线性映射及矩阵的特征值与特征向量

都说矩阵其实就是线性映射，你明白不？反正一开始我是不明白的； 线性映射用矩阵表示：（很好明白的）有两个线性空间，分别为V1与V2，V1的一组基表示为，V2的一组基表示为；（注意哦，维度可以不一样啊，反正就是线... 查看详情

均值方差协方差协方差矩阵特征值特征向量

...算均值。如果数据是3维，那么协方差矩阵是：  特征值与特征向量线性变化：线性变换(线性映射)是在作用于两个向量空间之间的函数，它保持向量加法和标量乘法的运算，从一个向量空间变化到另一个向量空间。实际上... 查看详情

数学-线性代数-#12向量空间的衍生：矩阵空间微分方程的解图

线性代数导论-#12向量空间的衍生：矩阵空间、微分方程的解、图凡是可以进行加法和数乘运算的对象，我们都可以将其视为向量。凡是对加法和数乘封闭的集合，我们都可以将其视为空间。分析空间时，我们着眼于其维度和基... 查看详情

线性代数的本质-03-矩阵与线性变换

回顾上两节视频，第一个视频主要介绍了什么是向量，包括向量的两个基本运算数乘与累加。第二个视频主要介绍了向量衍生的分支，包括3个部分：1.基向量，向量是基向量伸缩变换后的累加和。2.线性组合，两个向量的标量乘... 查看详情

第八章：矩阵和线性变换

...节中讲了矩阵的几何意义，矩阵的每一行可以看做该维度向量的分解坐标轴向量所对应的最终状态。接下来我们以2D单位向量来讨论2D向量的旋转问题。　　　　上图中我们以2D向量[11]来演示旋转θ角后的矩阵表示。首先分解2... 查看详情

线性代数精华——矩阵的特征值与特征向量(代码片段)

...重要，在机器学习领域也广泛使用的一个概念——矩阵的特征值与特征向量。我们先来看它的定义，定义本身很简单，假设我们有一个n阶的矩阵A以及一个实数(lambda)，使得我们可以找到一个非零向量x，满足：[Ax=lambdax]如果能够... 查看详情

矩阵的特征值，特征向量，和特征根是啥？

参考技术A特征根：特征根法也可用于通过数列的递推公式（即差分方程，必须为线性）求通项公式，其本质与微分方程相同。 称为二阶齐次线性差分方程：  加权的特征方程。特征向量：A为n阶矩阵，若数λ和n维非0... 查看详情

[线性代数]5.向量空间及其子空间

向量空间（VectorSpace）用表示，表示n为向量空间向量空间的性质：向量空间内的向量进行相加相减，乘以或者除以一个标量，或者向量之间的线性组合得到的新向量还是位于该空间中。 非向量空间举例，如二维向量的第一象... 查看详情

线性代数之特征值和特征向量

特征值和特征向量1.特征值、特征向量1.1定义1.2特征多项式和特征方程1.3求特征值,特征向量的方法:1.4定理2.相似矩阵3.实对称矩阵1.特征值、特征向量1.1定义设AAA是nnn阶矩阵,如果存在一个数λ\\lambdaλ及非零的nnn维列向量ααα,使得... 查看详情

pca本质和svd

...只有0解，此时矩阵A可逆。秩：线性无关向量个数。基：特征向量：向量X经过矩阵A旋转后，与原来的X共线，。即为特征值，表示向量的伸缩。如果把矩阵看成进行线性变化的矩阵（旋转，拉伸），那么 查看详情

主成成分分析（pca）

...地小。方向向量是一个经过原点的向量，而投射误差是从特征向量向该方向向量作垂线的长度。下面给出主成分分析问题的描述：问题是要将维数据降至维，目标是找到向量,,...,使得总的投射误差最小。主成分分析与线性回顾的... 查看详情

如何理解矩阵特征值

...一个定义了内积的线性空间里，对一个N阶对称方阵进行特征分解，就是产生了该空间的N个标准正交基，然后把矩阵投影到这N个基上。N个特征向量就是N个标准正交基，而特征值的模则代表矩阵在每个基上的投影长度。特征值越... 查看详情

特征值和特征向量

介绍特征向量和特征值在计算机视觉和机器学习中有许多重要的应用。众所周知的例子是PCA（主成分分析）进行降维或人脸识别是特征脸。特征向量和特征值的一个有趣应用在我的另一篇有关误差椭圆的博文中提到。此... 查看详情

对角化

不同特征值所定义的特征子空间的和是直和直和===子空间的一组基可以成为原空间的一组基直和===零向量是分解唯一的不同的特征值所求出的特征向量一定是线性无关的（有一个特征值至少可以求出一个非零的特征向量，在特征... 查看详情

解决抽象矩阵向量以及抽象矩阵方程问题的一些技巧

1、在遇到抽象矩阵的特征值与特征向量问题时，利用特征值与特征向量的定义Ax=λx能解决很多问题。2、解决解决抽象向量组组成的新向量组的线性无关性问题时，采用向量组线性无关的定义可解决判别法无法判别的问题。3、在... 查看详情

线性代数[向量](代码片段)

...;如何生成可参考右边的帮助文档文章目录前言一.引入二.向量的概念和运算三.线性相关四.与秩的关系五.定理前言今天大概内容：今天浅浅的讲解一下线性代数中最抽象的一节内容《向量》提示：以下是本篇文章正文内... 查看详情