关键词：
参考资料：《Introduction to linear algebra》4th edition by Gilbert Strang
网易公开课：http://open.163.com/special/opencourse/daishu.html 麻省理工公开课：线性代数
思考：
（一）相似矩阵是同一个线性变换的不同描述矩阵
（二）对象的变换等价于坐标系的变换（运动是相对的），如对于变换$Ma=b$，可以看作$Ma=Ib$，坐标系$M$和$I$类似于环境声明，$a$和$b$为相应坐标系下的坐标向量；求解上述变换可得$Ia=IM^-1b$，当坐标系声明均为$I$时，可得$a=M^-1b$
1. 线性组合：向量加法和标量乘法的组合
其中，$c,d$为标量，$mathcalv,mathcalw$为向量
2. 向量点积/内积：对应元素相乘后相加
（1）点积为0，则表示两个向量相互垂直（$cos heta=0$，夹角为90度）
（2）向量的长度：向量与自身点积的平方根
（3）单位向量的长度为1，可以通过非零向量与自身长度相除得到
（4）两个单位向量的点积即为夹角的余弦值（夹角小于90度为正，夹角大于90度为负）
例如，当$mathcalu$为单位旋转向量$(cos heta, sin heta)$，$mathcali$为单位向量$(1,0)$时，$ucdot i=cos heta$；同时旋转$alpha$，即$eta= heta+alpha$，点积为$cosalpha+coseta+sinalpha+sineta=cos(eta-alpha)=cos heta$
（5）当向量不是单位向量时，相应的余弦定理如下：
由于$|cos heta|leq 1$，可以得到施瓦茨不等式（内积的绝对值不超过长度的乘积）和三角不等式（两边之和大于第三边）如下：
注：三角不等式的证明如下
$$parallelmathcalv+mathcalwparallel^2 = parallelmathcalvparallel^2 + 2mathcalvmathcalw + parallelmathcalwparallel^2 leq parallelmathcalvparallel^2 + 2parallelmathcalvparallelparallelmathcalwparallel + parallelmathcalwparallel^2 = (parallelmathcalvparallel + parallelmathcalwparallel)^2$$
当$mathcalv=(a,b)$，$mathcalw=(b,a)$时，施瓦茨不等式为：$2ableq a^2+b^2$；令$x=a^2, y=b^2$，可以得到几何均值$sqrtxy$小于算数均值$frac12(x+y)$的结论：
3. 矩阵和向量的乘积可以看作是矩阵各列的线性组合
4. 向量线性无关和线性相关
线性相关的$n*n$方阵不可逆
线性代数导论[个人向]
-自学线性代数之前，应该看看3Blue1Brown（可汗学院的一位教师）关于「线性代数的本质」的视频。有关于线性代数的基本内容（包括向量、矩阵、线性变换、行列式、特征向量与特征值等）的真正简洁而直观的描述和动画演示。... 查看详情
数学-线性代数导论-#11基于矩阵a生成的空间：列空间行空间零空间左零空间
线性代数导论-#11基于矩阵A生成的空间：列空间、行空间、零空间、左零空间 本节课介绍和进一步总结了如何求出基于一个m*n矩阵A生成的四种常见空间的维数和基：列空间C(A)，dimC(A)=r，基={U中主元列对应的原列向量}；行空... 查看详情
《非线性泛函分析导论：拓扑方法导论》
非线性泛函分析导论（三）：拓扑方法导论这一节详细讨论拓扑方法。其中 Brouwe拓扑度的基本使用方法在之前介绍流形的环绕时我们已经接触过。Brouwer度是拓扑学中的重要工具，但对于泛函分析而言，我们需要将其延伸至... 查看详情
线性代数的本质-03-矩阵与线性变换
回顾上两节视频，第一个视频主要介绍了什么是向量，包括向量的两个基本运算数乘与累加。第二个视频主要介绍了向量衍生的分支，包括3个部分：1.基向量，向量是基向量伸缩变换后的累加和。2.线性组合，两个向量的标量乘... 查看详情
spark.mllib源码阅读-分类算法3-svm(代码片段)
...SVM及参数求解。SVM的理论及推导可以参考支持向量机通俗导论（理解SVM的三层境界）由于Spark实现的是线性SVM，在此，我将简单介绍一下线性分类器与线性可分、线性SVM、线性不可 查看详情
数学-线性代数-#12向量空间的衍生：矩阵空间微分方程的解图
线性代数导论-#12向量空间的衍生：矩阵空间、微分方程的解、图凡是可以进行加法和数乘运算的对象，我们都可以将其视为向量。凡是对加法和数乘封闭的集合，我们都可以将其视为空间。分析空间时，我们着眼于其维度和基... 查看详情
数学-线性代数导论-#9ax=b的解：存在性解法解的数量解的结构
线性代数导论-#9Ax=b的解：存在性、解法、解的结构、解的数量 终于，我们在b为参数的一般情况下，开始分析Ax=b的解，包括标题中的四个方面。首先是解的存在性。从几何上说，当且仅当向量b位于列空间C(A)内时，Ax=b有解；... 查看详情
算法导论第二版.pdf
《算法导论(原书第2版)》一书深入浅出，全面地介绍了计算机算法。对每一个算法的分析既易于理解又十分有趣，并保持了数学严谨性。本书的设计目标全面，适用于多种用途。涵盖的内容有：算法在计算中的作用，概... 查看详情
支持向量机
...文主要参考了李航的《统计学习方法》。是本人学习支持向量机的学习笔记。首先对支持向量机做简单介绍，然后分别介绍以下三个模型：（1）线性可分支持向量机：又称为硬间隔支持向量机，通过硬间隔最大化来学习一个线... 查看详情
《非线性泛函分析导论：变分问题的拓扑结构》
非线性泛函分析导论（二）：变分问题的拓扑结构【上节回顾】我们已经了解了 Sobolev嵌入定理、Rellich紧嵌入定理以及如何给Sobolev空间上的非线性泛函做导数演算——也就是变分。我们也了解到，与有限维的函数极值... 查看详情
算法导论笔记第二十八章矩阵运算
28.1求解线性方程组定义奇异矩阵：秩不是满秩的矩阵 欠定的(线性方程组)：线性方程组的矩阵向量A的秩小于n超定的(线性方程组)：方程数目超过未知变量的数目n//其实我早就忘得差不多了=。=赶紧捡起来LUP分析找出三个n×n的矩... 查看详情
线性代数之——向量空间
I.Groups在介绍向量空间之前有必要介绍一下什么Group，其定义如下：注意定义中的(igotimes)不是乘法，而是一种运算符号的统一标识，可以是乘法也可以是加法等。此外，如果(forallx,y∈mathcalG:x?y=y?x),那么此时(G=(mathcalG,?))是AbelianGro... 查看详情
机器学习之支持向量机
...我们针对线性可分数据和线性不可分数据介绍了线性支持向量机和非线性支持向量机，并在最后简单阐述非线性支持向量机的重要 查看详情
线性代数总结(代码片段)
...矩阵和张量1.1、标量（scalar）标量就是一个数，它不同于线性代数中的其他大部分研究对象（通常是多个数的数组）。标量一般用斜体的小写字母表示，当介绍标量时，我们会明确它是哪种类型的数，如s∈(mathbbR)表示一条线的... 查看详情
线性代数导论|linearalgebra课程
搞统计的线性代数和概率论必须精通，最好要能锻炼出直觉，再学机器学习才会事半功倍。线性代数只推荐Prof.GilbertStrang的MIT课程，有视频，有教材，有习题，有考试，一套学下来基本就入门了。不多，一共10次课。链接：https:/... 查看详情
算法导论的内容简介
参考技术A《算法导论》自第一版出版以来，已经成为世界范围内广泛使用的大学教材和专业人员的标准参考手册。本书全面论述了算法的内容，从一定深度上涵盖了算法的诸多方面，同时其讲授和分析方法又兼顾了各个层次读... 查看详情
多核支持向量机原理及实现(代码片段)
了解非线性支持向量机模型后，应该对支持向量机的原理与核技巧都有掌握，本文在传统非线性支持向量机基础上向大家介绍多核支持向量机，这里就不对支持向量机原理与核函数花费太多笔墨了，主要介绍将单... 查看详情
机器学习导论————线性回归（linerregression）(代码片段)
机器学习导论————线性回归（LinerRegression）一、线性回归的应用场景监督学习-目标值连续房价预测销售额预测贷款额度预测二、什么是线性回归2.1定义与公式线性回归(LinearRegression)是利用回归方程（函数）对... 查看详情