Python问题：from scipy import linalg出错

我也遇到了这个问题，刚开始我以为是scipy包的问题，可是重新安装了个64位的还是出错，于是我就重装了numpy，这次不用pip而是自己下了一个64位的，然后安装后就能import sklearn了 =_=，so 又是scipy的import问题可能是因为其他的相关包出问题了

创新互联是一家集网站建设,信阳企业网站建设,信阳品牌网站建设,网站定制,信阳网站建设报价,网络营销,网络优化,信阳网站推广为一体的创新建站企业，帮助传统企业提升企业形象加强企业竞争力。可充分满足这一群体相比中小企业更为丰富、高端、多元的互联网需求。同时我们时刻保持专业、时尚、前沿，时刻以成就客户成长自我，坚持不断学习、思考、沉淀、净化自己，让我们为更多的企业打造出实用型网站。

利用奇异值分解SVD给大数据降维

大数据定义

数据被定义为过于巨大的数据集合，以至于变得难以使用传统技术来处理。大数据的大体现在三个方面：

使用如此之多的维度进行工作的复杂性驱动了各种各样的数据技术的需求来过滤信息，让数据看起来能更好的解决问题。过滤器通过移除高纬度数据集中的冗余信息来降低维度。

我们可以把将为理解为对数据的信息压缩，类似于压缩1000 1000的图像到64 64分辨率，同样也是能够理解图片的意思的。

在大数据降维的核心算法SVD，我们称之为奇异值分解。SVD的公式是：

这个公式的含义是，原始数据矩阵M被分解为三个矩阵的乘积。

最关键的是要理解s所代表的意思，比如s所有元素的和事100，s的第一个值是99，这就意味99%的信息储存在了U和Vh的第一列中。因此你可以愉快的抛弃第一列之后的所有剩余列，而又不会丢失数据的重要信息，只丢失了1%的信息，对数据来说并不太重要。

这个例子中需要降维的数据M，包含4个样例，每个样例包括3个特征值。下面我们就使用linalg模块的svd函数，进行分解矩阵：

通过s里的值可以看出第一列包含了大部分信息（超过80%）。第二列有些值（大约14%），第三列则包含了参与的信息。

当然svd公式是可逆的，就是分解出来的这三个矩阵还能通过点乘还原原始的矩阵。注意，矩阵s实际上是对角矩阵，还原的时候要使用对角矩阵参与运算。

可以看出还原之后的back_M和之前的M矩阵是一样的。

SVD输出的三个矩阵入手，想办法去除第三列的内容。U取U[:,:2]，变成(4,2),s取s[:2]，变成了(2,)，Vh取Vh[:2,:]，变成了(2,3)

可以看出即使丢失最后一列的数值，还原之后和过去相比有一些差别，但是并不是很大。也是就是说可以用更少的维度取保存过去的值。

看到这里你可能都有点疑惑，到底是哪里降维了呢？从过去的(4,3)矩阵，变成现在三个矩阵(4,3)(3,)(3,3)，不但维度没有降，而且还增加一些数据。

假如说我们忽略最后一列的信息，变成三个矩阵(4,1),(1,),(1,3)，从过去的4x3=12个数字，变成现在的4+1+3个数字，确实是降了。但是我们应该如何利用这三个矩阵参与机器学习中呢？

python numpy svd

奇异值分解(svd) 是线性代数中一种重要的矩阵分解

在Python的numpy包里面直接调用

其中，u和v是都是标准正交基，问题是v得到的结果到底是转置之后的呢，还是没有转置的呢，其实这个也很好验证，只要再把u,s,v在乘起来，如果结果还是A 那么就是转置之后的，结果确实是这样的，但是MATLAB却与之不同，得到的v是没有转置过的

奇异值分解可以被用来计算矩阵的 伪逆 。若矩阵 M 的奇异值分解为

Python中怎样实现奇异值SVD分解

这两个命令是完全不同的呀。

S=svd（A）表示对矩阵A进行SVD分解，分解的结果是得到3个矩阵，如果返回值只有一个，那么可以得到A的奇异值向量。

eig（A）表示求矩阵A的特征值。

所以区别就是，svd得到的是A的奇异值，eig得到的是A的特征值。

A'表示A的转置矩阵，A'*A的n个非负特征值的平方根叫作矩阵A的奇异值。记为σi(A)。

希望可以帮助你，望采纳！

在SVD函数中,选取奇异值小的向量有啥意义吗?

答案1：： 奇异值分解 (sigular value decomposition,SVD) 是另一

种正交矩阵分解法；SVD是最可靠的分解法，但是它比QR 分解法要花

上近十倍的计算时间。[U,S,V]=svd(A)，其中U和V代表二个相互正交

矩阵，而S代表一对角矩阵。 和QR分解法相同者， 原矩阵A不必为正方矩阵。

使用SVD分解法的用途是解最小平方误差法和数据压缩

答案2：： 奇异值分解是线性代数中一种重要的矩阵分解，在信号处

啊？答案3：： [U,S,V]=svd(A)奇异值分解，就是要把矩阵A分解成

U*S*V' (V'代表V转置).其中U S是正交矩阵（复数域对应为酉矩阵）

奇异值分解可以用来求矩阵的逆，数据压缩等等，不过具体的用法不

是几句话就能说清楚的。总之，奇异值分解特别重要。

:::::::::::::::::::请参考以下相关问题::::::::::::::::::::

求matlab中的矩阵的奇异值分解（SVD）程序

:::::::::::::::::::请参考以下相关问题::::::::::::::::::::

最近在翻译matlab代码为VC代码，遇到SVD奇异值分解卡住了。

:::::::::::::::::::请参考以下相关问题::::::::::::::::::::

:::::::::::::::::::请参考以下相关问题:::::::::::::::::::::::::::::::::::::::请参考以下相关问题::::::::::::::::::::

矩阵分解

为什么要进行矩阵分解？

1、从矩阵变换的角度：

将复合变换后的矩阵分解成基本变换过程。具体请看奇异值分解之矩阵变换角度。

2、从 研究动机 的角度:

首先要理解基变换（坐标变换）再理解特征值的本质。

1、如果一个矩阵的行列式为0（非满秩），其特征值为0，这个证明比较简单：

(单位矩阵有时候用 表示，有时候用 表示。)

如果 ，那么 ，进而

2、对于一个 的矩阵 ，其 ;

3、主对角线上的元素都不为0，其他元素都为0的矩阵叫对角矩阵，对角矩阵一定是正交矩阵，即其基两两垂直。

特征值分解就是矩阵的对角化，就是可以将 分解为 ， 是由对应特征向量组成的矩阵--特征矩阵， 为对角矩阵，对角线上的元素为 的特征值。只有在一定条件下，一个变换可以由其特征值和特征向量完全表述，也就是说： 所有的特征向量组成了空间的一组基 。并不是所有方阵都可以对角化，方阵 可以被对角化的条件是 ：

正交矩阵一定可以对角化 。以三维空间为例，正交矩阵就是歪着的立方体，对角化就是把这个立方体摆正（就是让它的某一个顶点放在原点上，同时这个顶点的三条边放在三条坐标轴上）。对角矩阵就是摆正后的立方体。

机器学习中的特征值分解， 往往是协方差矩阵，如PCA，所以我们要确保各个特征之间是线性无关的。

如何通俗地理解奇异值？

我们知道一个向量张成的空间是一条直线， 任意实数 可以得到非零向量 张成的空间是一条直线。那么如果一个 维空间中的向量 其所张成的空间——一条直线上的点，经过一个矩阵 变换到另一个 的空间中依然在同一条直线上，这个直线是 空间中的向量 所张成的空间，只是会有对应的缩放，这个缩放的程度就是奇异值。用数学形式表达为： ， 是 空间中的向量， 是 的变换矩阵， 是 空间中的向量， 就是奇异值。

可以感觉到特征值是奇异值的特例，当m=n且 和 重叠的时候（方向可以不同），奇异值=特征值。

奇异值分解计算例子：

SVD（奇异值分解）Python实现：

矩阵分解为了解决传统协同过滤处理稀疏共现矩阵能力差的问题。使用矩阵分解相比传统协同过滤也提升了泛化性。

基于矩阵分解的模型又叫潜在因素模型、隐语义模型。

矩阵分解的开端是2006年的Netflix竞赛。

1、推荐系统中：

分解的是什么矩阵？共现矩阵

怎么共现矩阵分解？

1）特征值分解

要求待分解的是方阵，所以行不通

2）奇异值分解

要求待分解矩阵是稠密矩阵，而共现矩阵是稀疏矩阵，所以不行；

奇异值分解的复杂度是 ，复杂度很高，也不合适。

3）梯度下降法——也就是交替最小二乘法（alternating least squares，ALS），解决两个变量求解。

使用梯度下降法进行矩阵分解

（1）确定目标函数： ，就是一个MSE；

（2）分别对 和 求偏导

（3）参数更新

（4）迭代

得到隐向量后，对某个用户进行推荐时，利用该用户的隐向量与所有物品的隐向量进行逐一内积运算，得到该用户对所有物品的得分，再进行排序，得到最终的推荐列表。

4)贝叶斯矩阵分解

2、PCA---奇异值分解