数学概念集

大数定理

在随机事件的大量重复出现中，往往呈现几乎必然的规律，

均方根误差 rmse

√[∑di^2/n]=Re

R e = \sqrt{\frac{Σ d i^{2}}{n}}

式中：n 为测量次数；di 为一组测量值与真值的偏差。又叫标准差是方差的算术平方根标准差能反映一个数据集的离散程度。标准差，是一组数据标准差值，（用了所有数据与平均值的差值，的平方和）的平均，然后开方。

平均绝对百分误差 MAPE

看板/Pasted image 20230511164529.png

方差

Σ(x_i- $\overset{―}{x}$ )²/n
$\overset{―}{上划线}$ 写法
看板/Pasted image 20240314135940.png

大数定理

在随机事件的大量重复出现中，往往呈现几乎必然的规律，

复角

arg。
复数的幅角也就是在 z = re ^iθ 中的θ 。z = r*(cosθ + i sinθ);
可以记作：Arg(z)。
求法：z = r*(cosθ + i sinθ),z=a+bi; θ = arctan(b/a);

平移不变性

只是它本身的平移，在平移之后，对于它的某种性质并不发生改变。

联合密度函数？:

最大似然估计

？：P（A|θ），事件 A 发生的概率与某一未知参数θ
有关，对θ在一定范围内取值，找到使 P (A) 也就是 A 发生的概念最大.

泰勒展开式

Pasted image 20220420101224.png
泰勒级数展开, 是在某一点展开的。

常见泰勒级数展开式

看板/Pasted image 20230407150756.png

方向导数

对于一元导数的扩展. 方向导数是在函数定义域的内点对某一方向求导得到的导数
导数扩展, 百度百科链接
Pasted image 20220420105224.png
Pasted image 20220420120232.png

梯度

梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值
百度百科链接
在空间的每一个点都可以确定无限多个方向，一个多元函数在某个点也必然有无限多个方向。因此，导数在这无限多个方向导数中最大的一个（它直接反映了函数在这个点的变化率的数量级）
梯度3
梯度 ∇f (x1, …, xn) 偏导数组成的向量 (df / dx1, …, df / dxn). 若 f (x, y, z) = 3xy + z² 则 ∇f = (3y, 3x, 2z)
梯度-自理解
梯度是一个方向, 一个用单位向量表示的方向。在某一个点其方向导数的值，在某个方向取得最大值的时候，这个方向就是梯度方向，最大值就是梯度的模。
首先来看看方向导数的表达： Pasted image 20220420120232.png|inl|200 其中（cosφ，sinφ）表达的某个方向，在取某个方向时，这个值最大，而且 $\frac{δ f}{δ l}$ = Pasted image 20220420130611.png|inl|100 也就是方向导数的模的时候, 这个方向我们叫做梯度方向。写作
$g r a d u (x, y) = \frac{δ f}{δ x} i + \frac{δ f}{δ y} j$
关于梯度的例题

∇哈密顿算子

黑塞矩阵 (Hessian Matrix)

是一个多元函数的二阶偏导数构成的方阵
Pasted image 20220420135733.png

多元函数泰勒级数

知乎介绍链接

Hadamard

Hadamard 乘积，表示对应位置元素相乘。
写错了这个；Hadamard 乘积是元素乘法，但是是*符号，⭕️里面一个点是，kron_rao 积；kron_rao 积就是正确的
Pasted image 20220427161419.png

Kron_rao

\\192.168.31.2\docker\alist\杨树云文档\论文\文老师\PPT\ESPRIT复习文件\双基地\矩阵的Kronecker积、Khatri-Rao积、Hadamard积-CSDN博客.pdf
[矩阵的Kronecker积、Khatri-Rao积、Hadamard积-CSDN博客.pdf](file:///%5C%5C192.168.31.2/docker/alist/%E6%9D%A8%E6%A0%91%E4%BA%91%E6%96%87%E6%A1%A3/%E8%AE%BA%E6%96%87/%E6%96%87%E8%80%81%E5%B8%88/PPT/ESPRIT%E5%A4%8D%E4%B9%A0%E6%96%87%E4%BB%B6/%E5%8F%8C%E5%9F%BA%E5%9C%B0/%E7%9F%A9%E9%98%B5%E7%9A%84Kronecker%E7%A7%AF%E3%80%81Khatri-Rao%E7%A7%AF%E3%80%81Hadamard%E7%A7%AF-CSDN%E5%8D%9A%E5%AE%A2.pdf)

可以好好看看这个解释

连乘

Pasted image 20220514202159.png

奇异值分解 svd

SVD，，特征值分解，主成分分析PCA，协方差矩阵，矩阵分析
M = $U Σ V^{T}$ (M是任意矩阵，U，V是方阵，Σ是中间的)
Pasted image 20220711153302.png|left
两种线性变换：拉伸与旋转，对角矩阵 $(\begin{matrix} 2 & 0 \\ 0 & 1 \end{matrix})$ 拉伸，旋转 $(\begin{matrix} c o s (θ) & - s i n (θ) \\ s i n (θ) & c o s (θ) \end{matrix})$ 。
两个矩阵都为正交矩阵

SVD分解,后的U 与V都是标准正交矩阵，（ Pasted image 20220711163910.png|inline ）

对角矩阵在右(列变换)
对角矩阵在左(行变换)

问题：从变换的角度可以把奇异值分解看做，一种线性变换，旋转，拉伸，再旋转。那么不从变换的角度为什么Σ中越大的就是越是主成分？

U为按列分块得到的向量正交，V为按行分块的矩阵正交

SVD分解相当于分层，每一层都是原始矩阵的大小，而且不同层级正交
$M = U Σ V^{T}$ $U = (u_{1}, u_{2}, . . ., u_{n})$ $Σ = (λ_{1}, λ_{2}, . . ., λ_{n})$ $V = (v_{1}, v_{2}, . . ., v_{n})^{t}$
不同层相加 u1 * λ1 * v1 + ... + un * λn * vn
Pasted image 20220711165838.png|left|500

求解：
Pasted image 20220711170957.png|left|600

奇异值分解是特征值分解的推广
什么是特征值分解？
特征值分解 Ax = λx，A为方阵

主成分分析 PCA principal Component analysis

PCA大致原理：

找数据中心点
旋转坐标系，判断最大特征值
数据标准化
查看 ( 样本不同属性的相关度[二维十字坐标系] )，新属性在整个样本属性中的重要性【占比】

插值

插值, 在数值分析这门分支学科中出现过. 二维平面的插值可以看看这篇博客

反距离插值法

Pasted image 20220811095105.png
其中 $W_{j}$ 为该点属性值， $L E_{j}$ 为该点与周围某点的距离，p 为一个大于 0 的可选参数。
看板/Pasted image 20230714144042.png|500

Sech 函数

Sechx=1/chx=2/[e^(x)+e^(-x)]

lipschitz 利普希茨条件

Pasted image 20220929153023.png

矩阵

对称矩阵：对称矩阵（Symmetric Matrices）是指以主对角线（↘）为对称轴，转置等于本身。
正定矩阵：

稀疏矩阵和稠密矩阵

在矩阵中，若数值为 0 的元素数目远远多于非 0 元素的数目，并且非 0 元素分布没有规律时，则称该矩阵为稀疏矩阵；与之相反，若非 0 元素数目占大多数时，则称该矩阵为稠密矩阵

欧拉公式

e^{i x} = c o s (x) + i \cdot s i n (x)

e^{i π} + 1 = 0

蒙特卡洛模拟

用随机模拟的方法，干出一个概率出来，只要随机模拟的次数越多，这个概率也就越准。

知道一个总的指标值 Z 是多少，要求指标值 Y 是多少， Y 在 Z 中

有一个约束边界，可以用随机的方法，把粒子放到，对应的指标 Y 里面

然后用大量随机方法把粒子丢到总的 Z 中

Zn Z 中的粒子 Yn y 中的粒子

Yn/Zn * Z = Y

这样就能得到指标值 Y

https://zhuanlan.zhihu.com/p/369099011

如何通俗地理解「蒙特卡洛方法」，它解决问题的基本思路是什么，目前主要应用于哪些领域？ - 蛤蟆仙人的回答 - 知乎 https://www.zhihu.com/question/441076840/answer/1870543794

这个也讲的比较详细

期望

$E (x) = \int x_{k} \cdot p_{k}$
其中 $x_{k}$ 为某一个变量的值， $p_{k}$ 为在 k 情况下的该率，在事件范围内，x 的所有情况的加到一起，就是期望。
例如：
Pasted image 20221129104940.png
数学期望的理解 - shawnxiang-AI 的文章 - 知乎 https://zhuanlan.zhihu.com/p/357748884
这个讲得比较清晰

张量

一阶张量是一个矢量，二阶张量是一个矩阵，三阶或更高阶的张量叫做高阶张量。
张量的阶数（the order of a tensor）也称为维数（dimensions）、模态（modes）、或方式（ways）。
https://blog.csdn.net/AIMZZY/article/details/106528350

卷积

卷积、旋积或褶积 (英语：Convolution) 是通过两个函数 f 和 g 生成第三个函数的一种数学运算
https://baike.baidu.com/item/卷积/9411006?fr=aladdin

交叉熵

【介绍了交叉熵，从数学的角度】 https://blog.csdn.net/weixin_45665708/article/details/111299919
【代码角度】 https://zhuanlan.zhihu.com/p/35709485
【】 https://zhuanlan.zhihu.com/p/35709485

无偏估计

无偏估计的意义是：在多次重复下，它们的平均数接近所估计的参数真值。无偏估计常被应用于测验分数统计中。
在一些统计学上，除以 n-1, 与除以 n，在小样本情况下 n-1 ，可能会更准一些？

一元二次方程求根

一元二次方程 ax2+bx+c=0 求根
看板/Pasted image 20230207105417.png|left|750
看板/Pasted image 20230207105500.png|left

酉矩阵

1

酉矩阵是一个非常重要的数学概念，它在量子力学和通信领域中被广泛应用。简单来说，一个矩阵是酉矩阵，当且仅当它满足以下两个条件：

矩阵的转置等于它的逆，即 $U^{†} U = U U^{†} = I$ ，其中 $U^{†}$ 表示 $U$ 的厄米共轭转置， $I$ 表示单位矩阵。
矩阵的所有列向量（或行向量）都是单位向量，并且两两正交，即 $U^{†} U = U U^{†} = I$ 中的每个元素都等于 $0$ 或 $1$ 。
这个定义可能有些抽象，下面给出一个简单的例子来说明什么是酉矩阵。
考虑一个二维空间中的旋转操作，可以用一个 $2 \times 2$ 的矩阵 $U$ 来表示，其中第一列是旋转后的 $x$ 轴方向的单位向量，第二列是旋转后的 $y$ 轴方向的单位向量。例如，下面的矩阵表示一个顺时针旋转 $45$ 度的操作：

我们可以验证，这个矩阵满足酉矩阵的定义：

因此，这个矩阵是一个酉矩阵。它代表了一个旋转操作，可以用于各种应用，例如图像处理、量子力学中的门操作等等。

变化率

变化率指的是某个变量随时间的变化速率，通常用导数来表示。具体来说，如果一个变量 $y$ 在时间 $t$ 处的取值为 $y (t)$ ，那么它在时间 $t$ 处的变化率可以表示为：

\frac{d y (t)}{d t} ​

这个式子的含义是：当时间 $t$ 微小地增加 $Δ t$ 时，变量 $y$ 对应的值会相应地微小地增加 $\frac{d y}{d t} Δ t$ 。因此， $\frac{d y}{d t}$ 就是该变量在某一时刻的瞬时变化率，它的单位通常是 $\frac{单位}{时间}$ ，例如米每秒、千克每秒等等。