对象和形状
标量
Scalar
a含义
用于缩放向量或矩阵的单个数值。
使用场景
使用标量进行加权、系数、学习率、温度和幅度。
计算示例
3[2, -1] = [6, -3].数学参考
通过实例学习向量、矩阵、仿射和空间几何、格、线性系统、变换、分解、最小二乘法和 PCA。
从一个点到平面的最短位移与平面的法向量平行。
两个基向量的整数组合将平面用面积相等的基本平行四边形填充。
97 个术语
对象和形状
Scalar
a用于缩放向量或矩阵的单个数值。
使用标量进行加权、系数、学习率、温度和幅度。
3[2, -1] = [6, -3].对象和形状
Vector
v ∈ ℝⁿ一个可以表示方向、位置、特征或状态的有序组件列表。
使用向量来表示坐标、信号、特征、嵌入和模型参数。
v = [3, 4] has two components.对象和形状
Matrix
A ∈ ℝᵐˣⁿ一个由行和列排列的数字矩形数组。
使用矩阵来存储数据集、线性系统、变换、图像和权重。
A = [[1, 2], [3, 4]].对象和形状
Tensor
T ∈ ℝᵈ¹ˣ⋯ˣᵈᵏ一个推广了标量、向量和矩阵的多维数组。
使用张量进行批处理、图像、视频、模型激活和多轴科学数据。
一批 32 个 RGB 图像,大小为 224×224,其形状为 32×3×224×224。对象和形状
Shape
m × n数组轴的有序大小。
在加法、乘法、广播、重塑和模型输入之前,检查形状。
大多数矩阵乘法错误来自不兼容的内径。
一个 3×4 矩阵有 3 行和 4 列。向量运算
Vector addition
u + v向量的逐元素加法,具有相同的维度。
将其用于组合位移、力、信号、更新或特征贡献。
[1, 2] + [3, -1] = [4, 1].向量运算
Scalar multiplication
cv将每个向量分量乘以相同的标量。
将其用于缩放幅度、反转方向或应用加权更新。
-2[3, 1] = [-6, -2].向量运算
Dot product
u · v对应向量分量的乘积之和,产生一个标量。
将其用于相似性、投影、工作量、注意力分数和线性模型输出。
[1, 2, 3] · [4, 0, -1] = 1.向量运算
Cross product
u × v一个垂直于两个输入向量的三维向量,其大小等于它们的平行四边形面积。
将其用于表面法线、扭矩、方向和三维几何。
标准叉积仅适用于三维空间,除了一个不太常见的七维类比。
[1,0,0] × [0,1,0] = [0,0,1].向量运算
Vector norm
‖v‖向量大小的一个非负度量,它满足范数公理。
使用范数来衡量大小、距离、误差、正则化和收敛性。
For v=[3,4], ‖v‖₂=5.向量运算
Unit vector
v/‖v‖范数为 1 的向量。
将其用于在去除幅度的同时保持方向,并构建正交基。
[3,4]/5 = [0.6,0.8].向量运算
Euclidean distance
‖u-v‖₂两个表示为向量的点的直线距离。
将其用于几何、最近邻搜索、聚类以及在比例可比的情况下进行误差测量。
从 [1,1] 到 [4,5] 的距离是 5。向量运算
Cosine similarity
u·v/(‖u‖‖v‖)两个非零向量之间的角度的余弦,用于衡量方向相似性。
将其用于比较文本嵌入或高维特征,当幅度应该不太重要时。
余弦相似度对于零向量是未定义的,并且可能会掩盖有意义的幅度差异。
[1,0] and [2,0] have cosine similarity 1.向量运算
Orthogonal vectors
u·v=0具有零点积的向量。
使用正交性来分离独立的方向、简化投影和构建稳定的基。
[1,2] · [2,-1] = 0,因此这些向量是正交的。向量运算
Vector projection
projᵤ(v)向量的一个分量,该分量位于另一个向量或子空间的方向上。
将其用于分解、最小二乘法、阴影和去除方向分量。
proj_[1,0]([3,4]) = [3,0].矩阵运算
Matrix addition
A+B矩阵的逐元素加法,具有相同的形状。
将其用于组合线性效应、残差更新、图像或累积数据。
[[1,2],[3,4]] + [[5,6],[7,8]] = [[6,8],[10,12]].矩阵运算
Matrix multiplication
AB一种行-列操作,当内维度匹配时,它组合线性变换。
将其用于坐标变换、神经网络层、图传播和求解系统。
矩阵乘法通常不满足交换律:AB 可能与 BA 不同,或者其中一个运算可能未定义。
A₂ˣ₃B₃ˣ₄ 产生 C₂ˣ₄。矩阵运算
Transpose
Aᵀ一个通过交换行和列形成的矩阵。
将其用于点积、协方差、正规方程、对称性检查和改变方向。
If A=[[1,2,3],[4,5,6]], then Aᵀ=[[1,4],[2,5],[3,6]].矩阵运算
Identity matrix
I一个主对角线上为 1,其他位置为 0 的方阵。
将其用作乘法单位元,并用于描述不变的坐标。
AI = IA = A.矩阵运算
Inverse matrix
A⁻¹一个满足 AA⁻¹=A⁻¹A=I 的矩阵,其中 A 是一个可逆的方阵。
从概念上讲,将其用于反转变换并求解 Ax=b。
数值软件通常应直接求解 Ax=b,而不是显式计算 A⁻¹。
For A=[[2,0],[0,4]], A⁻¹=[[1/2,0],[0,1/4]].矩阵运算
Determinant
det(A)一个用于方阵的标量,它测量有符号体积缩放,并指示可逆性。
将其用于测试奇异性以及分析变换下方向或体积的变化。
det([[a,b],[c,d]]) = ad - bc.矩阵运算
Trace
tr(A)矩阵主对角线元素的和。
将其用于特征值恒等式、协方差分析、矩阵微积分和优化。
tr([[2,1],[3,4]]) = 6.矩阵运算
Matrix rank
rank(A)矩阵中线性无关的行或列的个数。
将其用于测量信息维度、确定解结构和检测冗余特征。
rank([[1,2],[2,4]]) = 1.矩阵运算
Symmetric matrix
A=Aᵀ一个等于其转置的方阵。
将其用于协方差、二次形式、无向图和实数正交特征分解。
[[2,3],[3,5]] is symmetric.矩阵运算
Orthogonal matrix
QᵀQ=I一个实数方阵,其列和行形成正交集合。
将其用于旋转、反射、稳定分解和保持范数的变换。
对于线性矩阵,Q⁻¹ = Qᵀ。矩阵运算
Diagonal matrix
D一个主对角线之外的元素都为零的矩阵。
将其用于独立缩放以及高效的幂、逆和变换。
diag(2,3)^4 = diag(16,81).线性系统
System of linear equations
Ax=b一组必须同时满足的线性方程。
将其用于平衡、拟合、网络、电路、约束和重构。
x+y=5 and 2x-y=1 give x=2, y=3.线性系统
Augmented matrix
[A|b]一种紧凑的矩阵表示,它将右侧项附加到线性系统的系数矩阵。
将其用于在不重复编写变量的情况下进行行简化。
x+2y=5, 3x-y=4 becomes [[1,2|5],[3,-1|4]].线性系统
Elementary row operation
交换行、通过非零值缩放行,或将一行的一个倍数加到另一行。
使用这些保留解的操作来简化线性系统。
R₂ ← R₂ - 3R₁.线性系统
Row echelon form
REF一种矩阵形式,其主元向右移动,并且每个主元下方都是零。
将其用于反向替换、秩计算以及识别自由变量。
[[1,2,3],[0,1,4],[0,0,0]] 处于行阶梯形式。线性系统
Reduced row echelon form
RREF一种行阶梯形式,其中每个主元都是 1,并且是其列中唯一的非零元素。
将其用于直接读取唯一解、自由变量、秩和零空间基。
RREF([[1,2],[2,4]]) = [[1,2],[0,0]].线性系统
Gaussian elimination
进行行运算,将系统转换为行阶梯形式,然后进行回代。
将其用作解决中等密度线性系统的一般方法,可手动或在软件中进行。
从下行消除 x,然后从最后一个支点向上求解。线性系统
Gauss-Jordan elimination
进行行运算,直到增广矩阵达到简化行阶梯形式。
当需要显式地获得完整的解结构或逆时,请使用它。
当 A 可逆时,将 [A|I] 转换为 [I|A⁻¹]。线性系统
Consistent system
一个至少有一个解的线性系统。
使用秩或行简化来区分唯一解、无限解和无解。
一行 [0 0 | 1] 证明了一个系统是不一致的。向量空间
Vector space
V一组元素可以相加和缩放,同时满足向量空间公理的集合。
将其用于在统一框架中处理坐标、多项式、函数、信号和矩阵。
ℝ³ 和多项式集合,其次数最多为 2,是向量空间。向量空间
Subspace
W ⊆ V向量空间的一个子集,它本身在向量加法和标量乘法下是封闭的。
将其用于描述受约束的方向、解集、特征空间和不变结构。
平面 x+y+z=0 通过原点,是 ℝ³ 的一个子空间。向量空间
Span
span{v₁,…,vₖ}给定一组向量的每一个线性组合的集合。
将其用于描述从生成器可达的所有方向或输出。
span{[1,0],[0,1]} = ℝ².向量空间
Linear independence
一组向量是线性无关的,当且仅当只有所有系数都为零时,才能产生零向量。
将其用于检测冗余方向并选择一个基。
[1,0] 和 [0,1] 线性无关。向量空间
Basis
一组线性无关的向量,它们张成一个向量空间。
将其用于分配坐标并唯一表示每个向量。
{[1,0],[0,1]} 是 ℝ² 的标准基。向量空间
Dimension
dim(V)有限维向量空间的任何基中的向量个数。
将其用于测量独立的自由度。
dim(ℝ⁴)=4.向量空间
Column space
Col(A)矩阵列的线性包,等于所有 Ax 的输出。
将其用于确定 Ax=b 是否可解,以及变换可以产生哪些输出。
Ax=b is solvable exactly when b belongs to Col(A).向量空间
Null space
Null(A)满足 Ax=0 的向量集合。
将其用于描述不可见的方向、齐次解、参数冗余和约束。
如果 A=[1 2],那么 Null(A)=span{[-2,1]}。向量空间
Rank-nullity theorem
rank(A)+nullity(A)=n对于一个有 n 列的矩阵,列空间维数加上零空间维数等于 n。
将其用于连接独立的输出,并恢复丢失的输入自由度。
一个秩为 3 的 3×5 矩阵,其零化度为 2。线性变换
Linear transformation
T(u+v)=T(u)+T(v)一个保持向量加法和标量乘法的映射。
将其用于建模旋转、缩放、投影、滤波和线性层。
T([x,y])=[2x,y] 将 x 方向缩放 2 倍。线性变换
Kernel
ker(T)被线性变换映射到零向量的输入集合。
将其用于检测由变换丢失的信息,并测试单射性。
T 是一个一一对应,当且仅当 ker(T)={0}。线性变换
Image
im(T)变换产生的全部输出集合。
将其用于描述可达的输出并测试单射性。
对于矩阵变换 T(x)=Ax,im(T)=Col(A)。线性变换
Change of basis
使用不同的坐标基重新表达相同的向量或变换。
将其用于将坐标与几何图形对齐,简化运算符,或在局部和全局框架之间进行转换。
If P contains new basis vectors as columns, then [v]new=P⁻¹v.空间和仿射几何
Point
P在仿射空间中的一个位置,本身不具有大小或方向。
使用点来表示位置,并减去两个点以获得一个位移向量。
在没有选择原点或仿射组合的情况下,添加两个点本身没有明确的定义。
对于 P=(1,2) 和 Q=(4,6),位移 Q-P=[3,4]。空间和仿射几何
Position vector
OP从选定的原点 O 到点 P 的向量。
将其用于在固定原点和基之后表示具有坐标的点。
If O=(0,0,0) and P=(2,-1,3), then OP=[2,-1,3].空间和仿射几何
Affine space
一个点空间,其中点的差是向量,但没有优先的原点。
将其用于独立于任意坐标原点的建模几何。
一个平移后的平面仍然是仿射空间,即使它不经过原点。空间和仿射几何
Affine combination
ΣαᵢPᵢ, Σαᵢ=1一组点的加权组合,其系数之和为 1。
将其用于插值、质心、质心坐标和仿射变换。
P 和 Q 的中点是 0.5P + 0.5Q。空间和仿射几何
Parametric equation of a line
x=p+tv由一个点 p 和一个非零方向向量 v 表示的直线。
将其用于生成直线上的点,并解决与平面或其他直线的交点。
Through p=(1,2) with v=[3,-1]: x(t)=(1+3t,2-t).空间和仿射几何
Equation of a plane
n·(x-p)=0由一个点 p 和一个非零的法向量 n 描述的平面。
将其用于分类边界、裁剪、碰撞测试和几何约束。
如果 n=[1,2,3] 且 p=(1,0,0),则平面为 x+2y+3z=1。空间和仿射几何
Hyperplane
w·x=b在 n 维空间中,一个维度为 n-1 的仿射子空间。
将其用作决策边界、约束表面或更高维的平面。
在 ℝ⁴ 中,w·x=b 定义了一个三维超平面。空间和仿射几何
Normal vector
n与一条线、平面、曲面切空间或超平面垂直的向量。
将其用于定义平面、计算距离、反射向量和确定表面方向。
对于 2x-y+3z=4,一个法向量是 [2,-1,3]。空间和仿射几何
Line-plane intersection
通过将参数线代入平面方程并求解其参数而找到的点。
将其用于光线投射、渲染、碰撞检测和几何构造。
如果 n·v=0,则直线与平面平行或完全位于平面内。
Substitute x=p+tv into n·x=d, then solve t=(d-n·p)/(n·v).空间和仿射几何
Distance from a point to a line
从一个点到一条线的最短垂直线段的长度。
将其用于最近路径查询、拟合、碰撞边距和几何误差。
对于直线 p+tv,点到直线的距离为:distance(P,line)=‖(P-p)-projᵥ(P-p)‖。空间和仿射几何
Distance from a point to a plane
|n·P-d|/‖n‖点处的绝对带符号平面方程,已根据法向量长度进行归一化。
将其用于边距、裁剪、碰撞检测和点云处理。
从 (1,2,3) 到 z=0 的距离是 3。空间和仿射几何
Projection onto a plane
通过移除一个位移的法向分量,得到的平面上的最近点。
将其用于将点映射到表面、解决约束和分解运动。
For plane n·x=d, Pproj=P-((n·P-d)/‖n‖²)n.空间和仿射几何
Reflection across a plane
一个变换,它反转法向分量,同时保持平行于平面的分量。
将其用于镜像几何、反弹方向、对称性和图形。
对于一个经过原点的平面,反射向量为 vrefl=v-2projₙ(v)。空间和仿射几何
Barycentric coordinates
α+β+γ=1权重,用于将一个点表示为简单体的顶点的仿射组合。
用于三角形插值、点在三角形内的测试、网格和有限元。
P=αA+βB+γC with α+β+γ=1.空间和仿射几何
Area from a determinant
|det([u v])|两个平面边向量的绝对行列式,等于它们的平行四边形面积。
将其用于多边形面积、方向测试、雅可比行列式和坐标变换。
u=[3,0], v=[1,2] give area |3×2-0×1|=6.空间和仿射几何
Scalar triple product
u·(v×w)用于平行六面体的符号体积,由三个三维向量组成。
将其用于体积、共面性和三维方向测试。
体积是 |u·(v×w)|。空间和仿射几何
Orientation
sign(det)一个符号,指示基或点序列的手性或顺时针与逆时针顺序。
将其用于多边形算法、缠绕、法向量和坐标系一致性。
在 ℝ² 中,det([B-A,C-A])>0 表示 A、B、C 逆时针排列。空间和仿射几何
Homogeneous coordinates
[x,y,z,w]具有额外比例分量的坐标,用于均匀地表示仿射点和投影方向。
用于以矩阵形式组合平移、旋转、缩放、透视和投影。
同一个向量必须小心地进行归一化,当其最终分量为非零时;零的最终分量表示在无穷远处的方向。
2D 点 (x,y) 变为 [x,y,1],而方向变为 [vx,vy,0]。格几何
Lattice
L=Bℤᵏ由所有线性无关的基向量的整数组合形成的离散点集。
在离散几何、编码、密码学、优化和结晶学中使用晶格。
For b₁=[2,0], b₂=[1,3], L={z₁b₁+z₂b₂ | z₁,z₂∈ℤ}.格几何
Integer lattice
ℤⁿ所有具有整数坐标的 n 维向量的晶格。
将其用作标准坐标晶格,以及子晶格和整数优化的参考。
ℤ² 包含每个点 (m,n),其中 m,n∈ℤ。格几何
Lattice basis
B=[b₁ … bₖ]一组线性无关的向量,其整数组合生成一个格。
将其用于编码、枚举、转换和计算晶格的属性。
一个格有无限多个可能的基,通常具有非常不同的向量长度和角度。
向量 [2,0] 和 [1,3] 构成一个二维格的基。格几何
Lattice rank
rank(L)晶格基中的向量数量,等于其实数空间的维度。
将其用于区分嵌入在环境空间中的满秩和低维晶格。
由 [1,0,0] 和 [0,1,0] 生成的晶格在 ℝ³ 中具有 rank 2。格几何
Lattice point
Bz由将格基矩阵乘以一个整数向量而得到的点。
将其用作最近点、填充、编码和整数约束问题的离散候选值。
如果 B=[[2,1],[0,3]] 且 z=[2,-1],则 Bz=[3,-3]。格几何
Fundamental parallelepiped
P(B)由基系数形成的半开区域,范围在 0(包含)和 1(不包含)之间。
将其用作一个重复的单元格,其中包含每个陪集模晶格的一个代表。
P(B)={Bt | 0≤tᵢ<1}.格几何
Lattice determinant
det(L)基本区域的体积,也称为晶格共体积。
将其用于测量晶格密度,并比较满秩晶格的间距。
For square basis B, det(L)=|det(B)|; B=[[2,1],[0,3]] gives 6.格几何
Sublattice
L'⊆L一个格的子群,它本身也是一个格,位于相同的实数空间或较低维度的空间中。
将其用于施加额外的同余条件或比较嵌套的离散结构。
2ℤ² 是 ℤ² 的一个子格。格几何
Lattice index
[L:L']在 L 中,子晶格 L' 的陪集数量。
将其用于测量子晶格的稀疏程度,并关联嵌套晶格的行列式。
[ℤ²:2ℤ²]=4 and det(2ℤ²)=4det(ℤ²).格几何
Unimodular matrix
U∈GLₙ(ℤ)一个整数平方矩阵,其行列式为 1 或 -1,其逆矩阵也是整数。
将其用于更改晶格基,而无需更改晶格本身。
如果 B'=BU 且 det(U)=±1,则 B 和 B' 生成相同的格。格几何
Equivalent lattice bases
B'=BU两个由一个 unimodular 整数矩阵关联的基,它们生成完全相同的晶格。
将其用于将长、倾斜的基替换为更短、更正交的基。
B 和 B'=B[[1,1],[0,1]] 是等价的基。格几何
Gram matrix of a lattice basis
G=BᵀB一个矩阵,包含所有基向量的成对内积。
将其用于计算基于坐标的长度、角度、体积和二次形式。
对于整数向量 z,‖Bz‖²=zᵀGz。格几何
Gram-Schmidt for lattice bases
bᵢ*一种用于分析格基的归一化方法,通常不产生另一个格基。
将其用于计算投影系数、基质量和 LLL 约化步骤。
Gram-Schmidt 向量是分析辅助,不必是格点。
b₂*=b₂-μ₂₁b₁*,其中 μ₂₁=⟨b₂,b₁*⟩/‖b₁*‖²。格几何
Orthogonality defect
∏‖bᵢ‖/det(L)衡量满秩基与正交性之间的差距。
将其用于比较基质量,并预测数值或枚举的难度。
对于正交基,缺陷等于 1,否则大于或等于 1。格几何
Dual lattice
L*包含所有与 L 中的每个向量具有整数内积的向量的集合。
将其用于傅里叶分析、编码理论、互惠几何和传递界限。
对于满秩基 B,对偶基是 B⁻ᵀ。格几何
Shortest vector problem
SVP找到格中非零向量的最短向量。
将其用于理解晶格几何、约化质量和基于晶格的密码学硬度。
Find z≠0 minimizing ‖Bz‖.格几何
Closest vector problem
CVP找到最接近目标点的格点。
将其用于解码、量化、整数最小二乘法和基于晶格的安全性分析。
找到最小化 ‖Bz-t‖ 的 z。格几何
Successive minima
λᵢ(L)需要的半径以包含越来越多的线性无关的格向量。
用于描述晶格形状,而不仅仅是单个最短向量。
λ₁(L) 是最短向量的长度,而 λₖ(L) 达到 k 个线性无关的向量。格几何
Minkowski's convex body theorem
一个体积条件,确保对称凸体包含一个非零的格点。
将其用于证明关于短晶格向量的界限以及代数数论的结果。
一个足够大的、原点对称的凸体必须包含一个非零点 L。格几何
Lattice sphere packing
在格点上放置大小相等的非重叠球体,并测量所占空间比例。
将其用于编码理论、通信、离散几何和高维优化。
填充半径是最短非零晶格向量长度的一半。格几何
Voronoi cell of a lattice
离一个晶格点至少与所有其他晶格点一样近的点的区域。
使用它来理解最近晶格点解码以及 CVP 区域的几何形状。
Voronoi 胞元围绕 0,通过格平移填充空间。格几何
Lattice basis reduction
用更短且更接近正交的向量替换格基,得到一个等价的格基。
将其用于改进枚举、整数关系搜索、密码分析和数值行为。
一个约简后的基生成相同的格,但更清晰地暴露了其几何结构。格几何
LLL algorithm
LLL一种多项式时间算法,产生满足大小缩减和 Lovász 条件的基。
将其用于实际的近似短向量、多项式因式分解、密码分析和整数关系。
LLL 算法为近似短向量提供质量保证,但不一定给出精确的 SVP 解决方案。
LLL 算法反复对 Gram-Schmidt 系数进行尺寸缩减,并在 Lovász 条件不满足时交换基向量。特征值和分解
Eigenvalue
Av=λv一个标量 λ,它使线性变换对非零特征向量进行缩放,而不会改变其方向。
使用特征值来研究稳定性、长期动态、协方差、图和微分方程。
对于 A=diag(2,3),特征值是 2 和 3。特征值和分解
Eigenvector
Av=λv, v≠0一个由线性变换在标量缩放下保持不变的方向。
将其用于识别自然轴、主模式、稳态和主要方向。
对于 A=diag(2,3),[1,0] 是一个特征值为 λ=2 的特征向量。特征值和分解
Characteristic polynomial
det(A-λI)一个其根是方阵的特征值的多项式。
将其用于符号特征值计算以及小矩阵的理论分析。
对于 A=[[2,0],[0,3]],det(A-λI)=(2-λ)(3-λ)。特征值和分解
Diagonalization
A=PDP⁻¹使用特征值的对角矩阵和特征向量的基来表示矩阵。
将其用于简化矩阵幂、递归和线性动力系统。
并非每个方阵都有足够的线性无关的特征向量才能进行对角化。
当 A 可以对角化时,A^k=PD^kP⁻¹。特征值和分解
LU decomposition
PA=LU将矩阵分解为下三角因子和上三角因子,有时会进行行置换。
将其用于高效地求解具有相同系数矩阵的多个系统。
Factor PA=LU, then solve Ly=Pb and Ux=y.特征值和分解
QR decomposition
A=QR将矩阵分解为正交矩阵 Q 和上三角矩阵 R。
将其用于数值稳定的最小二乘法、正交基和特征值算法。
通过 Rx=Qᵀb 来求解最小二乘问题,其中 A=QR。特征值和分解
Singular value decomposition
A=UΣVᵀ将任何矩阵分解为正交奇异向量矩阵和非负奇异值的分解。
将其用于压缩、去噪、伪逆、低秩逼近和潜在结构。
较小的奇异值在用于逆或伪逆时可能会放大噪声。
保留最大的 k 个奇异值可以获得在 2-范数和 Frobenius 范数下最佳的秩 k 近似。特征值和分解
Least squares
min ‖Ax-b‖₂找到使平方残差最小化的参数,当线性系统没有精确解或过定时。
将其用于回归、校准、重构以及拟合噪声测量值。
通过最小化平方垂直残差来拟合 y≈mx+c。特征值和分解
Principal component analysis
X≈UₖΣₖVₖᵀ一种降维方法,它在中心化数据中找到最大方差的正交方向。
将其用于可视化、压缩、去噪或总结相关数值特征。
PCA 对特征尺度、异常值以及高方差具有信息量的假设都比较敏感。
计算中心 X 的 SVD,并将结果投影到前 k 个右奇异向量上。