线性代数教程|极客教程

在形式化直观概念时，通常的方法是构造一组对象(符号)和一组规则来操作这些对象。这就是代数。线性代数教程是研究向量和某些代数规则来处理向量。我们许多人在学校里知道的向量被称为“几何向量”，通常用字母上方的小箭头表示，例如 $\vec{x}$ 和 $\vec{y}$ 。在本节中，我们讨论向量更一般的概念，并使用粗体字母表示它们，例如，$$x $和$ y$$ 。

一般来说，向量是一种特殊的对象，它可以被加在一起并乘以标量来产生另一个相同类型的对象。从抽象的数学观点来看，任何满足这两个性质的物体都可以看作是一个向量。下面是一些向量对象的例子:

几何向量。这个向量的例子可能在高中数学和物理中很常见。几何向量——见图1(a)——是有向段，可以绘制(至少在二维)。两个几何向量 $\vec{x}$ , $\vec{y}$ 可以相加，使得 $\vec{x} + \vec{y} = \vec{z}$ 是另一个几何向量。此外,乘以一个标量λ $\vec{x}$ ,λ∈R,也是一个几何向量。事实上,它是原向量乘以λ。因此，几何向量是前面介绍的向量概念的实例。将向量解释为几何向量使我们能够利用关于方向和大小的直觉来推理数学运算。
多项式也是向量;图1(b)将两个多项式相加，得到另一个多项式;他们可以乘以一个标量λ∈R,结果也是一个多项式。因此，多项式是向量的(相当不寻常的)实例。注意多项式与几何向量非常不同。几何向量是具体的“图形”，多项式是抽象的概念。然而，在前面描述的意义上，它们都是向量。

图1
音频信号是向量。音频信号用一系列数字表示。我们可以把音频信号加在一起，它们的和就是一个新的音频信号。因此，音频信号也是一种向量。
$$R^n$$的元素(n个实数的元组)是向量。$$R^n$$比多项式更抽象，例如,
$$a =
\begin{bmatrix}
1 \\
2\\
3
\end{bmatrix}
\in R^3$$
是一组数字的一个例子。两个向量相加,a,b∈$$R^n$$，得到另一个向量:a + b = c∈$$R^n$$。此外,一个$$a∈ R^n$$,λ∈R,两者相乘，导致一个缩放向量$$λa∈R^n$$。将向量视为$$R^n$$的元素还有一个额外的好处，那就是在计算机上实现时，要仔细检查数组操作是否实际执行向量操作。它松散地对应于计算机上的实数数组。许多编程语言都支持数组操作，这允许方便地实现涉及向量操作的算法。

线性代数关注的是这些向量概念之间的相似性。我们可以把它们加起来再乘以标量。我们将主要关注 $R^n$ 中的向量，因为线性代数中的大多数算法都是在 $R^n$ 中表示的。我们经常认为数据是用 $R^n$ 中的向量表示的。我们将关注有限维向量空间，在这种情况下，任何向量和 $R^n$ 之间都有1:1的对应关系。在方便的时候，我们将利用几何向量的直觉，考虑基于数组的算法。

数学中的一个主要概念是“闭包”(closure)。这里有一个问题:我所提议的操作所能产生的所有结果的集合是什么?在向量的情况下:从一个小的向量集合开始，将它们相加并缩放，得到的向量集合是什么?这就产生了一个向量空间。向量空间的概念及其性质是机器学习的基础。图2总结了本节介绍的概念。
线性代数教程
图2