3.2 泛函与抽象空间
牛顿说：“把简单的问题看得复杂，可以发现新领域；把复杂的问题看得简单，可以发现新规律。”而从历史的角度看，一个学科的发展也是如此。随着学科的发展，最开始的一个主干方向会不断衍生出各自相对独立的分支，这也就是所谓“把简单的问题看得复杂”的过程。然而，一旦学科发展到一定程度之后，某些分支学科又开始被抽象综合起来，这也就是所谓“把复杂的问题看得简单”的过程。例如，在很长一段时间里，物理学家都把电和磁看成是两种独立的物理现象在研究，当学科研究积累到一定程度时，麦克斯韦就创立了电磁学，从而完成了物理学中的一次大综合。而在数学发展的历史中，几何与代数也曾经在很长的一段时间里是彼此独立的。直到笛卡儿引入了直角坐标系的概念之后，人们才开始建立了一种代数与几何之间的联系，也就是所谓的解析几何。泛函分析也是对以往许多数学问题或者领域进行高度抽象和综合的结果，其主要研究对象之一是抽象空间。其实在学习线性代数的过程中，人们已经建立了一种从矩阵到线性方程组之间的一种联系。而在泛函分析中，实数系、矩阵、多项式以及函数族这些看似关联不大的概念都可以抽成空间。由于泛函分析是一门比较晦涩抽象的学问，应该注意联系以往学习中比较熟悉的一些已知的、具体的概念，从而帮助理解那些全新的、抽象的概念。需要说明的是，本部分内容的重点在于有关定义或者概念的介绍，希望能够努力领会这些定义或者概念。
3.2.1 线性空间
线性空间是最基本的一种抽象空间。实数的全体R1，二维平面向量的全体R2，三维空间向量的全体R3，以及所有次数不大于n的实系数多项式的全体等，都是线性空间的实例。
定义 设E为非空集合，如果对于E中任意两个元素x和y，均对应于E中的一个元素，称为x与y之和，记为x+y；对于E中任意一个元素x和任意一个实数λ，均对应于E中的一个元素，称为x与λ的数乘，记为λx；并且上述两种运算满足下列运算规律（x、y、z为E中任意一个元素，λ与μ为任意实数）。
（1）x+y=y+x；
（2）x+（y+z）=（x+y）+z；
（3）E中存在唯一的零元素θ（有时也记为0），它满足θ+x=x，并且对任意x均存在唯一的负元素-x∈E，它满足x+（-x）=θ；
（4）λ（μx）=（λμ）x；
（5）1x=x，0x=0；
（6）λ（x+y）=λx+λy；
（7）（λ+μ）x=λx+μx。
称E是实线性空间。由于本章内容只考虑实数的情况，因此也可以将E简称为线性空间。从定义中可见，线性空间的核心思想就在于引入加法和乘法两种代数运算基础上同时保证封闭性。
根据上述定义可以证明下列结论成立。
（1）所有次数不大于n的实系数多项式所构成的结合Pn是线性空间。
（2）所有在区间[a，b]上连续的实函数所构成的集合C[a，b]是线性空间。
（3）所有在区间[a，b]上具有连续的k阶导数的实函数所构成的集合Ck[a，b]是线性空间。
与线性代数中类似，可以在线性空间中引入线性相关、线性无关以及基的概念。设x1，x2，…，xn是线性空间E中的n个元素，其中n≥1，如果存在不全为零的常数λ1，λ2，…，λn，使得
λ1x1+λ2x2+…+λnxn=θ
则称x1，x2，…，xn是线性相关的。反之，若由λ1x1+λ2x2+…+λnxn=θ的成立可导出λ1=λ2=…=λn=0，则称x1，x2，…，xn是线性无关的。回忆线性代数中关于线性相关的解释，向量组x1，x2，…，xn线性相关的充分必要条件是其中至少有一个向量可以由其余n-1个向量线性表示。尽管上述结论表明向量组中的线性相关性与其中某一个向量可用其他向量线性表示之间的联系。但是，它并没有断言究竟是哪一个向量可以由其他向量线性表示。关于这个问题可以用下面这个结论来回答。如果向量组e1，e2，…，en，x线性相关，而向量组e1，e2，…，en线性无关，那么向量x就可以由向量组e1，e2，…，en线性表示，而且表示形式唯一。
基于上述讨论，便可引出基的概念。如果线性空间E中存在n个线性无关的元素e1，e2，…，en，使得E中任意一个元素x均可以表示成
那么，称{e1，e2，…，en}为空间E的一组基。并且称n为空间E的维数，记为dimE=n。而E称为有限维（n维）线性空间。不是有限维的线性空间称为无穷维线性空间。可见，Pn是有限维的，而C[a，b]和Ck[a，b]都是无穷维的。
3.2.2 距离空间
尽管在线性空间上已经可以完成简单的线性运算，但这仍然不能满足需求。为了保证数学刻画的精确性，还必须引入距离的概念。本章是从极限开始讲起的，它是微积分的必备要素之一，而极限的概念显然也是基于距离上无限接近的角度描述的。
定义 设X是非空集合，若对于X中任意两个元素x和y，均有一个实数与之对应，此实数记为d（x，y），满足：
（1）非负性：d（x，y）≥0；而d（x，y）=0的充分条件是x=y；
（2）对称性：d（x，y）=d（y，x）；
（3）三角不等式：d（x，y）≤d（x，z）+d（z，y）。
其中，z是X中的任意元素。称d（x，y）为x和y的距离，并称X是以d为距离的距离空间。
例如，通常n维向量空间Rn，其中任意两个元素
和
的距离定义为
因此，Rn就是以上式为距离的距离空间。同样，在Rn中还可以引入距离
或
或
可见，在同一个空间内可以通过不同方式引入距离。而且在同一空间中引入不同的距离后，就认为是得到了不同的距离空间。因此，常用符号（X，d）表示距离空间，如（Rn，d1），（Rn，dp）等。
同样，还可以考虑定义在区间[a，b]上的连续函数的全体C[a，b]，其中任意两个元素x（t）与y（t）间的距离可定义为
现在思考以上述距离定义为基础的连续函数空间是否是一个距离空间。显然，定义中的前两个条件很容易满足。下面简单地证明。
对所有的t∈[a，b]成立，且上式右端与t无关，因此有
在文章的最开始讨论过极限的有关内容。现在考虑如何在距离空间中定义极限。设
是距离空间（X，d）中的元素序列，如果（X，d）中的元素x满足
则称{xn}是收敛序列，x称为它的极限，记作xn→x。
而且易得，如果序列{xn}有极限，则极限是唯一的。实际上，如果x与y都是{xn}的极限，则在式0≤d（x，y）≤d（x，xn）+d（xn，y）中令n→+∞，即可得出d（x，y）=0，从而x=y。
可以看出，在n维空间Rn中，不论距离是d1、d2、dp（p＞1）或d+∞，序列{xn}的收敛都是指按（每个）坐标收敛。而连续函数空间C[a，b]中序列{xn（t）}的收敛就是前面讲过的一致收敛。
下面再引入球形邻域的概念：设r为某一正数，集合
Sr（x0）={x∈X；d（x，x0）＜r}
称为距离空间（X，d）中的球形邻域，或简称球。x0称为Sr（x0）的中心，r称为半径。
基于球形邻域的概念就可以定义距离空间中的开集和闭集。
定义 设（X，d）为距离空间，M是其中的一个子集。x∈M。若存在关于x的球形邻域Sr（x0），它满足Sr（x0）⊂M，则称x是集合M的内点。如果集合M的元素都是M的内点，则称M为开集。
定义 设M⊂（X，d），x0∈X，如果任意一个包含x0的球Sr（x0）中总含有集合M的异于x0，则称x0是集合M的聚点（或极限点）。
显然，x0是集合M的聚点的充分必要条件是M中存在异于x0的序列
，使得xn→x0。需要说明的是，聚点不一定属于集合M。例如，在R1中，设集合
则0是M的聚点，但0∉M。
定义 记集合M⊂（X，d）的所有聚点所构成的结合为M′，那么集合
=M∪M′称为集合M的闭包。如果集合M满足M⊃
，称为M的闭集。
由此，在距离空间中，可以引入任意逼近的概念，即极限概念。一般来说，一个集合如果能够在其中确切地引入任意逼近的概念，就称为拓扑空间。而距离空间是一种最常用的拓扑空间。
3.2.3 赋范空间
每个实数或复数，都有相对应的绝对值或者模，每一个n维矢量，也都可以定义其长度。如果把长度的概念推广到一般抽象空间中的元素上，就可以得到范数这个概念。
定义 设E为线性空间，如果对于E中的任意个元素x，都对应于一个实数，它记为‖x‖，且满足：
（1）‖x‖≥0，当且仅当x=θ时，‖x‖=0；
（2）‖λx‖=|λ|‖x‖，λ为实数；
（3）‖x+y‖≤‖x‖+‖y‖，x，y∈E。
则称‖x‖为元素x的范数。E称为按范数‖·‖的线性赋范空间。
例如，n维矢量空间Rn中的元素x=
的范数可以定义为如下形式，下面这个范数式也称为欧几里得范数，简称欧氏范数。
或者可以更一般地定义为（p为任意不小于1的数）
还可以定义为
很容易证明上述三个定义式都满足范数定义中的三个条件。这里不作具体讨论，但是可以指出的是‖·‖p满足条件（3）可以由闵可夫斯基不等式来证明。
闵可夫斯基（Minkowski）不等式 设ai＞0，bi＞0（i=1，2，…，n），p＞1，则
证明
对上式右端两个和数分别应用赫尔德不等式，得到
由于1/p+1/p′=1，所以上述不等式可以改写为
然后，用最后一个因式作除式，等式两边同时做除法，即得到欲证明的不等式。
基于前面三个范数的定义，可知空间Rn是按范数式‖·‖2、‖·‖p和‖·‖+∞的线性赋范空间。为了区别，通常把这三种线性赋范空分别记为
和
。由此可见，同一线性空间中可以引入多种范数。
连续函数空间C[a，b]中元素x（t）的范数可以定义为
因此，C[a，b]是按上述范数式的线性赋范空间，仍将它记为C[a，b]。此外，还可以定义x（t）的范数表达式为（p≥1）
它称为p范数。此时，所对应的线性赋范空间记为
[a，b]。‖·‖p可以成为范数的原因同样是由前面讲过的闵可夫斯基不等式保证，但此时的闵可夫斯基不等式需将原来求和号改为积分符号，即
可见，线性赋范空间同时也是距离空间，因为可以定义d（x，y）=‖x-y‖。于是，线性赋范空间中的序列{xn}收敛于x就是指‖xn-x‖→0，（n→+∞）。例如，空间C[a，b]的收敛性是一致收敛，而
[a，b]中序列xn（t）收敛于x（t）是p幂平均收敛
在线性赋范空间中的收敛性：‖xn-x‖→0又称为依范数收敛。
设X1和X2都是线性赋范空间。记有次序的元素对{x1，x2}（其中x1∈X1，x2∈X2）的全体所构成的集合为X1×X2。定义{x1，x2}+{y1，y2}={x1+y1，x2+y2}，λ{x1，x2}={λx1，λx2}及‖{x1，x2}‖=‖x1‖+‖x2‖，则X1×X2是线性赋范空间。它称为空间X1和X2的乘积空间。
接下来，介绍几条关于范数和依范数收敛的基本性质（这些性质在介绍极限时也有提及）：
（1）范数‖x‖关于变元x是连续的，即当xn→x时，‖xn‖→‖x‖；
（2）若xn→x，yn→y，则xn+yn→x+y；
（3）若xn→x，且数列an→a，则anxn→ax；
（4）收敛序列必为有界序列，即若xn→x，则{‖xn‖}是有界序列。
3.2.4 巴拿赫空间
定义 设X为线性赋范空间，
是空间X中的无穷序列。如果对于任给的ε＞0，总存在自然数N，使得当n＞N时，对于任意给定的自然p，均有‖xn+p-xn‖＜ε，则称序列{xn}是X中的基本序列（或称柯西序列）。
显然，X中的任何收敛序列都是基本序列。为了证明该结论不妨设xn→x，即任意给定的ε＞0，总存在自然数N，使得当n＞N时，有‖xn-x‖＜ε/2成立。于是对于任意的自然数p，同时还有‖xn+p-x‖＜ε/2。根据三角不等式，有‖xn+p-xn‖≤‖xn+p-x‖+‖xn-x‖＜ε。然而，基本序列却不一定收敛。
定义 如果线性赋范空间X中的任何基本序列都收敛于属于X的元素，则称X为完备的线性赋范空间，或称为巴拿赫（Banach）空间。
下面考虑
[-1，1]是不是巴拿赫空间。为此，不妨考查空间
[-1，1]中的序列
显然xn（t）都是连续函数，且|xn（t）|≤1，因此‖xn+p（t）-xn（t）‖≤2，从而当n→+∞时，则
这表明{xn（t）}是空间
[-1，1]中的基本序列。但同时当n→+∞时，xn（t）的极限函数是间断函数。换言之，xn（t）的极限函数不属于空间
[-1，1]。因此，序列{xn（t）}是空间
[-1，1]中没有极限，或者说{xn（t）}不是该空间中的收敛序列。既然线性赋范空间中的存在不收敛于该空间中元素的基本序列，那么空间
[-1，1]就不是巴拿赫空间。一般地
[a，b]，其中p≥1，都不是巴拿赫空间。
但是空间C[a，b]是巴拿赫空间。为了说明这一点，不妨设{xn（t）}是C[a，b]中的基本序列，即任意给定的ε＞0，总存在自然数N，使得当n＞N时，对于任意的自然数p均有
根据前面介绍的函数序列一致收敛的柯西准则可知，{xn（t）}是一致收敛序列。由于每个函数xn（t）在[a，b]上都连续，因此它的极限函数在[a，b]上连续，即该极限函数属于空间C[a，b]。类似地，Ck[a，b]也是完备的。
关于有限维空间的完备性，有如下一般化结论：任意一个有限维线性赋范空间必为巴拿赫空间。而且由此还可以得到一个推论：任意一个线性赋范空间的有限维子空间都是闭子空间。
于是也得到了无穷维空间与有限维空间的一个重要差别：无穷维空间可以不完备，而有限维空间一定完备。
回忆本章前面关于函数项级数的内容，现在研究巴拿赫空间中的级数。
定理 巴拿赫空间中的级数
收敛的充分必要条件是：对于任意给定的ε＞0，总存在自然数N，当n＞N时，对任何自然数p，均有
定义 若数值级数
‖xk‖收敛，则称级数
绝对收敛。
回想一下前面介绍过的魏尔斯特拉斯判别法（又称M判别法）：如果函数项级数
（x）在区间I上满足条件，∀x∈I，|un（x）|≤Mn（n=1，2，…），并且正向级数
收敛，则函数项级数
（x）在区间I上一致收敛。
此处便得到了一个更加泛化的表述（只要把其中的|un（x）|≤Mn替换成‖fn（x）‖≤Mn）：如果函数序列{fn：X→Y}的陪域(2)是一个巴拿赫空间（Y，‖·‖），∀x∈X，存在‖fn（x）‖≤Mn（n=1，2，…），并且正向级数
收敛，即
＜+∞，则函数项级数
（x）一致收敛。
证明 考虑级数的部分和序列
，并取任意p，n∈ℕ，其中p≤q，那么对于任意x∈X，有
因为正向级数
收敛，根据数项级数的柯西收敛定理，对于任意给定的ε＞0，总存在自然数N，使得当p＞N，以及x∈X，有
而本节前面介绍过的定理也给出了巴拿赫空间中的级数收敛的充分必要条件，由此该定理得证。
从这个证明过程中，还得到了M判别法在巴拿赫空间中的一种更简单的表述：若级数
是巴拿赫空间中的绝对收敛级数，则
收敛。或表述为：当空间是巴拿赫空间时，若其中的级数绝对收敛，则该级数一定收敛。注意，该定理在描述时并没有强调一致收敛，这是因为一致收敛时针对函数项级数而言的，此处所得到的泛化结果是对巴拿赫空间中的元素来说的，即并不要求其中的元素一定是函数，所以也就不再强调一致收敛了。
这是因为，如果级数
是巴拿赫空间中的绝对收敛，那么根据定义，就意味着数值级数
‖xk‖收敛。同样根据数项级数的柯西收敛定理，可知对于任意给定的ε＞0，总存在自然数N，使得当n＞N，对于任何自然数p，均有
又因为
即
由此定理得证。
最后，考虑上述定理的逆命题。
定理 如果线性赋范空间X中的任意绝对收敛级数都是收敛的，则X是巴拿赫空间。
证明 设{xn}是X中的基本序列，则显然它是有界序列‖xn‖≤c，且可以选出某一个子序列{xnk}，使得
于是，级数
绝对收敛。这是因为级数
（1/2k）收敛。根据定理假设，上述级数收敛。设其部分和为sk，则sk→x∈X。但是
，于是序列{xn}有一子序列{
}收敛于x∈X（当k→+∞时）。因此，对于任意给定的ε＞0，总存在自然数N1，当nk＞N1时，有
又因{xn}是基本序列，因此存在自然数N（不妨设N＞N1），当n和nk＞N时，有
于是，
这也就表明xn→x，定理得证。
通过前面的介绍，应该知道n维空间中任意一个元素x均可表示为其中某一组基{e1，e2，…，en}的线性组合
这组基的元素正好是n个。现在要在无穷维空间中讨论类似的问题。
以空间
（p≥1）为例，令ek=[0，…，0，1，0，…]，其第k个分量为1，其余为0，则显然
中任一元素x=[ξ1，ξ2，…]可唯一地表示为
因此，元素组
可以作为空间
的一组基，但这组基的元素个数不是有限的。一个无穷集合，如果它的全部元素可以安装某种规则与自然数集合{1，2，…}建立一一对应关系，就称此无穷集合为可数集（或称可列集）。显然有限个可数集的和集仍然是可数集，甚至“可数”个可数集的和集也是可数集。所以，全部有理系数的多项式所构成的集合P0是可数集。
显然，空间
的基{e1，e2，…}是一个可数集，这样的基称为可数基。由此，可以进行下面的讨论。
定义 设M是线性赋范空间X的子集，如果对于任意的元素x∈X及正数ε，均可在M中找到一个元素m。使得‖x-m‖＜ε，则称M在X中稠密。
稠密性有下列等价定义：
（1）X中的任一球形邻域内必含有M的点；
（2）任取x∈X，则必有序列{xn}⊂M，使得xn→x；
（3）M在X中稠密的另一个充分必要条件是
。
定义 如果线性赋范空间X中存在可数的稠密子集，则称空间X是可分的。
例如，实数集
是可分的，因为所有有理数在其中是稠密的，而有理数集是可数集。进而，n维空间
（1≤p＜+∞）也是可分的，因为坐标为有理数的点的全体构成其中的一个可数稠密子集。
定理 具有可数集的巴拿赫空间是可分的。
空间的完备性是实数域的基本属性的抽象和推广。完备的线性赋范空间具有许多类似实数域的优良性质，其关键是可以在其中顺利地进行极限运算。而且，不完备的空间也可以在一定的意义下进行完备化。连续函数空间
[a，b]的完备化空间记作Lp[a，b]，称为p次勒贝格可积函数空间。鉴于本书后续内容中会对此稍有涉及，因此这里需要指出，当p=1时，空间L1[a，b]的元素称为勒贝格可积函数。空间L1[a，b]中的元素是“可积”的函数，其积分是关于上限的连续函数；另外，L1[a，b]中两个函数x（t）和y（t）相等是指
此时，如果x（t）和y（t）仅在个别点（例如有限个点或者一个可数点集）上取值不等，并不影响上式成立，因此常称x（t）和y（t）是“几乎处处”相等的。关于空间Lp[a，b]，其元素是p次可积的
例如，空间L2[a，b]表示平方可积函数的全体。物理上，平方可积函数可以表示能量有限的信号。此外，有关系L1[a，b]⊃L2[a，b]，这由下式得知
其中用到了赫尔德不等式。一般地，如果p′＜p，则Lp′[a，b]⊃Lp[a，b]。
另外还要指出，当1≤p＜+∞时，空间Lp[a，b]是可分的。因为有理系数多项式集P0在
[a，b]中稠密，而
[a，b]在Lp[a，b]中稠密。
3.2.5 内积空间
前面已经讨论过关于内积的话题，此处以公理化形式给出内积的定义。
定义 设E为实线性空间，如果对于E中任意两个元素x和y，均有一个实数与之对应，此实数记为（x，y），且它满足：
（1）（x，x）≥0，当且仅当x=θ时，（x，x）=0；
（2）（x，y）=（y，x）；
（3）（λx，y）=λ（x，y），（λ为任意实数）；
（4）（x+y，z）=（x，z）+（y，z），（z∈E）。
则称数（x，y）为x和y的内积，称E为实内积空间（或称欧几里得空间）。
例如，n维实矢量空间Rn中任意两个矢量x=[ξ1，ξ2，…，ξn]T和y=[η1，η2，…，ξn]T的内积定义为
可以验证，这个内积的定义是满足前面介绍过的4个条件的。此外，这种n维实矢量空间通常也称为n维欧几里得空间，记为En。
再如，空间L2[a，b]中的两个函数x（t）和y（t）的内积可以定义为
很容易验证，这种定义对于上述4个条件都是满足的。
定理 （柯西-施瓦茨不等式）内积空间中的任意两个元素x和y满足不等式
当且仅当x=λy或x、y中只要一个为零时等号成立。
需要指出的是，内积空间是线性赋范空间。只要令
此时三角不等式是成立的
这个证明过程中用到了柯西-施瓦茨不等式。由于内积空间是线性赋范空间，因此线性赋范空间所具有的性质在内积空间中同样成立。
另外，显然柯西-施瓦茨不等式还可以写成
3.2.6 希尔伯特空间
定义 在由内积所定义的范数意义下完备的内积空间称为希尔伯特（Hilbert）空间。
希尔伯特空间是一类性质非常好的线性赋范空间，在工程上有着非常广泛的应用，而且在希尔伯特空间中最佳逼近问题可以得到比较完满的解决。
定义 设X为某一距离空间。设B是X中的一个集合。x∈X且x∉B。现记d（x，B）为点x到集合B的距离
如果集合B中存在元素
，使得
则称元素
∈B是元素x∈X在集合B中的最佳逼近元，或简称为最佳元。
下面给出关于希尔伯特空间H中闭凸子集的最佳元存在的唯一性定理。
定理 设B是H中的闭凸子集，x∈H且x∉B，则存在唯一的
∈B，使得
上述定理中提到了有关凸集的概念，其定义如下。
定义 设M是线性空间E中的一个集合，若对任意x，y∈M及满足λ+μ=1的λ≥0，μ≥0，均有λx+μy∈M，则称M是E中凸集。
下面对上述最佳元存在的唯一性定理进行证明。
证明 记
根据下确界的定义，对于任意自然数n，必存在yn∈B，使得
下面证明{yn}是H中的基本序列。为此，对x-yn与x-ym应用平行四边形法则
由B的凸性可知（yn-ym）/2∈B，从而
由此便有
显然，当n→+∞，m→+∞时，有0≤‖yn-ym‖2≤0，于是即知{yn}是基本序列。对于一个完备的空间而言，其中每个基本序列都收敛，故存在
∈B（因为B是闭集）使得yn→
，即得
最后证明
的唯一性。设另有
∈B满足‖x-
‖=d，再次应用平行四边形法则，即有
于是‖
‖2≤0，即‖
‖=0
。定理得证。
定义 如果x，y∈H，且（x，y）=0，则称元素x与y是正交的，并记为x⊥y。设S为H的子集，而元素x∈H与S中任意一个元素都正交，则称元素x与集合S正交，记为x⊥S。
显然，零元素θ与任何元素都正交。
定理 （勾股定理）若x⊥y，则‖x+y‖2=‖x‖2+‖y‖2。
定理 （投影定理）设L是H的闭子空间，x∈H但x∉L，则
是在中的最佳元的充分必要条件是（x-
）⊥L。即对任意的l∈L，均有（x-
，l）=0。
证明 设
是最佳逼近元。则对于任意的实数λ和任意的元素l∈L，有
即（x-
，x-
）≤（x-
+λl，x-
+λl），也就是2λ（x-
，l）+λ2‖l‖2≥0。不妨设l≠θ，取
则原式变为
于是有（x-
，l）=0，即必要性得证。
反之，设（x-
，l）=0对任意的元素l∈L都成立，则由勾股定理推得
即
充分性得证。定理证明完毕。
在此基础上，若L是H中的有限维子空间，下面的步骤实现了求出x到L的距离d的具体表达式。
定义 设x1，x2，…，xk是内积空间中的任意k个向量，这些向量的内积所组成的矩阵
称为k个向量x1，x2，…，xk的格拉姆（Gram）矩阵，k阶格拉姆矩阵Gk=G（x1，x2，…，xk）的行列式称为格拉姆行列式，通常用Γ（x1，x2，…，xk）表示，或者记作|G（x1，x2，…，xk）|。
定理 设x1，x2，…，xn是内积空间中的一组向量，则格拉姆矩阵Gn必定是半正定矩阵，而Gn是正定矩阵的充要条件是x1，x2，…，xn线性无关。
证明 根据内积空间的定义，对任意的n维列矢量λ=[λ1，λ2，…，λn]T，有
因此，n阶格拉姆矩阵Gn=G（x1，x2，…，xn）是半正定对称矩阵。
从上述证明过程中不难得到如下推论：内积空间中的任意n个向量x1，x2，…，xn的格拉姆行列式恒为非负实数，即Γ（x1，x2，…，xn）≥0，当且仅当x1，x2，…，xn线性相关时，等号成立。如果x1，x2，…，xn是线性无关的，必然可以推出Γ（x1，x2，…，xn）≠0。因为如果Γ（x1，x2，…，xn）=0，则表明Gn的列向量线性相关，即存在不全为零的μ1，μ2，…，μn，使得
由此可知（因为内积空间也是线性赋范空间）
即
这显然与x1，x2，…，xn线性无关矛盾。
定理 设{x1，x2，…，xn}是H中的线性无关组。由它们生成的子空间记为L，其维数为n。H中任意一点x到L的距离d为
证明 设x的最佳元为
∈L，则
可表示为（相当于对
做线性展开）
根据投影定理
这也等价于下列关于λj的线性方程组
继续利用内积空间定义中的若干性质便会得到（如下方程组也称为最佳逼近问题的正规方程）
其系数行列式|Gn|≠0，因此有唯一解。再由内积的定义及投影定理得到
其中，（x-
）=0，即得
现在把已经得到的两个和式联立起来，便得到下列关于n+1个未知数λ1，λ2，…，λn，d2的n+1个方程：
由线性代数中的克莱姆法则即可求得d2的表达式即为定理中所列出的形式，于是定理得证。
下面给出希尔伯特空间中当逼近集为闭凸集时的最佳元的特征定理。
定理 设B是希尔伯特空间H中的闭凸子集，x∈H，x∉B，则下列命题等价：
（1）
∈B是x的最佳元，即对任意的b∈B，均有‖x-
‖≤‖x-b‖；
（2）
∈B满足：对任意的b∈B，均有
）≤0；
（3）
∈B满足：对任意的b∈B，均有（
）≥0。
最后，研究希尔伯特空间中的傅里叶级数展开。
定义 设{e1，e2，…}是内积空间H中的一组元素，如果对任意的i≠j，均有（ei，ej）=0，则称{e1，e2，…}是H中的正交系；如果每一个ei的范数为1，则称之为规范正交系。
换言之，{e1，e2，…}是H中规范正交系是指
其中，δij是克罗内克（Kronecker）函数(3)。
内积空间中的正交系一定是线性无关组。
现在设{x1，x2，…}是内积空间中的一组线性无关元素。下面讨论的方法实现了由该组元素导出一组规范正交系{e1，e2，…}使得en是x1，x2，…，xn的线性组合。
首先，取e1=x1/‖x1‖，再令u2=x2-（x2，e1）e1，e2=u2/‖u2‖，那么显然{e1，e2}是规范正交的。以此类推，若已有规范正交组{e1，e2，…，en-1}，就再令
及en=un/‖un‖，则显然en与e1，e2，…，en-1都正交，从而{e1，e2，…，en}是规范正交的。如此继续下去就可以得到规范正交系{e1，e2，…}。
上述由线性无关组{x1，x2，…}构造出规范正交系{e1，e2，…}的方法通常称为格拉姆-施密特正交化方法。
例如，显然{1，t，t2，…，tn，…}是空间L2[-1，1]中的线性无关组，但不是正交系。利用格拉姆-施密特方法，可以得到基于内积
的一个规范正交系。为此，令x0=1，x1=t，…，xn=tn，…，由于{xn}是线性无关的，故可取e0=x0/‖x0‖=1/2
，u1=x1-（x1，e0）e0=t，进而取e1=u1/‖u1‖=
，类似的有
其中
称为n阶勒让德（Legendre）多项式。而{e0（t），e1（t），e2（t），…，en（t），…}是L2[-1，1]中的规范正交系。
之前已经推导出了H中任意一点x到其中有限维子空间L的距离公式，下面来考虑无限维子空间的情况。设{e1，e2，…，en}是希尔伯特空间H中的规范正交系。现在根据前面讨论过的有限维子空间距离公式求H中任意一个元素x到由{e1，e2，…，en}所生成的子空间L的距离d。
显然G（e1，e2，…，en）是单位矩阵，因此|G（e1，e2，…，en）|=1，而
其中，ci=（x，ei）。上述化简计算过程中需用到一点线性代数的技巧。根据行列式的性质，把行列式中的某一行（或列）的元素都乘以同一个系数后，再加到另一行（或列）的对应元素上去，则行列式的值不变。于是不妨把第1行乘以-（e1，x）后加到最后一行上，把第2行乘以-（e2，x）后加到最后一行上……最终把原矩阵化成一个上三角矩阵。而上三角矩阵的行列式的值就等于主对角线上所有元素的乘积。基于上述计算结果便可得到
而x在L中的最佳逼近元（即元素x在n维子空间L中的投影）可以由一组正交基展开，即
根据投影定理
这也等价于下列关于cj的线性方程组
于是有
注意，{e1，e2，…}是规范正交系，所以当j≠i时，（ej，ei）=0；当j=i时，（ej，ei）=1，有
ci=（x，ei）
进而有
其中，系数ci=（x，ei）称为元素x关于规范正交系{e1，e2，…，en}的傅里叶系数。
定义 设内积空间H中有一个规范正交系{e1，e2，…，en}，则数列{（x，ei）}（n=1，2，…）称为x关于规范正交系{e1，e2，…，en}的傅里叶系数。
事实上，内积空间中的元素关于规范正交系的傅里叶系数就是微积分中的傅里叶系数概念的推广。泛函分析中的理论可以被用来验证或证明之前在微积分中给出的与傅里叶系数有关的许多结论。
定理 设H为无穷维希尔伯特空间，{e1，e2，…}为H中的一组规范正交系，L是由{e1，e2，…}张成的一个子空间，即L=span{e1，e2，…，en}。对于H中的任意一个元素x，则
为元素x在L上的投影，且
这个定理根据前面推导而得的结论（H中任意一点x到其中无限维子空间L的距离公式）
可以很容易证明，这里不再赘述。
贝塞尔（Bessel）不等式 设{en}为内积空间H中的标准正交系，令n→+∞，则
这个不等式同样可以根据H中任意一点x到其中无限维子空间L的距离公式推得。当贝塞尔不等式取等号的时候，也就得到了前面曾经讨论过的帕塞瓦尔等式
定义 设H为一内积空间，{en}为H中的一个标准正交系，若x∈H，x⊥en（n=1，2，…），则必有x=θ。换言之，H中不再存在非零元素，使它与所有的en正交，则称{en}为H中的完全的标准正交系。
定理 设{en}是希尔伯特空间H中的一个标准正交系，且闭子空间L=
，则下述4个条件是等价的：
（1）{en}为H中的完全的标准正交系；
（2）L=H；
（3）对任意x∈H，帕塞瓦尔等式成立；
（4）对任意x∈H，则
通常把上述定理中的最后一条称为x关于完全标准正交系的傅里叶级数（或x按{en}展开的傅里叶级数）。该定理把微积分中的傅里叶展开推广到抽象的希尔伯特空间中，并揭示了完全标准正交系、帕塞瓦尔等式以及傅里叶展开之间的本质联系。
证明
（1）⇒（2），设{en}为完全的标准正交系。若L≠H，必存在非零元素x∈H-L。由投影定理，存在x0∈L，x1⊥L，使x=x0+x1，因为x≠x0，所以有x1=x-x0≠θ，而x1⊥en，这与{en}的完全性相矛盾。
（2）⇒（3），若L=H，x∈H=L，则x可表示为{en}的线性组合的极限。对任意有限个ei，如e1，e2，…，en，有
根据前面介绍过的定理，可得
另一方面，利用反证法，若由帕塞瓦尔等式不成立，以及贝塞尔不等式，则
因而对于任意n，有
即
这与假设条件矛盾，因此命题得证。
（3）⇒（4），对任意x∈H，帕塞瓦尔等式成立，则由前面介绍过的定理得出
根据帕塞瓦尔等式，可知
即证明了
（4）⇒（1），对任意x∈H，有
并设x⊥ei（i=1，2，…），显然有x=θ，因此{en}为H中的完全的标准正交系。
3.2.7 索伯列夫空间
把区间[a，b]上一阶连续可微函数的全体所构成的集合记为
[a，b]。显然，在通常的函数加法，乘法意义下，
[a，b]是线性空间。对于任意的u（t），v（t）∈
[a，b]，定义其内积为
则不难验证它满足关于内积的四条公理，因而
[a，b]是内积空间，相应的范数为
空间
[a，b]在上述范数意义下的完备化空间记为H1（a，b），它称为索伯列夫（Sobolev）空间。
设序列{un（t）}⊂
[a，b]是上述范数意义下的基本序列，即当n，m→+∞时
如果{un（t）}和{
（t）}是
[a，b]中的两个基本列，且满足当n→+∞时，‖un（t）-
（t）‖→0，则认为它们属于同一类。上述条件也等价于
根据空间L2[a，b]的完备性，存在u（t）∈L2[a，b]及w（t）∈L2[a，b]，使得当n→+∞时，在L2范数的意义下，un（t）→u（t）
（t）→w（t）。对如此所确定的函数u（t）和w（t），称w（t）是u（t）在索伯列夫意义下的广义导数，并记成u′（t）=w（t）。显然，如果u（t），v（t）∈H1（a，b），则au（t）+bv（t）∈H1（a，b）且（au+bv′）（t）=au′（t）+bv′（t）；而常数的广义导数为零。
由广义导数的定义可以看出，这种导数不是关于函数的个别点处局部性质反映，因为它是通过在整个区间上积分的极限确定的，而积分是一种关于函数的整体性质的概念。但也应该指出，广义导数其实是对通常意义下导数概念的推广。如果函数本身是通常意义下可微的，则其导函数与广义导数是一致的。
类似地，记
[a，b]为[a，b]上二阶连续可微函数的全体，其内积定义为
则
[a，b]的完备化空间相应地记为H2[a，b]，也称为索伯列夫空间，空间H2[a，b]中的元素u（t）具有一阶和二阶广义导数，且u′（t），u″（t）∈L2[a，b]，即它们都是勒贝格平方可积的。因此，可定义一般的索伯列夫空间Hk[a，b]。而且上述这些定义还可以推广到多维的情形，这里不再深究，有兴趣的读者可以参阅泛函分析方面的资料。