For AI agents: the complete documentation index is available at https://shijin.space/llms.txt, the full documentation bundle is available at https://shijin.space/llms-full.txt, and this page is available as Markdown at https://shijin.space/knowledge/gaussian-functions-and-discrete-gaussians/index.md.

09 高斯函数与离散高斯分布

整理日期:2026-10-16。
前置笔记:01 格与格基、02 基本区域、格行列式与正交化。

设 Λ⊆Rn\Lambda\subseteq\mathbb R^n 是满秩格,使用欧氏范数。

此前主要讨论格点的位置和长度。现在给每个格点赋予随距离衰减的权重,再将权重归一化,得到格上的概率分布。

1. 高斯函数与尺度参数

给定尺度参数 s>0s>0 和中心 c∈Rnc\in\mathbb R^n,定义高斯权重

ρs,c(x)=exp⁡(−π∥x−c∥2s2).\boxed{ \rho_{s,c}(x) = \exp\left(-\pi\frac{\|x-c\|^2}{s^2}\right). }

常用简记为

ρs(x)=ρs,0(x),ρ(x)=ρ1(x).\rho_s(x)=\rho_{s,0}(x), \qquad \rho(x)=\rho_1(x).

中心处的权重为 11。距离中心越远,权重越小;ss 越大,权重随距离的衰减越慢。

这里沿用 Regev 的尺度约定,并加入中心平移。零中心的 ρs\rho_s 记号见 Regev《Lecture 9: Fourier Transform》,Fall 2004,PDF 第 3 页,Example 3。

2. 连续高斯分布与标准差

高斯函数满足

∫Rnρs,c(x) dx=sn.\int_{\mathbb R^n}\rho_{s,c}(x)\,dx=s^n.

因此,对它进行归一化,得到连续概率密度

fs,c(x)=1snexp⁡(−π∥x−c∥2s2).\boxed{ f_{s,c}(x) = \frac{1}{s^n} \exp\left(-\pi\frac{\|x-c\|^2}{s^2}\right). }

零中心时的归一化形式见 Regev 的最坏情况到平均情况归约讲义,§2,PDF 第 2 页;平移中心不改变积分。

与通常的正态分布记号比较可得

X∼N(c,s22πIn).X\sim \mathcal N\left(c,\frac{s^2}{2\pi}I_n\right).

所以,每个坐标的标准差为

σ=s2π.\boxed{\sigma=\frac{s}{\sqrt{2\pi}}.}

这个换算可以直接通过比较指数中的 π/s2\pi/s^2 与 1/(2σ2)1/(2\sigma^2) 得到。阅读不同文献时,需要先核对作者采用的是尺度参数 ss,还是标准差 σ\sigma。

3. 格上的离散高斯分布

将高斯权重限制在格点上,定义其总质量

ρs,c(Λ)=∑y∈Λexp⁡(−π∥y−c∥2s2).\rho_{s,c}(\Lambda) = \sum_{y\in\Lambda} \exp\left(-\pi\frac{\|y-c\|^2}{s^2}\right).

这个和是有限的正数。格上的离散高斯分布记为 DΛ,s,cD_{\Lambda,s,c},其概率为

Pr⁡X∼DΛ,s,c[X=x]=ρs,c(x)ρs,c(Λ),x∈Λ.\boxed{ \Pr_{X\sim D_{\Lambda,s,c}}[X=x] = \frac{\rho_{s,c}(x)} {\rho_{s,c}(\Lambda)}, \qquad x\in\Lambda. }

格外点的概率为 00。当 c=0c=0 时,简记为 DΛ,sD_{\Lambda,s}。

这里的关键是:连续分布通过积分归一化,离散分布通过格点求和归一化。 分母 ρs,c(Λ)\rho_{s,c}(\Lambda) 取决于格、尺度和中心,通常不能替换成 sns^n。

零中心、单位尺度的定义见 Micciancio《The Gaussians Distribution》,Fall 2019,PDF 第 7 页,Definition 4;上式按相同方式加入尺度和中心。

4. 中心、平移与几个必要的区分

由定义可以直接得到:

  • 支撑集合由格决定。 改变 cc 会改变各格点的概率,输出仍然属于 Λ\Lambda。
  • cc 是权重中心,一般不等于离散分布的均值。 当 c=0c=0 时,由 xx 与 −x-x 的对称性,有 E[X]=0\mathbb E[X]=0;更一般地,c∈Λc\in\Lambda 时有 E[X]=c\mathbb E[X]=c。
  • 连续分布的标准差公式不能直接套用于离散分布。 离散高斯的各坐标方差还受到格点分布和中心位置的影响。

把中心平移到原点时,支撑集合也会相应平移:

ρs,c(Λ)=ρs(Λ−c),Λ−c={x−c:x∈Λ}.\rho_{s,c}(\Lambda)=\rho_s(\Lambda-c), \qquad \Lambda-c=\{x-c:x\in\Lambda\}.

用同样的归一化方式定义平移格上的离散高斯,则

X∼DΛ,s,c⟹X−c∼DΛ−c,s.X\sim D_{\Lambda,s,c} \quad\Longrightarrow\quad X-c\sim D_{\Lambda-c,s}.

还需要区分离散高斯与“连续高斯取整”。以整数格为例,连续样本取整到整数 kk 的概率,是密度在区间 [k−12,k+12)[k-\tfrac12,k+\tfrac12) 上的积分;离散高斯则按整数点 kk 处的高斯权重赋予概率,两者通常不同。

5. 一个一维例子

取

Λ=Z,c=0,s=1.\Lambda=\mathbb Z,\qquad c=0,\qquad s=1.

则

Pr⁡[X=k]=e−πk2∑j∈Ze−πj2.\Pr[X=k] = \frac{e^{-\pi k^2}} {\displaystyle\sum_{j\in\mathbb Z}e^{-\pi j^2}}.

归一化因子为

ρ1(Z)=1+2e−π+2e−4π+⋯≈1.08643.\rho_1(\mathbb Z) = 1+2e^{-\pi}+2e^{-4\pi}+\cdots \approx1.08643.

由此算得

Pr⁡[X=0]≈0.92044,\Pr[X=0]\approx0.92044, Pr⁡[X=1]=Pr⁡[X=−1]≈0.03978.\Pr[X=1]=\Pr[X=-1]\approx0.03978.

这个例子中,大部分概率集中在 00 和相邻整数。增大 ss 后,较远整数相对于中心的权重上升,分布随之变宽。

6. 与后续内容的联系

离散高斯由 Λ,s,c\Lambda,s,c 决定,与选择哪组格基无关。定义目标分布之后,如何高效采样还需要单独的算法与条件。

接下来关注的量是格上的高斯总质量,例如

ρs(Λ)=∑x∈Λe−π∥x∥2/s2.\rho_s(\Lambda)=\sum_{x\in\Lambda}e^{-\pi\|x\|^2/s^2}.

下一篇通过傅里叶变换和 Poisson 求和公式,将原格上的这类求和与对偶格联系起来;随后再用平滑参数描述高斯尺度足够大时的行为。

引用此笔记