# 零和博弈的近似 Nash 均衡:Multiplicative Weights 与 Dynamic Gibbs Sampling 给 $m\times n$ payoff matrix $A$,零和博弈的 equilibrium 是一个 convex--concave saddle point。经典 multiplicative weights 每轮维护两组 exponential weights;若显式归一化/采样,成本随 $m+n$ 线性。量子算法为缓慢变化的 Gibbs 分布设计动态采样数据结构,把维数依赖降到平方根,同时输出可直接使用的稀疏经典混合策略。 本篇要回答三个层层递进的问题:第一,什么是零和博弈的近似均衡,为什么它可以归结为 regret 最小化;第二,经典 multiplicative weights update(MWU)为什么需要 $\widetilde O(1/\epsilon^2)$ 轮、每轮 $O(m+n)$;第三,量子算法在哪里、以什么方式把 $m+n$ 的维数依赖开根号,以及为什么最终输出仍然是一份"经典"的策略。 读者需要的前置知识:Grover 搜索与振幅放大(第 3 章)、振幅估计的基本结论(相位估计一章),以及"从概率分布采样"与"制备对应量子态"的区别。不需要博弈论背景,相关概念都会现场定义。 :::{admonition} 本课知识点 :class: tip 1. **[零和博弈与 Nash 均衡](#zero-sum-nash)**——能写出混合策略、期望 payoff 与均衡不等式的定义,并解释零和结构与 minimax 定理在其中的作用。 2. **[Minimax 定理与 saddle gap](#minimax-saddle-gap)**——能把零和均衡表述为 convex--concave saddle point,并推导 saddle gap 与 $\epsilon$-近似均衡的等价性(Lemma 1)。 3. **[MWU 更新规则与 regret 分析](#mwu-regret-analysis)**——能写出双方指数权重的更新公式,用势能函数与 telescoping 推导 regret 界 $\eta+\frac{\log m}{\eta T}$,并平衡参数得到 $T=\widetilde O(1/\epsilon^2)$。 4. **[从 regret 到近似均衡](#regret-to-equilibrium)**——能把双方 regret 界相加,推导经验分布 $(\bar p,\bar q)$ 的 saddle gap 为 $O(\epsilon)$,并解释输出经验分布而非分布平均的原因。 5. **[经典维数瓶颈与量子动态 Gibbs 采样](#classical-bottleneck-quantum-gibbs)**——能解释经典实现每轮 $O(m+n)$ 开销的来源,比较朴素 Gibbs 制备与动态复用 sampler,并说明维数依赖如何降到 $\sqrt{m+n}$。 6. **[总复杂度与输出形式](#complexity-output)**——能解读 $\widetilde O(\sqrt{m+n}\,\epsilon^{-5/2}+\epsilon^{-3})$ 中各因子的来源,推导经典与量子的 crossover 条件,并计算稀疏经典输出的描述长度。 7. **[验证、payoff oracle 与适用范围](#verification-oracle-scope)**——能写出 payoff oracle 的定义与验证近似均衡所需估计的两个量,并说明结论为何不能推广到一般和博弈。 8. **[Matching Pennies 实例](#matching-pennies)**——能在具体 $2\times2$ 零和博弈上计算纯策略 payoff 向量、均衡、博弈的值与 gap 通式,并据此解释策略误差与 gap 的关系。 ::: (zero-sum-nash)= ## 1. 问题背景:零和博弈与 Nash 均衡 **两人零和博弈 (two-player zero-sum game)** 是最简单的非合作博弈模型。Row player 有 $m$ 个纯策略(编号 $1,\dots,m$),column player 有 $n$ 个纯策略;当 row 出 $i$、column 出 $j$ 时,payoff matrix $A$ 的元素 $A_{ij}$ 表示 column 付给 row 的数量——row 的收益是 $A_{ij}$,column 的收益是 $-A_{ij}$,两者之和恒为零,故称"零和"。 允许随机化时,双方各选一个**混合策略 (mixed strategy)**,即单纯形上的概率分布 $$ \Delta_m:=\Big\{p\in\mathbb R^m:\ p_i\ge0,\ \textstyle\sum_i p_i=1\Big\}, \qquad \Delta_n:=\Big\{q\in\mathbb R^n:\ q_j\ge0,\ \textstyle\sum_j q_j=1\Big\}. $$ 此时期望 payoff 为双线性型 $p^TAq=\sum_{i,j}p_iA_{ij}q_j$。Row 想把它最大化,column 想把它最小化。 一对策略 $(p^*,q^*)$ 称为 **Nash 均衡 (Nash equilibrium)**,如果任何一方单独偏离都不能获益: $$ (p^*)^TAq^*\ge p^TAq^*\quad(\forall p\in\Delta_m), \qquad (p^*)^TAq^*\le (p^*)^TAq\quad(\forall q\in\Delta_n). $$ 零和情形在博弈论中地位特殊:Von Neumann 于 1928 年证明的 minimax 定理保证均衡一定存在,且求均衡等价于解一对对偶线性规划。计算上,经典精确解法(单纯形法、内点法)的时间随 $m,n$ 多项式增长——对"小规模"博弈这已经够用。真正的瓶颈出现在 $m,n$ 巨大(例如指数个纯策略、或矩阵只能按元素查询)且只要求 $\epsilon$ 精度时:能否让运行时间对维数的依赖远低于线性?这正是量子算法切入的位置。 本篇依据的两篇文献给出两个世代的结果:van Apeldoorn 与 Gilyén 首先给出维数依赖为 $\sqrt{m+n}$ 的量子算法(精度依赖 $\epsilon^{-3}$);Bouland、Getachew、Jin、Sidford 与 Tian 用改进的 dynamic Gibbs sampling 把精度依赖改进到 $\epsilon^{-5/2}$(外加一项与维数无关的 $\epsilon^{-3}$)。下面先把经典部分讲透,再看量子部分。 (minimax-saddle-gap)= ## 2. Minimax 定理与 saddle gap Row player 选 $p\in\Delta_m$ 最大化 payoff;column player 选 $q\in\Delta_n$ 最小化。Von Neumann minimax 定理断言:双方"先后手"不影响结果, $$ v=\max_{p\in\Delta_m}\min_{q\in\Delta_n}p^TAq =\min_{q\in\Delta_n}\max_{p\in\Delta_m}p^TAq. $$ 这个共同的值 $v$ 称为**博弈的值 (value of the game)**。我们不证明这个定理(它是线性规划对偶的推论),但要把它用成一个等价说法:$(p^*,q^*)$ 是 Nash 均衡,当且仅当它是函数 $L(p,q)=p^TAq$ 的 **saddle point**——对 $p$ 是极大、对 $q$ 是极小。注意 $L$ 对 $p$ 线性(故 concave)、对 $q$ 线性(故 convex),所以零和均衡是一个 convex--concave saddle point 问题,这是后文一切算法的几何框架。 近似均衡的误差用 **saddle gap** 度量: $$ \operatorname{Gap}(p,q) =\max_i(Aq)_i-\min_j(p^TA)_j. $$ 这里 $(Aq)_i=e_i^TAq$ 是 row 出纯策略 $i$ 对抗 $q$ 的期望 payoff,$(p^TA)_j=p^TAe_j$ 同理。两个量的含义是:$\max_i(Aq)_i$ 是 row 对 $q$ 的 best response 能拿到的 payoff;$\min_j(p^TA)_j$ 是 column 对 $p$ 的 best response 能把 payoff 压到的水平。差值越大,说明双方偏离现状的动机越强。 **Lemma 1**. 对任意 $(p,q)$,有 $\operatorname{Gap}(p,q)\ge0$,并且 $\operatorname{Gap}(p,q)\le\epsilon$ 当且仅当 $(p,q)$ 满足 $$ p^TAq\ge\max_i(Aq)_i-\epsilon, \qquad p^TAq\le\min_j(p^TA)_j+\epsilon, $$ 即任何单边 best response 最多改善 $\epsilon$。这样的 $(p,q)$ 称为 **$\epsilon$-approximate Nash equilibrium**。 **证明**。先注意 $p^TAq$ 被夹在 gap 的两个端点之间: $$ p^TAq=\sum_i p_i\,(Aq)_i\le\sum_i p_i\max_{i'}(Aq)_{i'}=\max_{i'}(Aq)_{i'}, $$ 因为 $\{p_i\}$ 是概率权重,加权平均不超过最大值;同理 $$ p^TAq=\sum_j q_j\,(p^TA)_j\ge\min_{j'}(p^TA)_{j'}. $$ 于是 $\operatorname{Gap}(p,q)=\max_i(Aq)_i-\min_j(p^TA)_j\ge p^TAq-p^TAq=0$。进一步,把 gap 按定义拆成两项: $$ \operatorname{Gap}(p,q) =\underbrace{\big[\max_i(Aq)_i-p^TAq\big]}_{\text{row 偏离的获益}}\; +\underbrace{\big[p^TAq-\min_j(p^TA)_j\big]}_{\text{column 偏离的获益}}, $$ 由上面的夹逼,两个方括号各自非负。两个非负数之和不超过 $\epsilon$,当且仅当每一项都不超过 $\epsilon$——这正是题述两个不等式。Q.E.D. 这个引理把"近似均衡"转化成一个可以逐项估计的数值条件:要验证 $(p,q)$ 是近似均衡,只需分别估计 $\max_i(Aq)_i$ 与 $\min_j(p^TA)_j$ 两个量。第 9 节会看到,量子验证正是围绕这两个量展开的。 (mwu-regret-analysis)= ## 3. Multiplicative weights:更新规则与直觉 怎么找到近似均衡?思路是让双方玩一个假想的重复博弈,各自用"根据历史表现调整权重"的规则出招,然后取平均策略。本节定义这个规则,下一节证明它有效。 设 $A_{ij}\in[-1,1]$(一般的有界矩阵总可以归一化到这个范围,这只影响常数因子)。Row player 维护一组权重 $w_t(i)$,初始 $w_1(i)=1$(对所有纯策略一视同仁)。第 $t$ 轮,column 实际出了纯策略 $j_t$ 之后,row 按指数规则更新:表现好(payoff $A_{i,j_t}$ 大)的策略权重乘上更大的因子, $$ w_{t+1}(i)=w_t(i)\,e^{\eta A_{i,j_t}}, $$ 其中 $\eta>0$ 是学习率,稍后选取。归一化后即得第 $t$ 轮的混合策略 $$ p_t(i)= \frac{\exp\!\big(\eta\sum_{\tau0$,不等号方向不变),整理即得 $$ \frac1T\sum_t p_t^Tg_t \ge\frac1T\sum_t g_t(i^*)-\eta-\frac{\log m}{\eta T} =\max_i\frac1T\sum_t g_t(i)-\eta-\frac{\log m}{\eta T}. $$ Q.E.D. 有两点值得停下来看。其一,证明里唯一的"损失"来自两处放缩:$e^x\le1+x+x^2$ 引入了 $\eta^2T$ 项(二阶项),只保留 $i^*$ 引入了 $\log m$ 项(对 m 个策略的"无知税")。Regret 界的形状 $\eta+\frac{\log m}{\eta T}$ 完全是这两笔账的平衡。其二,上面的推导假设 row 每轮看到的是确定的 payoff 向量 $g_t$;在采样版本(只看到所查询的元素)中,每一步的更新是无偏估计,需要用 Hoeffding/Azuma 型集中不等式控制随机涨落——多出的因子只有对数级,被吸收进 $\widetilde O$ 记号。因此采样版结论形式相同: $$ \frac1T\sum_t e_{i_t}^TAq_t \;\ge\; \max_i e_i^TA\bar q-O\!\left(\eta+\frac{\log m}{\eta T}\right), $$ 其中 $\bar q=\frac1T\sum_t e_{j_t}$ 是 column 实际出招的经验分布(用 $\sum_t g_t(i)/T=(A\bar q)_i$ 改写最大值项)。Column 一方对称: $$ \frac1T\sum_t p_t^TAe_{j_t} \;\le\; \min_j \bar p^TAe_j+O\!\left(\eta+\frac{\log n}{\eta T}\right), \qquad \bar p=\frac1T\sum_t e_{i_t}. $$ **参数平衡。** 现在的任务是选 $\eta,T$ 使误差项 $f(\eta)=\eta+\frac{\log m}{\eta T}$ 不超过 $\epsilon$。先对固定的 $T$ 优化 $\eta$:求导 $$ f'(\eta)=1-\frac{\log m}{\eta^2T}=0 \quad\Longrightarrow\quad \eta^*=\sqrt{\frac{\log m}{T}}, $$ 此时两项相等($\eta^*=\frac{\log m}{\eta^*T}$,这正是"参数平衡"的含义:让两个误差来源同阶),最小值 $$ f(\eta^*)=2\sqrt{\frac{\log m}{T}}. $$ 要求 $2\sqrt{\log m/T}\le\epsilon$,解得 $$ T\ge\frac{4\log m}{\epsilon^2} \quad\Longrightarrow\quad \eta=\Theta(\epsilon),\qquad T=\Theta\!\left(\frac{\log m}{\epsilon^2}\right)=\widetilde O(1/\epsilon^2). $$ 于是经验策略 $(\bar p,\bar q)$ 满足什么?下一节把两个 regret 界拼起来。 (regret-to-equilibrium)= ## 5. 从 regret 到近似均衡 把 row 与 column 的 regret 界相加。记两边共有的"平均对局收益"为 $$ V:=\frac1T\sum_{t=1}^T p_t^TAq_t $$ (采样版中用集中不等式把 $e_{i_t}^TAq_t$、$p_t^TAe_{j_t}$ 与 $p_t^TAq_t$ 的差控制在同一误差量级内)。Row 的界给出 $$ \max_i(A\bar q)_i\le V+O(\epsilon); $$ column 的界给出 $$ \min_j(\bar p^TA)_j\ge V-O(\epsilon). $$ 两式相减,$V$ 恰好抵消: $$ \operatorname{Gap}(\bar p,\bar q) =\max_i(A\bar q)_i-\min_j(\bar p^TA)_j \le V+O(\epsilon)-V+O(\epsilon)=O(\epsilon). $$ 由 Lemma 1,$(\bar p,\bar q)$ 是 $O(\epsilon)$-approximate Nash equilibrium。这就是 MWU 解零和博弈的完整逻辑链: $$ \text{MWU 低 regret}\ \Longrightarrow\ \text{经验分布的 saddle gap 小}\ \Longrightarrow\ \text{近似均衡}. $$ 注意一个微妙之处:输出的是 $\bar p,\bar q$(各轮**实际出招**的经验分布),而不是 $\frac1T\sum_t p_t$(各轮分布的平均)。前者是稀疏的——至多 $T$ 个不同纯策略出现过——这一点对量子算法的输出形式至关重要,见第 8 节。 (classical-bottleneck-quantum-gibbs)= ## 6. 经典实现的维数瓶颈 MWU 每轮要做什么?看 row 一方。定义能量向量 $$ u_t(i)=\eta\sum_{\tau 提示:把 $p^TAq=\sum_i p_i(Aq)_i$ 看成诸 $(Aq)_i$ 的加权平均。 **练习 2【Minimax 定理与 saddle gap】**(→ [第 2 节](#minimax-saddle-gap)) 1. 写出 $\operatorname{Gap}(p,q)$ 的定义,并分别说明 $\max_i(Aq)_i$ 与 $\min_j(p^TA)_j$ 对应哪一方的 best response payoff。 2. (定义核查)补全 Lemma 1 的证明中"加权平均不超过最大值"这一步的细节,并举例说明对一般的 $(p,q)$,gap 可以严格大于双方实际偏离获益中的任何一项。 > 提示:让另一方的策略离最优也很远。 **练习 3【MWU 更新规则与 regret 分析】**(→ [第 3 节](#mwu-regret-analysis)) 1. 设 $m=2$、$\eta=\frac12$、初始权重 $w_1=(1,1)$,第一轮 payoff 向量 $g_1=Ae_{j_1}=(1,-1)$。计算 $w_2$、$Z_2$ 与第 2 轮的混合策略 $p_2$(给出表达式与近似数值)。 2. (推导)从单步估计 $Z_{t+1}\le Z_t\exp(\eta p_t^Tg_t+\eta^2)$ 出发,不翻回第 4 节,独立重推 Theorem 2;并验证 $\eta^*=\sqrt{\log m/T}$ 确实是 $f(\eta)=\eta+\frac{\log m}{\eta T}$ 的极小点(检查二阶导数)。 > 提示:对 $f(\eta)=\eta+(\log m/T)\,\eta^{-1}$ 逐项求导。 **练习 4【从 regret 到近似均衡】**(→ [第 5 节](#regret-to-equilibrium)) 1. 记 $V=\frac1T\sum_t p_t^TAq_t$。由 $\max_i(A\bar q)_i\le V+\epsilon_1$ 与 $\min_j(\bar p^TA)_j\ge V-\epsilon_2$,推导 $\operatorname{Gap}(\bar p,\bar q)\le\epsilon_1+\epsilon_2$,并指出 $V$ 是如何被抵消的。 2. (输出模型)解释为什么经验分布 $\bar p$ 的支持大小至多 $T$、描述长度 $O(T\log(m+n))$;如果算法改为输出 $\frac1T\sum_t p_t$(分布的平均),这两个结论还成立吗?为什么算法偏偏选择输出经验分布? > 提示:$\bar p$ 的每个非零分量都是 $k/T$ 形的有理数。 **练习 5【经典维数瓶颈与量子动态 Gibbs 采样】**(→ [第 6 节](#classical-bottleneck-quantum-gibbs)) 1. 写出 Gibbs 分布的振幅编码态 $|p_t\rangle$,并说明为什么对它测量计算基就得到一个服从 $p_t$ 的经典样本。 2. 验证相邻两轮每个权重只变动 $e^{\pm\eta/2}$ 因子,并由此说明 rejection sampling 的接受概率是 $1-O(\eta)$ 量级。 3. 解释朴素制备为何在权重集中于少数分量时成功率降到 $1/m$ 量级(即使配振幅放大也只降到 $\sqrt m$ 量级),而动态复用上一轮 sampler 如何避开这一最坏情况。 > 提示:受控旋转要求振幅不超过 1,朴素方案统一除以最大权重 $e^{u_{\max}}$。 **练习 6【总复杂度与输出形式】**(→ [第 8 节](#complexity-output)) 1. 解读 $\widetilde O(\sqrt{m+n}\,\epsilon^{-5/2}+\epsilon^{-3})$ 中各项因子的来源:$\sqrt{m+n}$、$\epsilon^{-5/2}$ 与 $\epsilon^{-3}$ 分别对应什么开销? 2. 若把算法输出从稀疏经典分布改成 $m$ 维量子态并要求完整读出,复杂度会发生什么变化?结合 quantum state tomography 说明。 3. (复杂度分析)设 $m+n=10^6$。分别画出经典 $\widetilde O((m+n)/\epsilon^2)$、早期量子 $\widetilde O(\sqrt{m+n}\epsilon^{-3})$ 与改进量子 $\widetilde O(\sqrt{m+n}\epsilon^{-5/2}+\epsilon^{-3})$ 在 $\epsilon\in[10^{-8},1]$ 上的相对大小(忽略对数因子),找出改进算法占优的区间,并与 $\epsilon=(m+n)^{-1}$ 的解析阈值对照。 > 提示:比较改进量子与经典时,先在两边同除 $\sqrt{m+n}\,\epsilon^{-2}$。 **练习 7【验证、payoff oracle 与适用范围】**(→ [第 9 节](#verification-oracle-scope)) 1. 写出 payoff oracle $O_A$ 的作用,并指出验证 $(\bar p,\bar q)$ 是 $\epsilon$-近似均衡需要估计哪两个量、各用什么量子子程序。 2. (概念延伸)两人一般和博弈中,双方各自运行 no-regret 动态。用囚徒困境或性别之争(battle of the sexes)说明:minimax 值不再有意义,且经验平均策略不必接近任何 Nash 均衡。由此说明第 9 节"不能推广"的保留条款是本质的而非技术性的。 > 提示:no-regret 保证的是逼近(粗)相关均衡,一般和博弈中它未必是 Nash 均衡。 **练习 8【Matching Pennies 实例】**(→ [第 10 节](#matching-pennies)) 1. 对 $A=\begin{pmatrix}1&-1\\-1&1\end{pmatrix}$ 与 $p=(x,1-x)$、$q=(y,1-y)$,计算 $Aq$、$p^TA$ 与期望 payoff $p^TAq$。 2. (计算)对 Matching Pennies 验证:当双方都用 $x=y=1/2+\delta$ 时 $\operatorname{Gap}=4|\delta|$;再构造一个 $2\times2$ 零和博弈使其均衡不是均匀分布,并计算它的 gap 通式。 > 提示:混合均衡由"对手的两个纯策略 payoff 相等"确定。 ## 参考文献 - Zoo 编号 485:Bouland、Getachew、Jin、Sidford 与 Tian, [Quantum Speedups for Zero-Sum Games via Improved Dynamic Gibbs Sampling](https://arxiv.org/abs/2301.03763). - Zoo 编号 486:van Apeldoorn 与 Gilyén, [Quantum Algorithms for Zero-Sum Games](https://arxiv.org/abs/1904.03180).