对偶范数(Dual Norm)

[复制链接]
发表于 2026-1-11 06:45:05 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
对偶范数(Dual Norm) 是在泛函分析和凸优化中非常告急的概念。它用于衡量向量和线性函数之间的关系,尤其是在优化题目和范数的多少明白中非常有效。
1. 对偶范数的界说

给定一个向量空间                               V                          V               V 和它的范数                               ∥                      ⋅                      ∥                          \|\cdot\|               ∥⋅∥,对偶范数(Dual Norm)                              ∥                      ⋅                               ∥                         ∗                                  \|\cdot\|_∗               ∥⋅∥∗​ 是界说在                                        V                         ∗                                  V^*               V∗(                              V                          V               V的对偶空间)上的范数,用于度量对偶空间中的元素的巨细。对偶空间包罗作用在原始空间                               V                          V               V 上的全部线性函数。
对偶范数的界说是:
                                    ∥                         y                                   ∥                            ∗                                  =                         sup                         ⁡                         {                                   y                            T                                  x                         :                         ∥                         x                         ∥                         ≤                         1                         }                              \|y\|_* = \sup \{ y^T x : \|x\| \leq 1 \}                  ∥y∥∗​=sup{yTx:∥x∥≤1}
大概更一样平常地表现为:
                                    ∥                         y                                   ∥                            ∗                                  =                         sup                         ⁡                         {                         ⟨                         y                         ,                         x                         ⟩                         :                         ∥                         x                         ∥                         ≤                         1                         }                              \|y\|_* = \sup \{ \langle y, x \rangle : \|x\| \leq 1 \}                  ∥y∥∗​=sup{⟨y,x⟩:∥x∥≤1}
此中                               ⟨                      y                      ,                      x                      ⟩                          \langle y, x \rangle               ⟨y,x⟩ 表现向量                               y                          y               y 和                               x                          x               x 的内积,                              ∥                      x                      ∥                      ≤                      1                          \|x\| \leq 1               ∥x∥≤1 表现取原空间中全部范数小于即是 1 的向量。对偶范数本质上是在衡量对偶空间中元素                               y                          y               y 作用在原空间中单元“球体”上的最大效果。
2. 常见范数和对偶范数的关系

差异范例的范数有各自的对偶范数,这些关系可以资助我们更好地明白对偶范数的寄义。


  • L1 范数和 L∞ 范数:

    •                                              ∥                               x                                           ∥                                  1                                          =                                           ∑                                               i                                     =                                     1                                              n                                          ∣                                           x                                  i                                          ∣                                      \|x\|_1 = \sum_{i=1}^n |x_i|                        ∥x∥1​=∑i=1n​∣xi​∣ 的对偶范数是                                              ∥                               y                                           ∥                                  ∞                                          =                                                        max                                     ⁡                                              i                                          ∣                                           y                                  i                                          ∣                                      \|y\|_\infty = \max_i |y_i|                        ∥y∥∞​=maxi​∣yi​∣。
    • 直观上,L1 范数衡量向量元素的绝对值之和,而 L∞ 范数则取向量中最大的元素的绝对值。它们是对偶的,由于在                                              L                               1                                      L1                        L1 单元球上的内积最大值由一个元素的极值决定。

  • L2 范数:

    •                                              ∥                               x                                           ∥                                  2                                          =                                                                      ∑                                                       i                                           =                                           1                                                      n                                                                x                                        i                                        2                                                                          \|x\|_2 = \sqrt{\sum_{i=1}^n x_i^2}                        ∥x∥2​=∑i=1n​xi2​              ​ 的对偶范数仍旧是                                              ∥                               y                                           ∥                                  2                                                 \|y\|_2                        ∥y∥2​,即对偶范数也是 L2 范数。这意味着,欧几里得范数的对偶范数与自身类似。

  • L∞ 范数和 L1 范数:

    •                                              ∥                               x                                           ∥                                  ∞                                          =                                                        max                                     ⁡                                              i                                          ∣                                           x                                  i                                          ∣                                      \|x\|_\infty = \max_i |x_i|                        ∥x∥∞​=maxi​∣xi​∣ 的对偶范数是                                              ∥                               y                                           ∥                                  1                                          =                                           ∑                                               i                                     =                                     1                                              n                                          ∣                                           y                                  i                                          ∣                                      \|y\|_1 = \sum_{i=1}^n |y_i|                        ∥y∥1​=∑i=1n​∣yi​∣。L∞ 范数衡量向量中最大分量的绝对值,而 L1 范数则衡量全部分量的绝对值之和。二者是对偶的,由于在                                              L                               ∞                                      L∞                        L∞ 单元球上的最大内积由全部分量之和决定。

3. 直观明白

对偶范数在多少上与原范数有直接的关系,可以通过下列方式明白:


  • 对偶范数度量的是对偶空间中元素(线性函数)作用于原空间中元素的最大效果。
  • 对偶范数告诉我们,对一个给定的线性函数,它在原空间中“作用得最强”的方向是什么,以及在单元“球体”上的最大效果是多少。
举个例子,假如你有一个向量空间中的某个“球体”(原范数小于即是 1 的全部向量),对偶范数形貌的是,给定一个线性映射(大概对偶空间中的元素),它在这个球体中能得到的最大内积是多少。
4. 示例

例子 1: L1 范数与 L∞ 范数 思量向量                               x                      =                      (                      1                      ,                      −                      2                      ,                      3                      )                          x = (1, -2, 3)               x=(1,−2,3)。盘算其 L1 范数:
                                    ∥                         x                                   ∥                            1                                  =                         ∣                         1                         ∣                         +                         ∣                         −                         2                         ∣                         +                         ∣                         3                         ∣                         =                         6                              \|x\|_1 = |1| + |-2| + |3| = 6                  ∥x∥1​=∣1∣+∣−2∣+∣3∣=6
其对偶范数为 L∞ 范数。假设                              y                      =                      (                      2                      ,                      −                      1                      ,                      4                      )                          y = (2, -1, 4)               y=(2,−1,4),则 L∞ 范数为:
                                    ∥                         y                                   ∥                            ∞                                  =                         max                         ⁡                         {                         ∣                         2                         ∣                         ,                         ∣                         −                         1                         ∣                         ,                         ∣                         4                         ∣                         }                         =                         4                              \|y\|_\infty = \max\{|2|, |-1|, |4|\} = 4                  ∥y∥∞​=max{∣2∣,∣−1∣,∣4∣}=4
例子 2: L∞ 范数与 L1 范数 思量向量                               x                      =                      (                      3                      ,                      −                      1                      ,                      2                      )                          x = (3, -1, 2)               x=(3,−1,2)。盘算其 L∞ 范数:
                                    ∥                         x                                   ∥                            ∞                                  =                         max                         ⁡                         {                         ∣                         3                         ∣                         ,                         ∣                         −                         1                         ∣                         ,                         ∣                         2                         ∣                         }                         =                         3                              \|x\|_\infty = \max\{ |3|, |-1|, |2| \} = 3                  ∥x∥∞​=max{∣3∣,∣−1∣,∣2∣}=3
其对偶范数为 L1 范数。假设                              y                      =                      (                      1                      ,                      −                      1                      ,                      1                      )                          y = (1, -1, 1)               y=(1,−1,1),则 L1 范数为:
                                    ∥                         y                                   ∥                            1                                  =                         ∣                         1                         ∣                         +                         ∣                         −                         1                         ∣                         +                         ∣                         1                         ∣                         =                         3                              \|y\|_1 = |1| + |-1| + |1| = 3                  ∥y∥1​=∣1∣+∣−1∣+∣1∣=3
5. 应用场景



  • 凸优化:对偶范数用于界说优化题目中的对偶题目。在优化束缚中,对偶范数可以用于界说对束缚的敏感性和最优性条件。
  • 希奇性和正则化:L1 范数的对偶范数是 L∞ 范数,而 L∞ 范数对信号的影响重要会合在最大值上。这些对偶范数的性子可以用于筹划正则化计谋,以促进希奇解或控制最差情况。
  • 多少表明:对偶范数的多少表明与支持函数相干,支持函数是凸分析中形貌一个聚集怎样与一个方向相干的最大水平的工具。
6.总结



  • 对偶范数界说为线性映射作用于原范数单元球体上的最大值。
  • 差异范数之间的对偶关系,比方                                    L                         1                              L1                  L1 和                                    L                         ∞                              L∞                  L∞ 范数之间的对偶关系,资助我们明白向量的差异度量方法之间的接洽。
  • 应用广泛:对偶范数在凸优化、正则化技能和多少分析中有告急的应用。
回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表