Inequality Notes

Notes on Inequality

• 实数上的平均值不等式

  若 $a,b>0,a,b\in \mathbb{R}$, 则

  $$\sqrt{ab}\le \frac{a+b}{2}\le \sqrt{\frac{a^2+b^2}{2}}$$

  证：

  $$\begin{array}{rl}\sqrt{ab}& =\sqrt{(\frac{a+b}{2}+\frac{a-b}{2})(\frac{a+b}{2}-\frac{a-b}{2})}\\ & =\sqrt{{\left(\frac{a+b}{2}\right)}^2-{\left(\frac{a-b}{2}\right)}^2}\\ & \le \sqrt{{\left(\frac{a+b}{2}\right)}^2}\\ & =\frac{a+b}{2}\\ & \le \sqrt{{\left(\frac{a+b}{2}\right)}^2+{\left(\frac{a-b}{2}\right)}^2}\\ & =\sqrt{\frac{a^2+b^2}{2}}\end{array}$$

  注意这里可以有一些弹性的变换，如：

  $$ab\le \frac{1}{2}ϵa^2+\frac{1}{2}\frac{b^2}{ϵ},\mathrm{\forall }ϵ>0$$
• AM-GM不等式

  虽然此时还没有长度，面积，体积等的定义，但是直觉理解是：$\frac{a+b}{2}$ 是平均边长，$\sqrt{ab}$ 是等体积的正方形的平均边长。

  所以 $\sqrt{ab}\le \frac{a+b}{2}$ 的意思是说，在等面积长方形中，正方形是平均边长最小的。

  当然这也可以扩展到多维之中，自然的，我们推测：

  $$\sqrt[n]{x_1{x}_2\cdots x_n}\le \frac{x_1+x_2+\cdots +x_n}{n},x_i>0$$

  Proof by induction (From Wikipedia):

  Suppose it holds for integers ≤ n.

  Let $\alpha =\frac{1}{n}(x_1+\cdots +x_{n+1})$, Suppose $x_n>\alpha$ and $x_{n+1}<\alpha$ (by reordering, If such reordering cannot be done, it means that all x_i are equal).

  Let $y$ be $x_n+x_{n+1}-\alpha$, so that $\alpha$ is also the mean of $x_1,\cdots ,x_{n-1},y$. By induction we have.

  $${\alpha }^{n+1}={\alpha }^n\alpha \ge x_1{x}_2\cdots x_{n-1}y\alpha$$

  All we need to do is to proof $y\alpha >x_n{x}_{n+1}$

  $$\begin{array}{rl}y\alpha -x_n{x}_{n+1}& =(x_n+x_{n+1}-\alpha )\alpha -x_n{x}_{n+1}\\ & =(x_n-\alpha )(\alpha -x_{n+1})>0\end{array}$$

  Hence ${\alpha }^{n+1}>x_1{x}_2\cdots x_{n+1}$ If x_i are not all the same.

• Weighted AM–GM inequality

  if $w_i$ are positive integers, we can easily have

  $$\sqrt[w]{x_1^{w_1}{x}_2^{w_2}\cdots x_n^{w_n}}\le \frac{w_1{x}_1+w_2{x}_2+\cdots +w_n{x}_n}{w},x_i>0$$

  where $w=\sum _i{w}_i$.

  if $w_i$ are positive rationals, by finding the lcm (想办法通分), it also holds.

  if $w_i$ are real numbers, by basic analysis, it still holds.

• 常用复数上的不等式

  Let $z=x+yi$, by definition

  $${\left|z\right|}^2=z\cdot \bar{z}=x^2+y^2=\mathrm{Re}(z{)}^2+\mathrm{Im}(z{)}^2$$

  所以

  $$\left|z\right|\ge |\mathrm{Re}(z)|,\left|z\right|\ge |\mathrm{Im}(z)|$$ $$\begin{array}{rl}\left|{|z+w|}^2\right|& =(z+w)\left|(z+w)\right|\\ & =(z+w)(\left|z\right|+\left|w\right|)\\ & ={\left|z\right|}^2+{\left|w\right|}^2+(z\bar{w}+\bar{z}w)\\ & ={\left|z\right|}^2+{\left|w\right|}^2+2\mathrm{Re}(z\bar{w})\\ & \le {\left|z\right|}^2+{\left|w\right|}^2+2\left|z\bar{w}\right|\\ & ={\left|z\right|}^2+{\left|w\right|}^2+2\left|z\right|\left|w\right|\\ & ={(\left|z\right|+\left|w\right|)}^2\end{array}$$

  所以

  $$|z+w|\le \left|z\right|+\left|w\right|$$

  最后，有

  $$|\left|w\right|-\left|z\right||\le |w-z|$$
• 柯西-施瓦茨不等式(Cauchy Schwarz inequality)

  更新：内积是柯西-施瓦茨不等式的抽象，在另一篇笔记的6.15节看到了这个不等式，以下有部分是过时的原始内容：

  这篇文章：向量分析-Cauchy-Schwarz不等式之本質與意義-林琦焜 (缓存)写的非常好。

  在思考内积时，不能用欧式空间/余弦定理等，而要抽象成不依赖空间的东西，再用内积定义角度，神奇的是，角度定义可以不止一种，甚至可以是复数。

  • 证法一：

    如果 $a_1,a_2,\cdots ,a_n,\text{ and }{b}_1,b_2,\cdots ,b_n$ 都是复数，那么

    $${\left|\sum _{i=1}^n{a}_i{\bar{b}}_i\right|}^2\le \left(\sum _{i=1}^n|a_i{|}^2\right)\left(\sum _{i=1}^n|b_i{|}^2\right)$$

    证：设$a,b$是复向量, $a\ne 0$，$\lambda$是标量，$c=b-\lambda a$

    $$0\le |c|=c\bar{c}=(b-\lambda a)(\bar{b}-\lambda \bar{a})$$

    对$\lambda$应用判别式Δ≤0，得：

    $$\begin{gathered} (b\bar{a}+a\bar{b}{)}^2\le 4|a{|}^2|b{|}^2 \\ (b\bar{a}{)}^2+(a\bar{b}{)}^2\le 2|a{|}^2|b{|}^2 \end{gathered}$$

    注意到 $b\bar{a}=\overline{b\stackrel{―}{a}}$，所以

    $$(a\bar{b}{)}^2\le |a{|}^2|b{|}^2$$

  • 证法二：

    由平均值不等式， $\sqrt{ab}\le \sqrt{\frac{1}{2}{a}^2+\frac{1}{2}{b}^2}$, 令

    $${\tilde{a}}_i=\frac{a_i}{\sqrt{\sum _{i=1}^n{a}_i^2}},{\tilde{b}}_i=\frac{b_i}{\sqrt{\sum _{i=1}^n{b}_i^2}}$$

    则

    $${\tilde{a}}_i{\tilde{b}}_i\le \frac{1}{2}{\tilde{a}}_i^2+\frac{1}{2}{\tilde{b}}_i^2$$

    两边对$i$求和

    $$\sum _i{\tilde{a}}_i{\tilde{b}}_i\le \sum _i\frac{1}{2}{\tilde{a}}_i^2+\frac{1}{2}{\tilde{b}}_i^2$$

    a.k.a.

    $$\frac{\sum _i^n{a}_i{b}_i}{\sqrt{\sum _{i=1}^n{a}_i^2}\sqrt{\sum _{i=1}^n{b}_i^2}}\le 1$$

    a.k.a

    $$\sum _i^n{a}_i{b}_i\le \sqrt{\sum _{i=1}^n{a}_i^2}\sqrt{\sum _{i=1}^n{b}_i^2}$$

    在实数成立之后，由 $|z+w|\le \left|z\right|+\left|w\right|$ 要叫推出在复数上也成立

    $$\left|\sum _i^n{a}_i{b}_i\right|\le \sum _i^n\left|a_i{b}_i\right|=\sum _i^n\left|a_i\right|\left|b_i\right|$$
• 杨氏不等式(Young’s inequality)

  $$ab\le {\int }_0^{a}f(x)+{\int }_0^b{f}^{-1}(y)$$

  

  令 $f(x)=x^{p-1}\text{ where p > 1 }$ 可得

  $$ab\le \frac{a^p}{p}+\frac{b^q}{q}\text{ where }a,b>0,\frac{1}{p}+\frac{1}{q}=1$$

  等号成立条件为 $b=a^{p-1}$ ，亦即 $a=b^{q-1}$ 亦即 $a^p=b^q$

  另一种比较代数的证明方式见 https://math.stackexchange.com/a/259837

• Hölder不等式(实数版)

  给定任意实数$a_1,\cdots ,a_n,b_1,\cdots ,b_n,p>1,q>1,\frac{1}{p}+\frac{1}{q}=1$则：

  $$\sum _{i=1}^n{a}_i{b}_i\le {\left(\sum _{i=1}^n{\left|a_i\right|}^p\right)}^{\frac{1}{p}}{\left(\sum _{i=1}^n{\left|b_i\right|}^q\right)}^{\frac{1}{q}}$$

  证：仿效柯西不等式证法二：令

  $${\tilde{a}}_i=\frac{a_i}{{\left(\sum _{i=1}^n{\left|a_i\right|}^p\right)}^{\frac{1}{p}}},{\tilde{b}}_i=\frac{b_i}{{\left(\sum _{i=1}^n{\left|b_i\right|}^q\right)}^{\frac{1}{q}}},$$

  则由杨式不等式，左右累加并化简得 $\sum {\tilde{a}}_i{\tilde{b}}_i\le 1$，又分母大于0，所以分子小于分母，即为所求。