本文考虑下列含局部和非局部椭圆型算子方程的 Brezis-Nirenberg 型问题

其中 $ \Omega\subset \mathbb{R}^N $ ( $ N>2 $ ) 是光滑有界区域, $ s\in (0,1) $, $ 2^*= \frac{2N}{N-2} $ 为临界指数, $ (-\Delta)^s $ 为分数阶算子, 定义为

这里 $ c_{N,s} $ 是一个正的规范化常数, P.V. 表示求柯西主值积分.

关于含有局部和非局部椭圆型算子方程的研究是最近一个热门的研究课题. 这类算子来源于不同类型随机过程的叠加, 如经典的随机漫步和 Lévy 飞行. 另外, 在研究最佳动物觅食策略方面也有有趣的应用, 见文献 [1-4]. 讨论这类混合算子方程的困难在于局部算子 $ \Delta $ 和非局部算子 $ (-\Delta)^s $ 具有不同阶的伸缩属性, 见文献 [5]. 目前该算子方程受关注的问题有 Hong-Krahn-Szegö 不等式 ^[6], Faber-Krahn 不等式及其应用 ^[7], 解的正则性问题^[8], 特征值问题和解的存在性问题 ^[9], 等等, 更多参考文献, 见文献 [10-12].

最近, Biagi 等 ^[13]研究了问题 (1.1) 正解的存在性. 他们根据 Brezis 和 Nirenberg 经典文献 [14] 中的方法, 考虑了下列极小问题

空间 $ X $ 的定义见下文. 如果 $ \mathcal{S}_n(\lambda) $ 可达且 $ \mathcal{S}_n(\lambda)>0 $, 则问题 (1.1) 存在正解. 具体地, 他们得到了以下结论

(1) 如果 $ \Omega \subseteq \mathbb{R}^N $ 是有界星型区域, 则对于任意的 $ \lambda \leq 0 $, 方程 (1.1) 不存在正解 (也见文献 [15]);

(2) 对于任意的 $ \lambda \in\left[0, \lambda_{1, s}\right] $, 问题 (1.1) 不存在解属于 $ \mathcal{B}\triangleq\left\{u \in L^{2^*}\left(\mathbb{R}^N\right):\|u\| \leq \mathcal{S}^{\frac{N-2}{4}}\right\}, $ 其中 $ \lambda_{1,s} $ 为分数阶算子 $ (-\Delta)^s $ 的 Dirichlet 边界问题第一特征值, $ \mathcal{S} $ 为 Sobolev 嵌入 $ H^1_0(\Omega)\hookrightarrow L^{2^*}(\Omega) $ 的最佳常数;

(3) 存在某个 $ \lambda^* \in\left[\lambda_{1, s}, \lambda_1\right) $, 当 $ \lambda\in (\lambda^*,\lambda_1) $ 时, 问题 (1.1) 至少存在一个正解;

(4) 对于 $ \lambda\in [\lambda_1,+\infty) $, 方程 (1.1) 不存在正解.

注意到, 当 $ \lambda\in (\lambda_{1,s}, \lambda^*] $ 时, 方程 (1.1) 是否存在正解仍未可知. 事实上, 根据 Brezis-Nirenberg 的方法, 证明 $ \mathcal{S}_n(\lambda) $ 可达的关键一步是保证 $ \mathcal{S}_n(\lambda)<\mathcal{S} $. 然而对于 $ \lambda\in (\lambda_{1,s}, \lambda^*] $, 有 $ \mathcal{S}(\lambda)=\mathcal{S} $, 此时, Brezis 和 Nirenberg 的方法就行不通了, 见文献 [13]. 因此, 一个很自然的问题是: $ \lambda^* $ 等于多少? Biagi 在随后的文献 [16] 中猜测它可能与区域 $ \Omega $ 的几何形状有关. 我们对 $ \lambda^* $ 的下界给出一个估计.

${\bf定理1.1}$ 当 $ \lambda\in(\lambda_1-\mathcal{S} |\Omega|^{-\frac{2}{N}},\lambda_1) $ 时, 问题 (1.1) 至少存在一个正解 $ u_\lambda $ 且满足 $ u_\lambda\rightarrow 0 $, $ \lambda\rightarrow \lambda_1^- $.

从上述定理知, 如果 $ \lambda_1-\mathcal{S} |\Omega|^{-\frac{2}{N}}=\lambda_{1,s} $, 即, $ |\Omega|=\left(\frac{\lambda_1-\lambda_{1,s}}{\mathcal{S}}\right)^{-\frac{N}{2}} $, 则有下面推论

${\bf推论1.1}$ 若 $ |\Omega|=\left(\frac{\lambda_1-\lambda_{1,s}}{\mathcal{S}}\right)^{-\frac{N}{2}} $, 则对于任意的 $ \lambda\in(\lambda_{1,s},\lambda_1) $ 时, 问题 (1.1) 至少存在一个正解.

尽管 $ \lambda_1 $ 和 $ \lambda_{1,s} $ 的大小均依赖 $ \Omega $ 的测度 (如: 当 $ |\Omega|\rightarrow 0 $ 时, $ \lambda_1\rightarrow +\infty $, 见文献 [10]) 导致我们无法给出 $ |\Omega| $ 的显性表达式, 但上述结论意义在于: 只要区域 $ \Omega $ 的测度适当并使得上述等式成立, 不管它的几何形状如何 (具有光滑的边界), 对于任意的 $ \lambda\in(\lambda_{1,s},\lambda_1) $ 时, 问题 (1.1) 都存在一个正解.

${\bf注 1.1}$ 设 $ \Omega \subseteq \mathbb{R}^N $ 是有界星型 $ C^2 $ 区域, 通过建立 Pohozaev 等式, Biswa^[17] 证明了当 $ \lambda\leq (1-s)\lambda_{1,s} $ 时, (1.1) 不存在 $ \mathcal{C}^2(\Omega)\cap \mathcal{C}(\mathbb{R}^N) $ 中的正解.

${\bf注 1.2}$ 最近, 利用上同调指标理论, Silva 等 ^[18]对于拟线性问题证明了一个类似定理 1.1 的结果. 我们这里使用山路定理证明, 方法要相对简单一些.

下面讨论当 $ \lambda\in [\lambda_1,+\infty) $ 时, 问题 (1.1) 非平凡解的存在性. 由于此种情况下不存在正解, 因此所得的解必然是变号解.

${\bf定理1.2}$ 对于任意的 $ \lambda\in[\lambda_1,+\infty) $, 问题 (1.1) 至少存在一个变号解.

关于经典 Brezis-Nirenberg 问题, 即

变号解的存在性, 目前已有很多文献, 如文献 [19–21]. Capozzi 等在文献 [19] 中利用 Rabinowitz 环绕定理[22]证明了当 $ \lambda>0 $ 时解的存在性. 之后, Gazzola 和 Ruf 在文献 [20] 中 改进了他们的方法, 并且考虑了一般的情形. Cerami 等在文献 [21] 中利用全局紧定理, 结合对 (PS) 序列的分解, 讨论了解的存在性. 但是, 他们的方法都不能直接被用来处理问题 (1.1). 事实上, 由于局部和非局部的共存导致了不同阶的伸缩指数, 在估计能量水平上界时, 会产生出额外的困难. 在文献 [19,20]中, 为了证明 (PS) 序列的紧性, 通过构造合适的 $ v_\varepsilon=t_\varepsilon u_\varepsilon+w_\varepsilon $ 使得方程对应的能量泛函满足

其中 $ \lim\limits_{\varepsilon\rightarrow 0}\tau(\varepsilon)=+\infty $. 从而当 $ \varepsilon>0 $ 充分小时, 有 $ J(v_\varepsilon)< \frac{1}{N} \mathcal{S}^{\frac{N}{2}} $ 成立. 但是对于问题 (1.1), 由于非局部性的存在, 有

因此当 $ \varepsilon>0 $ 充分小时, 得不到 $ J(v_\varepsilon)< \frac{1}{N} \mathcal{S}^{\frac{N}{2}}. $ 另外, 我们也无法使用文献 [21] 中的 (PS) 序列分解方法. 这是因为

是不可达的 [13], 我们无法确定极限方程解的情况.

定理 1.1 的证明利用了经典的山路定理, 证明是标准的. 相对于 Brezis 和 Nirenberg[14] 的方法, 优点在于避免引入 Aubin-Talenti 函数, 通过一系列的计算去估计能量上界, 这种方法比较适合考虑问题 (1.1). 定理 1.2 证明的新颖之处在于通过构造一个合适的环绕集合, 进而构造函数 $ v_\varepsilon=t_\varepsilon u_\varepsilon+w_\varepsilon $ 满足 supp$ (u_\varepsilon)\cap $ supp$ (w_\varepsilon)=\emptyset $, 其中 $ w_\varepsilon $ 属于某些特征函数所张成的有限维空间且对于充分小的 $ \varepsilon>0 $, 有 $ J(w_\varepsilon)<0 $. 从而, 我们可以证明当 $ \varepsilon>0 $ 充分小时, 有

然后, 结合 Willem 环绕原理证明方程变号解的存在性.

${\bf注 1.3}$ 本文的方法也适用于证明问题 (1.2) 当 $ \lambda\in [\widetilde{\lambda}_1,+\infty) $ 时变号解的存在性, 这里 $ \widetilde{\lambda}_{1} $ 为 $ -\Delta $ 的 Dirichlet 边界问题第一特征值. 特别地, 我们不需要区分 $ N=3 $ 和 $ N\geq 4 $ 的情况.

在本文中, 我们规定记号 $ \|u\|_p $ 为 $ u $ 的 $ L^p $ 范数. 符号 $ \triangleq $ 表示定义为, 常数 $ C>0 $ 的取值可以变化, 但并不影响结论.

首先, 我们在空间 $ \mathrm{C}_0^\infty(\Omega) $ 中引进下列范数

其中

由于 $ \Omega $ 有界, 根据文献 [23,命题 2.2], 对于 $ u \in C_0^{\infty}(\Omega) $, 存在常数 $ C(s)>0 $ 使得

再根据 Poincar\'e 不等式, 在 $ C_0^{\infty}(\Omega) $ 中, 范数 $ \|u\| $ 和空间 $ H^1(\mathbb{R}^N) $ 中的范数是等价的. 定义

容易证明, $ X(\Omega) $ 是 Hilbert 空间, 见文献 [9]. 为了简化书写, 以下我们记 $ X(\Omega) $ 为 $ X $.

令 $ \lambda_k $, $ k\in \mathbb{N} $ 表示 Dirichlet 边值问题

的特征值, 关于特征值以及特征函数的性质, 参见文献 [9].

记 $ e_i $ 为特征值 $ \lambda_i \in \sigma(-\Delta+(-\Delta)^s) $ 对应的特征函数, $ \|e_i\|_2=1 $, $ \mu_i $ 表示 $ \lambda_i $ 的有限重数.

本节考虑 $ 0<\lambda<\lambda_1 $ 的情况. 为了讨论正解, 我们研究下列的能量泛函

容易证明 $ J_+\in \mathcal{C}^1(X;\mathbb{R}) $. 如果函数 $ u\in X $ 满足

则称 $ u $ 是 (1.1)的弱解.

易验证 $ J_+(u) $ 满足山路几何条件

(1) $ J_+(0)=0 $;

(2) 存在 $ \alpha,\beta>0 $, 使得当 $ \|u\|=\alpha $ 时, 有 $ J_+(u)\geq \beta $;

(3) 存在 $ z\in X $ 使得 $ \|z\|>\alpha $ 且 $ J_+(z)<0 $.

根据山路定理[22], 定义

其中 $ \Gamma=\{g \in \mathrm{C}([0,1], X) \mid g(0)=0, J_+(g(1))<0\}. $

下面证明 (PS)$ _c $ 条件.

${\bf命题2.1}$ 假设 $ \left\{u_n\right\} \subset X $ 是 $ J_+ $ 的 $ \mathrm{(PS)_c} $ 序列, 如果 $ c \in\left(0, \frac{1}{N}\mathcal{S}^{\frac{N}{2}}\right) $, 则 $ J_+ $ 满足 $ \mathrm{(PS)_c} $ 条件.

${\bf 证}$ 首先证明 $ \mathrm{(PS)_c} $ 序列有界. 根据条件, 有

对于 $ p\in (2,2^*) $, 有

其中 $ C>0 $. 因此, $ \{u_n\} $ 有界. 从而存在 $ \{u_n\} $ 的某个子列 $ ( $不妨仍记为 $ \{u_n\} $, 以下的收敛均作此假设$ ) $ 以及 $ u \in X $ 使得 $ u_n \rightharpoonup u $ 于 $ X $ 中, $ u_n \rightarrow u $ 于 $ L^p(\Omega) $ 中, $ p\in [2,2^*) $. 根据 $ J_+^{\prime} $ 的弱连续性, 有 $ J_+^{\prime}(u)=0 $.

令 $ v_n=u_n-u $, 则有 $ \langle J_+'(u_n),v_n\rangle=\langle J_+'(u),v_n\rangle=0. $ 再根据 Brezis-Leib 引理^[22], 有

由于 $ \|v_n\|^2 \geq \mathcal{S}\|v_n\|_{2^*}^2 $, 有

若 $ \|v_n\|\nrightarrow 0 $, 则 $ \left\|v_n\right\|^2 \geq \mathcal{S}^{\frac{N}{2}}+o(1) $. 但是由于

因此有

矛盾. 因此$ \|v_n\|\rightarrow 0 $, 即, $ u_n\rightarrow u $ 于 $ X $ 中.

下面证明上述的极大极小值 $ c $ 满足 $ c<\frac{1}{N}\displaystyle{\mathcal{S}^{\frac{N}{2}}}. $ 为此, 取 $ \tilde{g}(t)=te_1 $, $ t\in[0,+\infty) $, 其中 $ e_1 $ 表示 $ \lambda_1 $ 对应的特征函数. 不妨假设 $ \|e_1\|^2=\|e_1\|_2^2 $, 显然存在某个 $ t_0>0 $ 使得 $ \tilde{g}(t_0)<0 $. 进一步, 令 $ g(t)=t\tilde{g}(t_0) $, $ t\in [0,1] $, 则 $ g\in \Gamma $ 且

只需证明

根据 Hölder 不等式, 有

因此, 设

便有 $ \lambda>\lambda_1-\mathcal{S} |\Omega|^{-\frac{2}{N}} $.

${\bf 定理 1.1 的证明}$ 根据山路定理便得到弱解 $ u_\lambda $ 的存在性. 为了证明$ u_\lambda>0 $. 我们取 $ u_\lambda^- $ 为试验函数得

即有 $ u_\lambda^-=0 $. 因此 $ u_\lambda\geq 0 $. 由极大值原理 [8,9], 得 $ u_\lambda> 0 $. 定理 1.1 得证.

在以下的讨论中, 我们始终假设存在某个 $ k\in \mathbb{N} $, 使得 $ \lambda_k\leq \lambda<\lambda_{k+1} $ (注意: $ \lambda_k\rightarrow +\infty,\ \ k\rightarrow\infty $ ).

令 $ X^{-} $ 表示 $ \lambda_1, \cdots, \lambda_k $ 所对应的特征函数张成的空间, $ X^{+}\triangleq \left(X^{-}\right)^{-} $ 表示 $ X^- $ 的补空间, $ P_k: X \rightarrow X^{-} $ 表示 $ X $ 向 $ X^- $ 上的正交投影.

不妨假设 $ 0 \in \Omega $. 取充分小的 $ \varepsilon>0 $ 使得 $ B_{2\sqrt{\varepsilon}} \subset \Omega $, 这里 $ B_{r} $ 表示以 0 为心以 $ r $ 为半径的球. 引进截断函数 $ \zeta_\varepsilon: \mathbb{R}^N \rightarrow \mathbb{R} $ 如下

定义 "逼近特征函数" $ e_i^\varepsilon\triangleq\zeta_\varepsilon e_i $ 以及空间

${\bf引理3.1}$$ \lim\limits_{\varepsilon \rightarrow 0}\|e_i^\varepsilon - e_i\|=0 $, $ \forall i\in \mathbb{N} $ 且

其中 $ c_k $ 是与 $ k $ 有关的正常数.

${\bf 证}$ 根据文献 [定理 1] 以及文献 [7,定理 2.7] 中弱解正则性的讨论, 任意特征函数 $ e_i \in L^\infty(\Omega)\cap C^{1,\beta}(\Omega) $, 其中 $ \beta \in (0,1) $. 首先, 容易计算

其中 $ C>0 $ 是与 $ e_i $ 无关的常数.

此外, 有

其中

把 (3.2) 等式右边的 5 个积分分别记为 $ I_i $, $ i=1,2,3,4,5. $ 下面依次对它们进行估计.

根据中值定理, 存在 $ \xi_1=\theta_1 x+ (1-\theta_1)y $, $ \theta_1\in (0,1) $ 使得

其中 $ \omega_{N} $ 为 $ \mathbb{R}^N $ 中单位球的体积.

对于 $ (x,y)\in \mathbb{D} $, 有 $ |x-y|\geq |y|-\sqrt{\varepsilon} $. 因此,

对于 $ (x,y)\in \mathbb{E} $, 有 $ |x-y|\geq \frac{1}{2}|y| $. 因此,

下面考虑积分 $ I_4 $. 为此, 我们把 $ \mathbb{F} $ 分成两部分

$ \mathbb{F}_1\triangleq\left\{(x, y) \in \mathbb{R}^{2 N}: x \in A_\varepsilon, y \in \mathbb{R}^N\setminus B_{2\sqrt{\varepsilon}}, |x-y|>2\sqrt{\varepsilon}\right\}, $

$ \mathbb{F}_2\triangleq\left\{(x, y) \in \mathbb{R}^{2 N}: x \in A_\varepsilon, y \in \mathbb{R}^N\setminus B_{2\sqrt{\varepsilon}}, |x-y|\leq 2\sqrt{\varepsilon}\right\}. $

对于 $ (x,y)\in \mathbb{F}_1 $, 有

对于 $ (x,y)\in \mathbb{F}_2 $, 有

结合 (3.6) 和 (3.7) 式, 有

最后, 有

根据 (3.2)-(3.9) 式, 有

因此, 联立 (3.1) 和 (3.10) 式, 有

记 $ \partial B=\left\{u \in X: \|u\|_2=1\right\} $. 设 $ v \in X^{-} \cap \partial B $, 令 $ v_\varepsilon\triangleq \zeta_\varepsilon v=\sum\limits_j \alpha_j \zeta_\varepsilon e_j=\sum\limits_j \alpha_j e_j^\varepsilon $, 即 $ v_\varepsilon \in X_\varepsilon^{-} $. 令 $ a_\varepsilon(v)\triangleq\left\|v_\varepsilon\right\|_2^{-1} $, 则

可得

令 $ \bar{u}_\varepsilon \in X_\varepsilon^{-} \cap \partial B $ 使得 $ \left\|\bar{u}_\varepsilon\right\|^2=\max\limits_{u \in X_\varepsilon^{-} \cap \partial B}\|u\|^2 $. 则

因此, 有

${\bf注 3.1}$ 根据引理 3.1, 当 $ \varepsilon>0 $ 充分小时, 有

这个逼近 (分解) 的好处是对于任意的 $ w\in X_\varepsilon^{-} $, 均有 supp$ w\subset \mathbb{R}^N\setminus B_{\varepsilon.} $

下面考虑 (1.1) 式对应的能量泛函

容易证明 $ J\in \mathcal{C}^1(X;\mathbb{R}) $. 如果函数 $ u\in X $ 满足

则称 $ u $ 是 (1.1) 式的弱解.

${\bf命题3.1}$ 假设 $ \left\{u_n\right\} \subset X $ 是 $ J $ 的 $ \mathrm{(PS)_c} $ 序列, 如果 $ c \in\left(0, \frac{1}{N}\mathcal{S}^{\frac{N}{2}}\right) $, 则 $ J $ 满足 $ \mathrm{(PS)_c} $ 条件.

${\bf 证}$ 首先证明 $ \mathrm{(PS)_c} $ 序列有界. 根据条件, 有

对于 $ p\in (2,2^*) $, 根据 Hölder 不等式, 有

定义函数 $ T: [0,+\infty)\rightarrow\mathbb{R} $ 为

则容易计算

为 $ T(\rho) $ 的最大值点. 故, 由 (3.11) 式得

其中 $ C>0 $. 因此, $ \{u_n\} $ 有界. 余下的证明过程与命题 2.1 完全相似.

我们利用 Willem 的环绕理论来证明定理 1.2.

${\bf定理3.1}$ (环绕原理, [24]) 设 $ E $ 为 Babach 空间, $ \Phi \in\mathcal{ C}^1(E;\mathbb{R}) $, $ S\subset E $ 是闭集且 $ Q\subset E $ 满足下列条件

(1) $ S $ 和 $ \partial Q $ 环绕;

(2) 存在常数 $ a,b\in \mathbb{R} $ 使得

(3) $ d=\sup\limits_{u\in Q}\Phi (u)<\infty $.

令 $ c=\inf\limits_{\gamma\in \Gamma}\sup\limits_{u\in Q}\Phi(\gamma(u)), $

其中 $ \Gamma=\{\gamma\in \mathcal{C}(E,E): \gamma(v)=v, \forall v\in \partial Q\} $. 进一步, 若 $ \Phi $ 满足 $ ( $PS$ )_c $ 条件, 则 $ c $ 是 $ \Phi $ 的临界值.

下面验证定理 3.1 中的条件 (1), (2) 和 (3).

${\bf引理3.2}$ 存在常数 $ \alpha, \rho>0 $ 使得 $ J(v) \geq \alpha, \quad \forall v \in \partial B_\rho \cap X^{+}. $

${\bf 证}$ 对于任意的 $ v\in X^+ $, 有 $ \|v\|^2\geq \lambda_{k+1} \|v\|_2^2 $. 因此, 根据 Soblev 嵌入定理, 有

取 $ \rho=\left(\frac{\lambda_{k+1}-\lambda}{4C\lambda_{k+1}}\right)^{\frac{1}{2^*-2}} $.

考虑函数

其中 $ \phi \in \mathrm{C}_0^{\infty}\left(B_{\sqrt{\varepsilon}}\right), $$ \phi(x)=1 $, $ x\in B_{\frac{1}{2}\sqrt{\varepsilon}} $; $ \phi(x)\leq 1 $, $ x\in B_{ \sqrt{\varepsilon}} $ 且 $ \|\nabla \phi\|_\infty\leq \frac{4}{\sqrt{\varepsilon}} $,

${\bf引理3.3}$ (1) $ \left\|\nabla u_\varepsilon\right\|_2^2=\mathcal{S}^{\frac{N}{2}}+O\left(\varepsilon^{ {\frac{N-2}{2}}}\right); $

(2) $ \|u_\varepsilon\|_{2^*}^{2^*}=\mathcal{S}^{\frac{N}{2}}+O\left(\varepsilon^{\frac{N}{2}}\right); $

(3) $ \left\|u_\varepsilon\right\|_2^2= \begin{cases}\mathrm{K}_1 \varepsilon^2+O\left(\varepsilon^{\frac{N-2}{2}}\right), & \ \ N \geq 5 \\ \mathrm{~K}_1 \varepsilon^2|\log \varepsilon|+O(\varepsilon^2), & \ \ N=4\\ O(\varepsilon), & \ \ N=3. \end{cases}, $ 其中 $ \mathrm{K}_1 >0 $.

${\bf 证}$ 证明的方法完全类似文献 [14], 不同点在于这里截断函数与 $ \varepsilon $ 有关.

${\bf引理3.4}$$ \displaystyle{\iint_{\mathbb{R}^{2N}} \frac{\left|u_{\varepsilon}(x)-u_{\varepsilon}(y)\right|^2}{|x-y|^{N+2 s}} {\rm d}x{\rm d}y\leq \max\left\{O\left(\varepsilon^{2-2 s}\right),O\left(\varepsilon^{\frac{N-2s}{2}}\right) \right\}.} $

${\bf 证}$ 利用文献 [25] 中的方法. 首先把积分分解成如下 4 个部分

其中

记 (3.14) 等式右边的 4 个积分分别为 $ J_1,J_2,J_3,J_4 $. 下面估计这 4 个积分. 利用变量代换易得

对于 $ J_2 $, 有

当 $ y\in \mathbb{R}^N\setminus B_{ \frac{1}{2}\sqrt{\varepsilon}} $, 有 $ |u_\varepsilon(y)|\leq C $. 因此

因此, 根据 (3.15) 和 (3.17) 式, 有

注意到

对于 $ J_3 $, 根据中值定理得

最后计算 $ J_4 $. 由于当 $ x\in \mathbb{R}^N $, $ y\in \mathbb{R}^N\setminus B_{ \frac{1}{2}\sqrt{\varepsilon}} $, $ |x-y|\leq \frac{\sqrt{\varepsilon}}{4} $ 时, 有

其中 $ \xi=y+t(x-y) $, $ 0<t<1 $ 且满足 $ |\xi|\geq \frac{\sqrt{\varepsilon}}{4} $, 故

联立 (3.14) 和 (3.19) 式, 即得结论.

对于引理 3.2 中的 $ \rho>0 $ 以及 $ R>0 $, 引进下列两个集合

${\bf注 3.2}$ 由于 supp$ u_\varepsilon\subset B_{\sqrt{\varepsilon}} $, 故 supp$ (u_\varepsilon) \cap $supp$ (w)=\emptyset $.

${\bf引理3.5}$ 当 $ R>\rho $ 时, $ Q^\varepsilon $ 与 $ \partial B_\rho \cap X^{+} $ 环绕.

${\bf 证}$ 文献 [第 1 章] 中给出这种类型的环绕集合, 但是未给出证明. 我们补充证明如下: 记 $ \mathrm{S}=\partial B_\rho \cap X^{+} $, $ \partial Q^\varepsilon={\overline{Q}}^\varepsilon \cup (\partial B_R\cap X^-_\varepsilon) $. 根据注3.1, $ \mathrm{S}\cap \partial Q^\varepsilon=\emptyset. $ 下面证明对于任意连续映射 $ \gamma: Q^\varepsilon\rightarrow X $, $ \gamma|_{\partial Q^\varepsilon}=\text{id} $, 均有 $ \gamma(Q^\varepsilon)\cap \mathrm{S}\not=\emptyset. $ 只需证明存在某个 $ u_0\in B_R\cap X^-_\varepsilon $ 使得 $ P_k(\gamma(u_0))=0 $ 且 $ \|\gamma(u_0)\|=\rho. $ 为此, 作同伦映射 $ H: (B_R\cap X_\varepsilon^-) \times [0,1]\rightarrow X^-_\varepsilon\bigoplus \text{span}\{e_{k+1}\} $ 为

当 $ t\in [0,1] $, $ u\in \partial B_R\cap X^-_\varepsilon $ 时, 有$ H(u,t)=u+t(t\|u\|-\rho)e_{k+1}\not=0 $. 根据拓扑度的同伦不变性和规范性, 有

因此, 存在 $ u_0\in B_R\cap X^-_\varepsilon $, 使得

由于 $ P_k\gamma(u_0)\in X^- $, $ (\|\gamma(u_0) \|-\rho)e_{k+1}\in X^+ $, 故 必有 $ P_k(\gamma(u_0))=0 $ 且 $ \|\gamma(u_0)\|=\rho. $

${\bf引理3.6}$ 存在 $ R>\rho $ 使得 $ \max\limits_{v \in \partial Q^{\varepsilon}} J(v) \leq 0. $

${\bf 证}$ 首先, 对于 $ v=t u_\varepsilon+w $, $ w \in X_\varepsilon^- $ 且$ \left\|t u_\varepsilon+w\right\|=R $, 有

此外, 由于 supp$ (u_\varepsilon)\cap $supp$ (w)=\emptyset $ 且 $ X_\varepsilon^- $ 是有限维空间, 有

容易验证 $ \rho(t) $ 有唯一的极大值点

故有

另一方面, 由于 $ X_\varepsilon^- $ 是有限维空间, 故对于 $ v\in \partial B_R\cap X^-_\varepsilon $, 当 $ R $ 充分大时, 有 $ J(v) \leq 0 $.

根据引理 3.2 和 3.6, 有

因此 (2) 成立. 而 (3) 是显然的.

最后证明不等式

由于 $ \text{Id}\in \Gamma $, 因此

故我们只需要证明

利用反证法. 假如对于任意的 $ \varepsilon>0 $, 都有

由于 $ Q^{\varepsilon} $ 是紧集, (3.24) 式的上确界可达. 因此, 对于所有的 $ \varepsilon>0 $, 有下列两种情况之一出现

(1) 存在 $ v_\epsilon=w^1_{\varepsilon}\in B_R\cap X_\varepsilon^{-} $;

(2) 存在 $ w^2_{\varepsilon} \in X_\varepsilon^{-} $ 以及 $ t_{\varepsilon} \geq 0 $, $ v_{\varepsilon}\triangleq w_{\varepsilon}+t_{\varepsilon}u_{\varepsilon} $, $ \|v_\varepsilon\|=R $,

满足

我们证明情况 (1) 不可能发生. 由于 $ \left\{w^1_{\varepsilon}\right\} \subset B_R\cap X_\varepsilon^{-} $ 有界且 $ X_\varepsilon^{-} $ 有限维. 因此, 我们不妨假设

根据引理 3.1, 当 $ \varepsilon\rightarrow 0 $ 时, 有

这与 (3.25) 式矛盾.

因此, 只能是 (2) 发生. 根据 (3.20) 式及 $ \|v_\varepsilon\|=R $, 序列 $ \left\{t_{\varepsilon}\right\} \subset \mathbb{R}^{+} $ 和 $ \left\{w_{\varepsilon}\right\} \subset X_\varepsilon^{-} $ 有界. 不妨假设

类似 (3.26) 式的证明, 有

下面关键一步是证明 $ w_0^2\not\equiv 0 $, 从而对于充分小的 $ \varepsilon>0 $, 根据 (3.27) 式, 有

首先, 我们证明 $ t_0=1 $. 事实上, 根据引理 3.3 和 3.4, 有

其中 $ \lim\limits_{\varepsilon\rightarrow 0}o_\varepsilon(1)=0. $ 结合 (3.27) 和 (3.29) 式得

这里 $ \phi(x)=\frac{x^2}{2}-\frac{x^{2^*}}{2^*} $. 注意到

因此, 如果 $ t_0 \neq 1 $, 则这与 (3.25) 式矛盾.

在等式 $ \|w_{\varepsilon}^2\|+t_{\varepsilon}\|u_{\varepsilon}\|=R $ 两侧取极限, 得 $ \|w_0^2\|+\mathcal{S}^{\frac{N}{2}}=R. $ 由于 $ R $ 充分大 ($ R>\mathcal{S}^{\frac{N}{2}} $), 因此 $ w_0^2\not\equiv 0, $ 从而 (3.28) 式成立.

${\bf引理3.7}$^[20] 当 $ \varepsilon \rightarrow 0 $ 时, 有

根据 (3.28) 式, 引理 3.4 和 3.7, 当 $ \varepsilon>0 $ 充分小时, 有

这与 (3.25) 式矛盾. 因此 (3.23) 式成立.

${\bf 定理 1.2 的证明 }$ 结合定理 3.1, 引理 3.2, 3.6, 命题 3.1 以及 (3.23) 式, 定理 1.2 得证.