数学物理学报, 2026, 46(4): 1634-1666

具有临界增长的分数阶 Kirchhoff 型方程半经典解的存在性、集中性和多解性

郭伦,1, 黄文涛,2, 贾慧芳,3, 潘政,1,*

1 中南民族大学数学与统计学学院 武汉 430070

2 华东交通大学理学院 南昌 330013

3 广东工业大学数学与统计学院 广州 510520

Existence, Concentration and Multiplicity of Semiclassical Solutions for a Fractional Kirchhoff Equation with Critical Growth

Guo Lun,1, Huang Wentao,2, Jia Huifang,3, Pan Zheng,1,*

1 School of Mathematics and Statistics, South-Central Minzu University, Wuhan 430070

2 School of Science, East China Jiaotong University, Nanchang 330013

3 School of Mathematics and Statistics, Guangdong University of Technology, Guangzhou 510520

通讯作者: * 潘政,E-mail: 2024110592@mail.scuec.edu.cn

收稿日期: 2026-04-5   修回日期: 2026-05-20  

基金资助: 湖北省自然科学基金(2024AFB839)
江西省自然科学基金(20232BAB201009)
广东省自然科学基金(2024A1515012370)

Received: 2026-04-5   Revised: 2026-05-20  

Fund supported: Hubei Provincial Natural Science Foundation of China(2024AFB839)
Natural Science Foundation of Jiangxi Province(20232BAB201009)
Guangdong Basic and Applied Basic Research Foundation of China(2024A1515012370)

作者简介 About authors

郭伦,E-mail:lguo@mails.ccnu.edu.cn;

黄文涛,E-mail:wthuang1014@aliyun.com;

贾慧芳,E-mail:hf_jia@mails.ccnu.edu.cn

摘要

该文研究如下具有临界增长的分数阶 Kirchhoff 型方程 $ \left(\epsilon^{2s}a+\epsilon^{4s-3}b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right) (-\Delta)^{s}u+V(x)u=K(x)f(u)+|u|^{2^{*}_{s}-2}u, \ \ u\in H^{s}(\mathbb{R}^{3}), $

其中 $\epsilon>0$ 为小参数, 常数 $a,b>0$, $s\in(\frac{3}{4},1)$, $2^ {*}_{s}=\frac{6}{3-2s}$ 是临界 Sobolev 指数, 势函数$ V,K:\mathbb{R}^{3}\to\mathbb{R}$ 是非负连续函数, $f:\mathbb{R} \to \mathbb{R}$ 为连续但不可微的次临界非线性项. 作者应用 [Szulkin A, Weth T. Boston: International Press, 2010] 提出的广义 Nehari 流形方法, 证明了基态解的存在性及其集中性质. 此外, 利用 Ljusternik-Schnirelmann 畴数理论, 建立方程解的个数与势函数 $V$ 达到其最小值的集合以及 $K$ 达到其最大值的集合的拓扑之间的关系.

关键词: 分数阶 Kirchhoff 型方程; 临界增长; 基态解; Ljusternik-Schnirelmann 畴数理论

Abstract

This paper studies the following fractional Kirchhoff-type equation with critical growth $ \left(\epsilon^{2s}a+\epsilon^{4s-3}b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right) (-\Delta)^{s}u+V(x)u=K(x)f(u)+|u|^{2^{*}_{s}-2}u, \ \ u\in H^{s}(\mathbb{R}^{3}), $

where $\epsilon>0$ is a small parameter, $a,b>0$ are constants, $s\in(\frac{3}{4},1)$, $2^{*}_{s}=\frac{6}{3-2s}$ is the Sobolev critical exponent, the potential functions $V,K:\mathbb{R}^{3}\to\mathbb{R}$ are nonnegative continuous functions, and $f:\mathbb{R}\to\mathbb{R}$ is a continuous but non-differentiable subcritical nonlinear term. By using the generalized Nehari manifold method introduced by [Szulkin A, Weth T. Boston: International Press, 2010], the authors prove the existence of ground state solutions and their concentration properties. Furthermore, using Ljusternik-Schnirelmann category theory, they establish a relationship between the number of solutions and the topology of the sets where the potential $V$ attains its minimum and $K$ attains its maximum.

Keywords: fractional Kirchhoff equation; critical growth; ground state solution; Ljusternik-Schnirelmann category theory

PDF (894KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

郭伦, 黄文涛, 贾慧芳, 潘政. 具有临界增长的分数阶 Kirchhoff 型方程半经典解的存在性、集中性和多解性[J]. 数学物理学报, 2026, 46(4): 1634-1666

Guo Lun, Huang Wentao, Jia Huifang, Pan Zheng. Existence, Concentration and Multiplicity of Semiclassical Solutions for a Fractional Kirchhoff Equation with Critical Growth[J]. Acta Mathematica Scientia, 2026, 46(4): 1634-1666

1 引言与主要结果

本文拟考虑如下具有临界增长的分数阶 Kirchhoff 型方程

$\left(\epsilon^{2s}a+\epsilon^{4s-3}b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right)(-\Delta)^{s}u+V(x)u=K(x)f(u)+|u|^{2^{*}_{s}-2}u, \ u \in H^{s}(\mathbb{R}^{3}),$

其中 $\epsilon>0$ 是一个小参数, 常数$ a,b>0$ 且$ s\in(\frac{3}{4},1)$, $2^ {*}_{s}=\frac{6}{3-2s}$ 是临界 Sobolev 指数, 势函数$ V,K:\mathbb{R}^{3}\to\mathbb{R}$ 是非负连续函数. 算子 $(-\Delta)^{s}$ 是阶数为 $s$ 的分数阶拉普拉斯算子, 其定义为

$ (-\Delta)^{s}\Psi(x)=C_{s}\, P.V.\int_{\mathbb{R}^{3}}\frac{\Psi(x)-\Psi(y)}{|x-y|^{3+2s}}\,{\rm d}y,\quad \Psi\in\mathcal{S}(\mathbb{R}^{3}), $

其中 $P.V.$ 表示柯西主值, $C_{s}$ 是仅依赖于 $s$ 的标准化常数, $\mathcal{S}(\mathbb{R}^{3})$ 表示$ \mathbb{R}^3$ 中所有快速衰减函数组成的 Schwartz 函数空间.

若 $s=1$, 则方程 (1.1) 转化为

$-\left(\epsilon^{2}a+\epsilon b\int_{\mathbb{R}^{3}}|\nabla u|^{2}{\rm d}x\right)\Delta u+V(x)u=K(x)f(u)+|u|^{2^{*}-2}u, \ u \in H^{1}(\mathbb{R}^{3}).$

方程 (1.2) 可视为带有 Dirichlet 边界条件的 Kirchhoff 型问题的一种推广. 若令方程 (1.2) 中 $\epsilon=1$ 且 $V(x)=0$, 并将 $\mathbb{R}^{3}$ 替换为有界区域 $\Omega\subset \mathbb{R}^3$, 则得到下列 Kirchhoff 型 Dirichlet 边值问题

$\begin{cases}-\left(a+b\displaystyle\int_{\Omega}|\nabla u|^{2}{\rm d}x\right)\Delta u=f(x,u), \ \ & x\in\Omega, \\u=0, \quad & x \in \partial\Omega.\end{cases}$

方程 (1.3) 与 Kirchhoff 在文献 [24] 中提出的方程

$\begin{cases}u_{tt}-\left(a+b\displaystyle\int_{\Omega}|\nabla u|^{2}\mathrm{d}x\right)\Delta u=f(x,u), &x\in\Omega,\\u=0, \quad &x\in \partial\Omega\end{cases}$

的稳态解密切相关. 此类问题还出现在其他领域, 例如生物系统[9]. 此时, $u$ 描述了依赖于其自身平均值的过程, 如种群密度. 关于方程 (1.4) 更多的数学与物理背景, 可参见文献 [1],[4],[10] 及其参考文献.

自 Lions 在文献 [30] 中引入非线性泛函分析方法研究 Kirchhoff 型问题以来, 这类问题受到了广泛关注. 相关研究不仅限于有界区域, 还推广至任意维数全空间中的情形, 参见文献 [19],[22],[23],[27],[33],[43].

令 $b=0$ 且 $a=1$, 方程 (1.1) 转化为如下分数阶薛定谔方程

$\epsilon^{2s}(-\Delta)^{s}u+V(x)u=f(x,u),\quad u\in H^{s}(\mathbb{R}^{3}).$

方程 (1.5) 由 Laskin[25],[26] 在分数阶量子力学中引入, 它自然地将 Feynman 路径积分从基于布朗运动的模型推广至 Lévy 型量子力学路径. 对于这类非局部椭圆型方程, Caffarelli 和 Silvestre 在文献 [7] 中提出著名的 $s$-调和延拓技巧, 这一技巧将原方程转化为上半空间中的局部椭圆问题, 并借助经典的变分方法和临界点理论进行分析.

由于经典的变分方法和临界点理论不再直接适用于研究非局部椭圆型方程, 因此对于分数阶薛定谔方程 (1.5), 其正解的存在性、集中性以及多解性等相关结果较少. 当 $V(x)$ 满足局部假设

$ V(x)\ge\alpha>0,\quad \forall x\in\mathbb{R}^{3}\quad \text{且对某个有界开集} \ \Lambda, \quad \inf_{\Lambda}V(x)<\min_{\partial\Lambda}V(x), $

利用文献 [7] 中的 $s$-调和延拓方法和文献 [12] 中的罚函数方法, Alves 和 Miyagaki[2] 证明方程 (1.5) 至少存在一个正解, 且该解集中在 $V(x)$ 的局部极小点附近. 需要指出的是, 文献 [2] 仅涉及次临界情形. 对于临界增长情形, He 和 Zou[20] 得到了类似的存在性与集中性结果, 并进一步利用 Ljusternik-Schnirelmann 畴数理论证明了解的多重性. 另一方面, 若 $V(x)$ 满足全局假设

$ \infty\ge V_{\infty}:=\lim_{|x|\to\infty}V(x)>V_{0}:=\inf_{x\in\mathbb{R}^{3}}V(x)>0 $

且 $f(x,u)=\lambda f(u)+|u|^{2^{*}_{s}-2}u$, Shang 和 Zhang[40] 证明了方程 (1.5) 基态解的存在性. 此外, 他们还研究了当 $\lambda$ 充分大且 $\epsilon$ 充分小时, 解的个数与势函数 $V(x)$ 达到其最小值的集合的拓扑之间的关系. Li, Ding 和 Chen[28] 考虑了如下具有竞争位势的分数阶薛定谔方程

$\epsilon^{2s}(-\Delta)^{s}u+V(x)u=W(x)(f(u)+u^{2^{*}_{s}-1}),$

并构造了依赖于势函数的两个集合

$ \mathcal{A}_{v}=\{x\in\mathcal{V}:W(x)=W(x_{v})\}\cup\{x\not\in\mathcal{V}:W(x)>W(x_{v})\}; $
$ \mathcal{A}_{w}=\{x\in\mathcal{W}:V(x)=V(x_{w})\}\cup\{x\not\in\mathcal{W}:V(x)<V(x_{w})\}, $

其中 $\mathcal{V}:=\{x\in\mathbb{R}^{3}:V(x)=V_{\min}\}$, $\mathcal{W}:=\{x\in\mathbb{R}^{3}:W(x)=W_{\max}\}$, $V(x_{w})=\max_{x\in\mathcal{W}}V(x)$, $W(x_{v})=\max_{x\in\mathcal{V}}W(x)$. 利用 $s$-调和延拓技巧, 他们在两种不同假设下研究了方程 (1.6) 的半经典解的存在性、收敛性和衰减估计, 同时证明这些解均集中于 $\mathcal{A}_{v}$ 或 $\mathcal{A}_{w}$. 当 $V(x)$ 满足全局假设 ($V_2$) 且 $f(x,u)=P(x)g(u)+Q(x)|u|^{2^{*}_{s}-2}u$, Guo 和 He[18] 基于山路引理证明了半经典解集中在与 $V(x)$, $P(x)$ 和 $Q(x)$ 相关的给定集合附近. 关于分数阶薛定谔方程的更多结果, 可参见文献 [11],[14] 及其参考文献.

尽管涉及临界增长的分数阶薛定谔方程已被广泛研究, 但关于临界分数阶 Kirchhoff 型问题的结果相对较少. 在文献 [16] 中, Fiscella 和 Valdinoci 研究了如下具有临界增长的分数阶 Kirchhoff 方程

$\begin{cases} M\left(\int_{\mathbb{R}^{N}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right)(-\Delta)^{s}u=\lambda f(x,u)+|u|^{2^{*}_{s}-2}u, & x\in\Omega;\\u=0, & x\in\mathbb{R}^{N}\setminus\Omega.\end{cases}$

在物理学中, 方程 (1.7) 描述了弹性弦等介质中, 张力依赖于整体分数阶形变 (非局部几何量) 的非线性力学行为. 当 $M$ 非退化时, 他们证明了方程 (1.7) 至少存在一个非负解. Autuori, Fiscella 和 Pucci[5] 研究了方程 (1.7) 非负解的存在性与渐近行为. Pucci 和 Saldi[37] 利用变分方法研究了方程 (1.7) 非负解的存在性和多重性. 关于这一方向的更多结果, 可参阅文献 [29], [34], [45], [46].

He 和 Zou[21] 研究了下列奇异摄动问题

$\left(\epsilon^{2s}a+\epsilon^{4s-3}b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right)(-\Delta)^{s}u+V(x)u=f(u),\quad x\in\mathbb{R}^{3},$

其中 $\varepsilon>0$ 是一个小参数, $s\in(\frac{3}{4},1)$, $V:\mathbb{R}^{3}\to\mathbb{R}$ 且满足假设 ($V_1$), $f:\mathbb{R}\to\mathbb{R}$ 是连续的次临界函数, 使得 $f(t)/t^{3}$ 非减且对某个 $\vartheta\in(4,2^{*}_{s})$, $0<\vartheta F(t)\le f(t)t$ 成立. 由于 $f$ 仅连续, 与问题相关的 Nehari 流形不可微, 因此经典的 Nehari 流形方法在此情形下不再适用. 为克服这一困难, 他们使用了 Szulkin 和 Weth 在文献[42]中建立的一些抽象理论. 在对与方程 (8) 相关的自治问题进行仔细分析后, 他们结合 Ljusternik-Schnirelmann 畴数理论和罚函数方法, 证明了方程 (8) 解的多重性和集中性质. 应用与文献 [21] 相同的方法, Ambrosio 和 Isernia[3] 对更为一般的非退化分数阶 Kirchhoff 方程也得到了一些类似结果. 据我们所知, 对于具有临界增长且非线性项仅连续的分数阶 Kirchhoff 型方程, 目前仍未有任何关于解的多重性和集中现象的结果.

受上面工作的启发, 本文旨在通过发展和改进 He 和 Zou[21] 针对分数阶 Kirchhoff 方程发展的变分技巧, 证明具有临界增长的分数阶 Kirchhoff 方程 (1.1) 半经典解的存在性、集中性和多解性.

下面给出一些记号. 记

$\begin{gather*} V_{\min}:=\min_{x\in\mathbb{R}^{3}}V,\quad \mathcal{V}:=\{x\in\mathbb{R}^{3}:V(x)=V_{\min}\},\quad V_{\infty}:=\liminf_{|x|\to\infty}V(x);\\ K_{\max}:=\max_{x\in\mathbb{R}^{3}}K,\quad \mathcal{K}:=\{x\in\mathbb{R}^{3}:K(x)=K_{\max}\},\quad K_{\infty}:=\limsup_{|x|\to\infty}K(x). \end{gather*}$

假设势函数 $V(x)$ 和 $K(x)$ 满足以下条件

($\boldsymbol {P_0}$) $V,K\in L^{\infty}(\mathbb{R}^{3})$ 一致连续且 $V_{\min}>0$, $\inf_{x\in\mathbb{R}^{3}}K>0$;

($\boldsymbol {P_1}$) $V_{\min}<V_{\infty}<+\infty$ 且存在 $x_{1}\in\mathcal{V}$ 使得对充分大的 $R>0$, 当 $|x|\ge R$ 时 $K(x_{1})\ge K(x)$;

($\boldsymbol {P_2}$) $K_{\max}>K_{\infty}\ge\inf_{x\in\mathbb{R}^{3}}K>0$ 且存在 $x_{2}\in\mathcal{K}$ 使得对充分大的 $R>0$, 当 $|x|\ge R$ 时 $V(x_{2})\le V(x)$.

显然, 若 ($P_1$) 成立, 可设 $K(x_{1})=\max\limits_{x\in\mathcal{V}}K(x)$, 并令

$ \mathcal{H}_{1}=\{x\in\mathcal{V}:K(x)=K(x_{1})\}\cup\{x\not\in\mathcal{V}:K(x)>K(x_{1})\}. $

若 ($P_2$) 成立, 可设 $V(x_{2})=\min\limits_{x\in\mathcal{K}}V(x)$, 并令

$ \mathcal{H}_{2}=\{x\in\mathcal{K}:V(x)=V(x_{2})\}\cup\{x\not\in\mathcal{K}:V(x)<V(x_{2})\}. $

显然, $\mathcal{H}_{1}$ 和 $\mathcal{H}_{2}$ 均为有界集. 此外, 若 $\mathcal{V}\cap\mathcal{K}\neq\emptyset$, 则 $\mathcal{H}_{1}=\mathcal{H}_{2}=\mathcal{V}\cap\mathcal{K}$.

假设非线性项 $f\in C(\mathbb{R},\mathbb{R})$ 满足以下条件

($\boldsymbol {f_1}$) 对任意 $t\le 0$, 恒有 $f(t)=0$; 当 $t\to 0^+$ 时, $f(t)=o(t^{3})$; 且对任意 $t> 0$, $f(t)t>0$;

($\boldsymbol {f_2}$) 存在常数 $\sigma,q\in(4,2^{*}_{s})$ 和常数 $C_0>0$ 使得

$ f(t)\ge C_0 t^{\sigma-1}, \ \forall t > 0 \ \text{且}\ \lim_{t\to+\infty}\frac{f(t)}{t^{q-1}}<+\infty; $

($\boldsymbol {f_3}$) 函数 $\dfrac{f(t)}{t^{3}}$ 在 $t>0$ 上单调递增.

本文主要结果可陈述如下

定理1.1 假设 ($P_0$), ($P_1$) 和 ($f_1$)-($f_3$) 成立. 则对任意充分小的 $\epsilon>0$, 以下结论成立

(i) 方程 (1.1) 至少存在一个正基态解 $u_{\epsilon}$;

(ii) $u_{\epsilon}$ 存在全局最大值点 $x_{\epsilon}$, 使得 (在子列意义) 下当 $\epsilon\to 0$ 时, $x_{\epsilon}\to x_{0}$, $\lim\limits_{\epsilon\to 0}\text{dist}(x_{\epsilon},\mathcal{H}_{1})=0$,

且 $v_{\epsilon}(x)=u_{\epsilon}(\epsilon x+x_{\epsilon})$ 于 $H^{s}(\mathbb{R}^{3})$ 中收敛到

$ \Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)(-\Delta)^{s}u+V(x_{0})u=K(x_{0})f(u)+|u|^{2^{*}_{s}-2}u $

的一个正基态解. 特别地, 若 $\mathcal{V}\cap\mathcal{K}\neq\emptyset$, 则 $\lim\limits_{\epsilon\to 0}\text{dist}(x_{\epsilon},\mathcal{V}\cap\mathcal{K})=0$, 且在子列意义下 $v_{\epsilon}$ 于 $H^{s}(\mathbb{R}^{3})$ 中收敛到方程

$ \Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)(-\Delta)^{s}u+V_{\min}u=K_{\max}f(u)+|u|^{2^{*}_{s}-2}u $

的一个正基态解.

定理1.2 假设 ($P_0$), ($P_2$) 和 ($f_1$)-($f_3$) 成立. 若将 $(\mathcal{H}_{1})$ 替换为 $(\mathcal{H}_{2})$, 则定理 1.1 的所有结论仍成立.

本文的另一个目标是研究方程 (1.1) 的多解性. 若 $Y$ 是拓扑空间 $X$ 的闭子集, 记 ${\rm cat}_{X}(Y)$ 是 $Y$ 在 $X$ 中的 Ljusternik-Schnirelmann 畴数, 即覆盖 $Y$ 的 $X$ 中闭可缩集的最少个数. 此外, 记

$ (\mathcal{V}\cap\mathcal{K})_{\delta}=\{x\in\mathbb{R}^{3}:{\rm dist}(x,\mathcal{V}\cap\mathcal{K})\le\delta\} $

为 $\mathcal{V}\cap\mathcal{K}$ 的闭 $\delta$-邻域. 本文受 Benci 和 Cerami[6] 工作的启发, 系统建立了 $\mathcal{V}\cap\mathcal{K}$ 的畴数与方程 (1.1) 泛函的临界点个数之间的关系. 这方面的结果陈述如下

定理1.3 假设 ($P_0$), ($P_1$) (或 ($P_2$)) 和 ($f_1$)-($f_3$) 成立. 若 $\mathcal{V}\cap\mathcal{K}\neq\emptyset$, 则对任意给定的 $\delta>0$, 存在 $\epsilon_{\delta}>0$ 使得对任意 $\epsilon\in(0,\epsilon_{\delta})$, 以下结论成立

(i)]方程 (1.1) 至少有 $\text{cat}_{(\mathcal{V}\cap\mathcal{K})_{\delta}}(\mathcal{V}\cap\mathcal{K})$ 个解;

(ii) 若 $u_{\epsilon}$ 是 (i) 中的某个解, 则 $u_{\epsilon}$ 存在全局最大值点 $x_{\epsilon}$, 使得 (在子列意义下) 当 $\epsilon\to 0$ 时, $x_{\epsilon}\to x_{0}$, $\lim\limits_{\epsilon\to 0}\text{dist}(x_{\epsilon},\mathcal{V}\cap\mathcal{K})=0$, 且 $v_{\epsilon}(x)=u_{\epsilon}(\epsilon x+x_{\epsilon})$ 于 $H^{s}(\mathbb{R}^{3})$ 收敛到方程

$ \Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)(-\Delta)^{s}u+V_{\min}u=K_{\max}f(u)+|u|^{2^{*}_{s}-2}u $

的一个正基态解.

定理 1.1-1.3 的证明主要基于变分方法. 需要指出的是, 证明上述定理的主要困难体现在以下四个方面: (i) 非局部项 $\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x(-\Delta)^{s}u$ 的出现使得方程 (1.1) 的研究更为复杂. 具体来说, 若 $u_{n}\rightharpoonup u$ 于 $H^{s}(\mathbb{R}^{3})$, 通常要证明 $\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\rightarrow \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x$ 是非常困难的. (ii) 无界区域 $\mathbb{R}^{3}$ 以及具有临界 Sobolev 指数的非线性项 $K(x)f(u)+|u|^{2^{*}_{s}-2}u$ 导致 Palais-Smale 序列 (简称 $(PS)$序列) 紧性缺失, 这使得本文的研究比文献 [21] 困难得多. (iii) 由于 $f$ 仅为连续函数, 不能直接套用经典的 Nehari 流形方法. (iv) 势函数 $V$ 和 $K$ 之间存在竞争: 每个势函数都试图将基态解吸引到各自的最小值和最大值点, 这给确定解的集中位置带来了困难.

为克服这些困难, 一方面, 本文将使用 Lions 在文献 [31],[32] 中给出的集中紧性原理来验证 $(PS)$ 条件在适当水平下得以恢复; 另一方面, 条件 $f\in C^{1}(\mathbb{R},\mathbb{R})$ 对保证 Nehari 流形是工作空间的 $C^{1}$-子流形至关重要. 一旦此性质成立, 则可以证明泛函限制在其 Nehari 流形上的临界点实际上是整个工作空间中的泛函临界点. 然而, 本文中非线性项 $f$ 仅为连续函数, 因此经典的 Nehari 流形方法及其理论框架不再适用. 为克服 Nehari 流形的不可微性, 本文将使用 Szulkin 和 Weth 在文献 [42] 中提出的变分方法.

本文组织结构如下: 第 2 节给出一些预备结果, 这些结果对主要结论的证明至关重要. 第 3 节研究方程 (1.1) 的极限问题, 并证明极限问题正基态解的存在性. 第 4 节讨论方程 (1.1) 基态解的集中现象. 第 5 节证明方程 (1.1) 解的多重性.

2 预备知识

对任意 $s\in(0,1)$, 定义分数阶 Sobolev 空间

$ H^{s}(\mathbb{R}^{3})=\left\{u\in L^{2}(\mathbb{R}^{3}):\int_{\mathbb{R}^{3}}\int_{\mathbb{R}^{3}}\frac{|u(x)-u(y)|^{2}}{|x-y|^{3+2s}}{\rm d}x{\rm d}y<+\infty\right\}, $

且相应的内积和范数分别为

$\begin{gather*} \langle u,v\rangle:=\int_{\mathbb{R}^{3}}\int_{\mathbb{R}^{3}}\frac{(u(x)-u(y))(v(x)-v(y))}{|x-y|^{3+2s}}{\rm d}x{\rm d}y+\int_{\mathbb{R}^{3}}uv{\rm d}x, \ \ \ \ \ \ \|u\|_{H^{s}}:=\langle u,u \rangle^{1/2}. \end{gather*}$

$\mathcal{D}^{s,2}(\mathbb{R}^{3})$ 是 $C^{\infty}_{0}(\mathbb{R}^{3})$ 函数空间在 Gagliardo 半范数意义下的完备化空间, 且

$ \|u\|_{\mathcal{D}^{s,2}}:=[u]_{s}=\left(\int_{\mathbb{R}^{3}}\int_{\mathbb{R}^{3}}\frac{|u(x)-u(y)|^{2}}{|x-y|^{3+2s}}{\rm d}x{\rm d}y\right)^{\frac{1}{2}}. $

根据文献 [35,命题 3.4 和命题 3.6] 中, 则有

$\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x=\int_{\mathbb{R}^{3}}|\xi|^{2s}|\mathscr{F}u(\xi)|^{2}{\rm d}\xi=\frac{1}{2}C(s)\int_{\mathbb{R}^{3}}\int_{\mathbb{R}^{3}}\frac{|u(x)-u(y)|^{2}}{|x-y|^{3+2s}}{\rm d}x{\rm d}y,$

其中 $\mathscr{F}u$ 表示 $u$ 的 Fourier 变换. 且

$ C(s)=\Big(\int_{\mathbb{R}^{3}}\frac{1-\cos\zeta_{1}}{|\zeta|^{3+2s}}{\rm d}\zeta\Big)^{-1},\qquad \zeta=(\zeta_{1},\zeta_{2},\zeta_{3}). $

定义函数空间

$ E=\left\{u\in H^{s}(\mathbb{R}^{3}):\int_{\mathbb{R}^{3}}V(x)u^{2}{\rm d}x<+\infty\right\}, $

其范数为

$ \|u\|_{E}=\Big(\int_{\mathbb{R}^{3}}\int_{\mathbb{R}^{3}}\frac{|u(x)-u(y)|^{2}}{|x-y|^{3+2s}}{\rm d}x{\rm d}y+\int_{\mathbb{R}^{3}}V(x)u^{2}{\rm d}x\Big)^{\frac{1}{2}}. $

如果对任意 $\varphi\in E$, 恒有

$\begin{align*} & \epsilon^{2s}a\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x+\epsilon^{4s-3}b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x\\ & +\int_{\mathbb{R}^{3}}V(x)u\varphi {\rm d}x-\int_{\mathbb{R}^{3}}K(x)f(u)\varphi {\rm d}x-\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}-2}u\varphi {\rm d}x\\&=0, \end{align*}$

则称 $u\in E$ 为方程 (1.1) 的弱解.

作变量替换 $x\mapsto\epsilon x$, 则方程 (1.1) 可以改写为如下等价形式

$\displaystyle\left(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right)(-\Delta)^{s}u+V(\epsilon x)u=K(\epsilon x)f(u)+|u|^{2^{*}_{s}-2}u, \ u \in H^{s}(\mathbb{R}^{3}).$

显然, 若 $u$ 是方程 (2.1) 的解, 则 $v(x)=u(x/\epsilon)$ 是方程 (1.1) 的解. 因此, 研究方程 (1.1) 即等价于研究方程 (2.1). 由于势函数 $V(x)$ 的存在, 本文引入 $H^{s}(\mathbb{R}^{3})$ 的子空间

$H_{\epsilon}=\left\{u\in H^{s}(\mathbb{R}^{3}):\int_{\mathbb{R}^{3}}V(\epsilon x)u^{2}{\rm d}x<+\infty\right\}.$

$H_{\epsilon}$ 是一个 Hilbert 空间, 其内积和范数分别为

$\langle u,v\rangle_{\epsilon}=a\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}v{\rm d}x+\int_{\mathbb{R}^{3}}V(\epsilon x)uv{\rm d}x,$
$\|u\|^{2}_{\epsilon}=\langle u,u\rangle_{\epsilon}=a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V(\epsilon x)u^{2}{\rm d}x.$

由经典的变分方法可知, $u\in H_{\epsilon}$ 是方程 (2.1) 的解当且仅当 $u\in H_{\epsilon}$ 是泛函 $\mathcal{I}_{\epsilon}:H_{\epsilon}\to\mathbb{R}$ 的临界点, 其中

$\mathcal{I}_{\epsilon}(u)=\frac{1}{2}\|u\|^{2}_{\epsilon}+\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{2}-\int_{\mathbb{R}^{3}}K(\epsilon x)F(u){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x,$

且 $F(u)=\int_{0}^{u}f(t){\rm d}t$. 显然, 泛函 $\mathcal{I}_{\epsilon}$ 对每个 $u\in H_{\epsilon}$ 是良定的, 且属于 $C^{1}(H_{\epsilon},\mathbb{R})$. 此外, 对任意 $u,v\in H_{\epsilon}$,

$\begin{align*} \langle\mathcal{I}^{\prime}_{\epsilon}(u),v\rangle&=a\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}v{\rm d}x+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}v{\rm d}x \\ &\quad +\int_{\mathbb{R}^{3}}V(\epsilon x)uv{\rm d}x-\int_{\mathbb{R}^{3}}K(\epsilon x)f(u)v{\rm d}x-\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}-2}uv{\rm d}x. \end{align*}$

定义与 $\mathcal{I}_{\epsilon}$ 相关的 Nehari 流形为

$\mathcal{N}_{\epsilon}=\{u\in H_{\epsilon}\backslash\{0\}:\langle\mathcal{I}^{\prime}_{\epsilon}(u),u\rangle=0\}.$

首先介绍分数阶 Sobolev 空间中的一些嵌入结果.

引理2.1 (参见文献 [35]) 设 $s\in(0,1)$, 则存在常数 $C:=C(s)>0$ 使得

$\|u\|_{L^{2^{*}_{s}}}\leq C\|u\|_{H^{s}},\quad \forall u\in H^{s}(\mathbb{R}^{3}),$

其中 $\displaystyle \|u\|_{L^{2^{*}_{s}}}=(\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x)^{\frac{1}{2^{*}_{s}}}$. 此外, 对任意 $p\in[2,2^{*}_{s}]$, 嵌入映射 $H^{s}(\mathbb{R}^{3})\hookrightarrow L^{p}(\mathbb{R}^{3})$ 是连续的, 且当 $p\in[2,2^{*}_{s})$ 时, 该映射满足局部紧嵌入性质.

引理2.2 (参见文献 [38]) 假设 $\{u_{n}\}$ 在 $H^{s}(\mathbb{R}^{3})$ 中有界, 且对某个 $R>0$ 和 $t\in[2,2^{*}_{s})$,

$\lim_{n\to+\infty}\sup_{y\in\mathbb{R}^{3}}\int_{B_{R}(y)}|u_{n}(x)|^{t}{\rm d}x=0.$

则对任意 $\tilde{p}\in(2,2^{*}_{s})$, 在 $L^{\tilde{p}}(\mathbb{R}^{3})$ 空间中 $u_{n}\to 0$ 恒成立.

引理2.3 (参见文献 [36]) 假设 $u\in H^{s}(\mathbb{R}^{3})$. 令 $\varphi\in C^{\infty}_{0}(\mathbb{R}^{3})$ 且对任意 $r>0$, $\varphi_{r}(x)=\varphi(x/r)$. 则当 $r\to 0$ 时, 在 $H^{s}(\mathbb{R}^{3})$ 中恒有

$u\varphi_{r}\to 0. $

此外,若 $\varphi$ 在原点某邻域内恒为 $1$, 则当 $r\to+\infty$ 时, 在 $H^{s}(\mathbb{R}^{3})$ 中恒有

$u\varphi_{r}\to u. $

引理2.4 对任意 $\epsilon>0$, 泛函 $\mathcal{I}_{\epsilon}$ 具有以下性质

(i) 存在常数 $\alpha$, $ \rho_{0}>0$ 使得当 $\|u\|_{\epsilon}=\rho_{0}$ 时, $\mathcal{I}_{\epsilon}(u)\ge\alpha$;

(ii) 存在 $e\in H_{\epsilon}$ 使得 $\|e\|_{\epsilon}>\rho_{0}$ 时, $\mathcal{I}_{\epsilon}(e)<0$.

(i) 对任意 $u\in H_{\epsilon}\backslash\{0\}$, 由 ($f_1$)-($f_2$) 和引理 2.1 得

$\mathcal{I}_{\epsilon}(u)\ge\frac{1}{2}\|u\|_{\epsilon}^{2}-C\|u\|_{\epsilon}^{4}-C\|u\|_{\epsilon}^{q}-C\|u\|_{\epsilon}^{2^{*}_s}.$

由于 $\sigma\in(4,2^{*}_{s})$, 因此, 只需要令 $\|u\|_{\epsilon}=\rho_{0}$ 充分小即可证得 (i) 成立.

(ii) 令 $v_{0}\in C^{\infty}_{0}(\mathbb{R}^{3})\backslash\{0\}$ 满足 $v_{0}\ge 0$ 且 $\|v_{0}\|_{\epsilon}=1$. 则由计算可得

$\mathcal{I}_{\epsilon}(tv_{0})\le\frac{t^{2}}{2}+\frac{b}{4a^{2}}t^{4}-\frac{t^{2^{*}_{s}}}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|v_{0}|^{2^{*}_{s}}{\rm d}x.$

由于 $s>\frac{3}{4}$, 则 $2^{*}_{s}>4$. 因此, 只需要取 $e=t_{*}v_{0}$ 且 $t_{*}>0$ 充分大即可保证 (ii) 成立.

引理2.5 $\mathcal{I}_{\epsilon}$ 在 $\mathcal{N}_{\epsilon}$ 上是强制的, 即当 $u\in\mathcal{N}_{\epsilon}$ 且 $\|u\|_{\epsilon}\to+\infty$ 时, $\mathcal{I}_{\epsilon}(u)\to+\infty$.

下面采用反证法来证明. 不失一般性, 假设存在序列 $\{u_{n}\}\subset\mathcal{N}_{\epsilon}$ 使得 $\|u_{n}\|_{\epsilon}\to+\infty$ 且 $\mathcal{I}_{\epsilon}(u_{n})\le d$, 其中 $d>0$ 为给定常数. 由假设条件 ($f_3$) 可得

$\begin{align*} d+1 &\ge\mathcal{I}_{\epsilon}(u_{n})-\frac{1}{4}\langle\mathcal{I}^{\prime}_{\epsilon}(u_{n}),u_{n}\rangle\\ &=\frac{1}{4}\|u_{n}\|_{\epsilon}^{2}+K(\epsilon x)\int_{\mathbb{R}^{3}}\Big(\frac{1}{4}f(u_{n})u_{n}-F(u_{n})\Big){\rm d}x+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\ge\frac{1}{4}\|u_{n}\|_{\epsilon}^{2}, \end{align*}$

于是

$ \frac{d+1}{\|u_{n}\|_{\epsilon}}\ge\frac{\|u_{n}\|_{\epsilon}}{4}\to+\infty, $

矛盾.

引理2.6 对任意 $u\in H_{\epsilon}\backslash\{0\}$, 以下性质成立

(i) 存在唯一的 $t_{\epsilon}=t_{\epsilon}(u)>0$ 使得 $t_{\epsilon}u\in\mathcal{N}_{\epsilon}$. 此外, $\displaystyle \mathcal{I} _{\epsilon}(t_{\epsilon}u)=\max_{t\ge 0}\mathcal{I}_{\epsilon}(tu)$;

(ii) 存在与 $\epsilon>0$ 无关的常数 $0< T_{2}<T_{1}$, 满足 $T_{2}\le t_{\epsilon}\le T_{1}$.

(i) 对任意 $t>0$, 定义

$g(t)=\mathcal{I}_{\epsilon}(tu)=\frac{t^{2}}{2}\|u\|_{\epsilon}^{2}+\frac{b}{4}t^{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{2}-\int_{\mathbb{R}^{3}}K(\epsilon x)F(tu){\rm d}x-\frac{t^{2_{s}^{*}}}{2_{s}^{*}}\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}}{\rm d}x.$

类似于引理 2.4 中 (2.2) 式至 (2.3) 式的证明, 可证得 $g(0)=0$, 且当 $t>0$ 充分小时, $g(t)>0$; 当 $t>0$ 充分大时, $g(t)<0$. 因此, $g(t)$ 在 $t_{\epsilon}:=t_{\epsilon}(u)>0$ 处取得最大值, 进而 $g^{\prime}(t_{\epsilon})=0$ 且 $t_{\epsilon}u\in\mathcal{N}_{\epsilon}$. 显然, $g^{\prime}(t)=0$ 等价于

$\frac{\|u\|_{\epsilon}^{2}}{t^{2}}+b\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{2}=\int_{\mathbb{R}^{3}}K(\epsilon x)\frac{f(tu)}{(tu)^{3}}u^{4}{\rm d}x+t^{2_{s}^{*}-4}\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}}{\rm d}x.$

假设存在 $t_{1}>t_{2}>0$ 使得 $t_{1}u$, $t_{2}u\in\mathcal{N}_{\epsilon}$, 则

$ \Big(\frac{1}{t_{1}^{2}}-\frac{1}{t_{2}^{2}}\Big)\|u\|_{\epsilon}^{2}=\int_{\mathbb{R}^{3}}K(\epsilon x)\Big(\frac{f(t_{1}u)}{(t_{1}u)^{3}}-\frac{f(t_{2}u)}{(t_{2}u)^{3}}\Big)u^{4}{\rm d}x+(t_{1}^{2_{s}^{*}-4}-t_{2}^{2_{s}^{*}-4})\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}}{\rm d}x, $

由假设条件 ($f_3$) 以及 $t_{1}>t_{2}>0$ 易知上式矛盾.

(ii) 由于 $t_{\epsilon}u\in\mathcal{N}_{\epsilon}$, 则由计算得

$ t_{\epsilon}^{2}\|u\|_{\epsilon}^{2}+\frac{bt_{\epsilon}^{4}}{a^{2}}\|u\|_{\epsilon}^{4}\ge t_{\epsilon}^{2_{s}^{*}}\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}}{\rm d}x. $

因此, 存在与 $\epsilon$ 无关的常数 $T_{1}>0$, 使得 $t_{\epsilon}\le T_{1}$. 另一方面, 再次利用 $t_{\epsilon}u\in\mathcal{N}_{\epsilon}$ 并结合假设条件 ($f_1$)-($f_2$) 和引理 2.1, 可得

$t_{\epsilon}^{2}\|u\|_{\epsilon}^{2}\le\int_{\mathbb{R}^{3}}K(\epsilon x)f(t_{\epsilon}u)t_{\epsilon}u{\rm d}x+t_{\epsilon}^{2_{s}^{*}}\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}}{\rm d}x\le C_{1}t_{\epsilon}^{4}\|u\|_{\epsilon}^{4}+C_{2}t_{\epsilon}^{q}\|u\|_{\epsilon}^{q}+t_{\epsilon}^{2_{s}^{*}}\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}}{\rm d}x.$

因此, 存在与 $\epsilon$ 无关的常数 $T_{2}>0$ 使得, $t_{\epsilon}\ge T_{2}$.

引理2.7 对任意 $\epsilon>0$, 以下结论成立

(i) 存在 $\rho>0$ 使得 $\displaystyle c_{\epsilon}:=\inf_{\mathcal{N}_{\epsilon}}\mathcal{I}_{\epsilon}\ge\inf_{S_{\rho}}\mathcal{I}_{\epsilon}>0$, 其中 $S_{\rho}=\{u\in H_{\epsilon}:\|u\|_{\epsilon}=\rho\}$;

(ii) $\displaystyle \frac{1}{2}\|u\|_{\epsilon}^{2}+\frac{b}{4}\big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\big)^{2}\ge c_{\epsilon}>0$ 对所有 $u\in\mathcal{N}_{\epsilon}$ 成立.

(i) 对任意 $\epsilon>0$ 和 $u\in H_{\epsilon}\backslash\{0\}$, 由假设条件 ($f_1$)-($f_2$) 和引理 2.1 得

$\mathcal{I}_{\epsilon}(u)\ge\frac{1}{2}\|u\|_{\epsilon}^{2}-C_1\|u\|_{\epsilon}^{4}-C_2\|u\|_{\epsilon}^{q}-C_3\|u\|_{\epsilon}^{2_{s}^{*}};$

因此, 当 $\|u\|_{\epsilon}=\rho$ 充分小时, $\inf_{S_{\rho}}\mathcal{I}_{\epsilon}>0$. 对任意 $u\in\mathcal{N}_{\epsilon}$, 存在 $t>0$ 使得 $tu\in S_{\rho}$. 由引理 2.6 (i) 得 $c_{\epsilon}:=\inf_{\mathcal{N}_{\epsilon}}\mathcal{I}_{\epsilon}\ge\inf_{S_{\rho}}\mathcal{I}_{\epsilon}>0$;

(ii) 对任意 $u\in\mathcal{N}_{\epsilon}$, 由条件 ($P_0$) 可得

$ 0<c_{\epsilon}\le\mathcal{I}_{\epsilon}(u)\le\frac{1}{2}\|u\|_{\epsilon}^{2}+\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{2}. $

引理2.8 若 $\mathcal{W}$ 是 $H_{\epsilon}\backslash\{0\}$ 的紧子集, 则存在 $R>0$, 使得对任意 $u\in\mathcal{W}$, $\mathcal{I}_{\epsilon}(u)\le 0$ 在 $(\mathbb{R}^{+}\mathcal{W})\backslash B_{R}(0)$ 上成立.

由于 $\mathcal{W}$ 是 $H_{\epsilon}\backslash\{0\}$ 的紧子集, 因此存在正常数 $C_{1}$ 和 $C_{2}$, 使得对每个 $u\in\mathcal{W}$ 有 $C_{1}\le\|u\|_{\epsilon}\le C_{2}$. 假设存在 $u_{n}\in\mathcal{W}$ 和 $v_{n}=t_{n}u_{n}$ (当 $n\to+\infty$ 时, $t_{n}\to+\infty$), 使得对任意 $n\in\mathbb{N}$, $\mathcal{I}_{\epsilon}(v_{n})>0$ 成立. 由计算得

$\begin{align*} \mathcal{I}_{\epsilon}(v_{n})&=\frac{t_{n}^{2}}{2}\|u_{n}\|_{\epsilon}^{2}+\frac{b}{4}t_{n}^{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\Big)^{2}-\int_{\mathbb{R}^{3}}K(\epsilon x)F(t_{n}u_{n}){\rm d}x-\frac{t_{n}^{2^{*}_{s}}}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\\ &\le t_{n}^{2^{*}_{s}}\Big(\frac{t_{n}^{2-2^{*}_{s}}}{2}\|u_{n}\|_{\epsilon}^{2}+\frac{b}{4}t_{n}^{4-2^{*}_{s}}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\Big)^{2}-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\Big)\to-\infty, \end{align*}$

矛盾. 原假设不成立.

本文仅假设 $f$ 连续, 为克服 $\mathcal{N}_{\epsilon}$ 的不可微性, 拟引入 Szulkin 和 Weth[42] 提出的临界点定理. 定义映射 $\widetilde{m}_{\epsilon}:H_{\epsilon}\backslash\{0\}\to\mathcal{N}_{\epsilon}$ 和 $m_{\epsilon}:S_{\epsilon}\to\mathcal{N}_{\epsilon}$ 如下

$\widetilde{m}_{\epsilon}(u)=t_{\epsilon}u\quad\text{且}\quad m_{\epsilon}=\widetilde{m}_{\epsilon}|_{S_{\epsilon}},$

其中 $t_{\epsilon}$ 如引理 2.6 所定义, $S_{\epsilon}$ 是 $H_{\epsilon}$ 中的单位球面. 因此, 易验证引理 2.6-2.8 满足文献 [42] 中的假设 (第 3 章, $A_ {1}$, $A_{2}$ 和 $A_{3}$), 进而可类似地得到下列结果.

引理2.9 (参见文献 [42]) 映射 $\widetilde{m}_{\epsilon}$ 是连续的, 且 $m_{\epsilon}$ 是从 $S_{\epsilon}$ 到 $\mathcal{N}_{\epsilon}$ 的同胚映射. 此外, $m_{\epsilon}$ 的逆映射为 $m_{\epsilon}^{-1}(u)=u/\|u\|_{\epsilon}$.

下面, 分别定义泛函 $\widetilde{\Upsilon}_{\epsilon}:H_{\epsilon}\backslash\{0\}\to\mathbb{R}$ 和 $\Upsilon_{\epsilon}:S_{\epsilon}\to\mathbb{R}$ 如下

$\widetilde{\Upsilon}_{\epsilon}(u)=\mathcal{I}_{\epsilon}(\widetilde{m}_{\epsilon}(u)), \quad \quad \Upsilon_{\epsilon}=\widetilde{\Upsilon}_{\epsilon}|_{S_{\epsilon}}.$

引理2.10 (参见文献 [42,推论 10]) 假设 ($P_0$), ($P_1$)(或 ($P_2$)) 以及 ($f_1$)-($f_3$) 成立. 则对任意 $\epsilon>0$, 以下结果成立

(i) $\Upsilon_{\epsilon}\in C^{1}(S_{\epsilon},\mathbb{R})$, 且对任意 $z\in T_{w}(S_{\epsilon})=\{v\in H_{\epsilon}:\langle w,v\rangle_{\epsilon}=0\}$, 有

$ \langle\Upsilon^{\prime}_{\epsilon}(w),z\rangle=\|m_{\epsilon}(w)\|_{\epsilon}\langle\mathcal{I}^{\prime}_{\epsilon}(m_{\epsilon}(w)),z\rangle; $

(ii) 若 $\{w_{n}\}$ 是 $\Upsilon_{\epsilon}$ 的 $(PS)$ 序列, 则 $\{m_{\epsilon}(w_{n})\}$ 是 $\mathcal{I}_{\epsilon}$ 的 $(PS)$ 序列. 此外, 若 $\{u_{n}\}\subset\mathcal{N}_{\epsilon}$ 是 $\mathcal{I}_{\epsilon}$ 的有界 $(PS)$ 序列, 则 $\{m_{\epsilon}^{-1}(u_{n})\}$ 是 $\Upsilon_{\epsilon}$ 的 $(PS)$ 序列;

(iii) $w$ 是 $\Upsilon_{\epsilon}$ 的非平凡临界点当且仅当 $m_{\epsilon}(w)$ 是 $\mathcal{I}_{\epsilon}$ 的非平凡临界点. 此外, $\Upsilon_{\epsilon}$ 和 $\mathcal{I}_{\epsilon}$ 对应的临界水平值相同, 且

$ c_{\epsilon}:=\inf_{\mathcal{N}_{\epsilon}}\mathcal{I}_{\epsilon}=\inf_{S_{\epsilon}}\Upsilon_{\epsilon}. $

引理2.11

$ c_{\epsilon}=\inf_{u\in\mathcal{N}_{\epsilon}}\mathcal{I}_{\epsilon}(u)=\inf_{w\in H_{\epsilon}\backslash\{0\}}\max_{t>0}\mathcal{I}_{\epsilon}(tw)=\inf_{w\in S_{\epsilon}}\max_{t>0}\mathcal{I}_{\epsilon}(tw). $

详细证明可参见文献 [42] 或 [第 4 章].

3 极限问题

本节主要讨论如下自治问题

$\left(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right)(-\Delta)^{s}u+\mu u=\nu f(u)+|u|^{2^{*}_{s}-2}u, \ u \in H^{s}(\mathbb{R}^{3}),$

其中 $\mu$ 和 $\nu$ 是正常数. 不难证明, 方程 (3.1) 的解是泛函

$\begin{aligned}\mathcal{I}_{\mu\nu}(u)&=\frac{a}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\frac{\mu}{2}\int_{\mathbb{R}^{3}}u^{2}{\rm d}x+\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{2}\\&\quad-\nu\int_{\mathbb{R}^{3}}F(u){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x\end{aligned}$

的临界点. 显然, 泛函 $\mathcal{I}_{\mu\nu}$ 在 Hilbert 空间 $H_{\mu}$ 上是良定的, 其内积和范数分别为

$ \langle u,v\rangle_{\mu}=a\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}v{\rm d}x+\int_{\mathbb{R}^{3}}\mu uv{\rm d}x, \ \ \ \ \|u\|^{2}_{\mu}=a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}\mu u^{2}{\rm d}x. $

定义与 $\mathcal{I}_{\mu\nu}$ 相关的 Nehari 流形为

$\mathcal{N}_{\mu\nu}=\{u\in H_{\mu}\backslash\{0\}:\langle\mathcal{I}^{\prime}_{\mu\nu}(u),u\rangle=0\}.$

方程 (3.1) 对应的基态能量记为

$c_{\mu\nu}=\inf_{u\in\mathcal{N}_{\mu\nu}}\mathcal{I}_{\mu\nu}(u).$

不难证明 $c_{\mu\nu}$ 和流形 $\mathcal{N}_{\mu\nu}$ 具有与 $c_{\epsilon}$ 和 $\mathcal{N}_{\epsilon}$ 类似的性质 (如引理 2.5-2.8). 因此, 对每个 $u\in H_{\mu}\backslash\{0\}$, 存在唯一的 $t_{u}>0$ 使得 $t_{u}u\in\mathcal{N}_{\mu\nu}$. 类比 $S_{\epsilon}$, $\widetilde{m}_{\epsilon}$ 和 $m_{\epsilon}$ 的定义 (见 (24) 式), 记

$ S_{\mu}=\{u\in H_{\mu}:\|u\|_{\mu}=1\} $

并且定义映射 $\widetilde{m}_{\mu\nu}:H_{\mu}\backslash\{0\}\to\mathcal{N}_{\mu\nu}$ 满足

$ \widetilde{m}_{\mu\nu}(u)=t_{u}u\quad\text{且}\quad m_{\mu\nu}=\widetilde{m}_{\mu\nu}|_{S_{\mu}}. $

此外, $m_{\mu\nu}$ 的逆映射记为 $m^{-1}_{\mu\nu}(u)=u/\|u\|_{\mu}$. 类似于 $\widetilde{\Upsilon}_{\epsilon}$ 和 $\Upsilon_{\epsilon}$ 的定义 (见 (2.5) 式), 分别定义泛函 $\widetilde{\Upsilon}_{\mu\nu}:H_{\mu}\backslash\{0\}\to\mathbb{R}$ 和 $\Upsilon_{\mu\nu}:S_{\mu}\to\mathbb{R}$ 如下

$\widetilde{\Upsilon}_{\mu\nu}(u)=\mathcal{I}_{\mu\nu}(\widetilde{m}_{\mu\nu}(u)), \quad \Upsilon_{\mu\nu}=\widetilde{\Upsilon}_{\mu\nu}|_{S_{\mu}}.$

与泛函 $\Upsilon_{\epsilon}$ 类似, 可证得 $\Upsilon_{\mu\nu}$ 满足引理 2.10 中的性质. 此外, 类似于引理 2.11, 同样可以证明

$c_{\mu\nu}=\inf_{u\in\mathcal{N}_{\mu\nu}}\mathcal{I}_{\mu\nu}(u)=\inf_{u\in H_{\mu}\backslash\{0\}}\max_{t>0}\mathcal{I}_{\mu\nu}(tu)=\inf_{u\in S_{\mu}}\max_{t>0}\mathcal{I}_{\mu\nu}(tu).$

类似于引理 2.4 的证明, 同样可证得 $\mathcal{I}_{\mu\nu}$ 具有山路几何结构. 令 $c^{*}_{\mu\nu}$ 为 $\mathcal{I}_{\mu\nu}$ 的山路水平值, 即

$ c^{*}_{\mu\nu}=\inf_{\gamma\in\Gamma}\sup_{t\in[0,1]}\mathcal{I}_{\mu\nu}(\gamma(t))>0, $

其中

$\Gamma=\{\gamma\in C^{1}([0,1],H_{\mu}):\ \gamma(0)=0,\ \mathcal{I}_{\mu\nu}(\gamma(1))<0\}.$

类似于文献 [38,引理 4.2] 中的证明, 由 (3.2) 式可证得

$c^{*}_{\mu\nu}=\inf_{u\in H_{\mu}\backslash\{0\}}\max_{t>0}\mathcal{I}_{\mu\nu}(tu)=c_{\mu\nu}.$

引理3.1 若 $\mu_{1}\le\mu_{2}$ 且 $\nu_{1}\ge\nu_{2}$, 则 $c_{\mu_{1}\nu_{1}}\le c_{\mu_{2}\nu_{2}}$. 特别地, 若上面两个不等式中至少有一个是严格的, 则 $c_{\mu_{1}\nu_{1}}<c_{\mu_{2}\nu_{2}}$.

令 $u\in\mathcal{N}_{\mu_{2}\nu_{2}}$ 使得

$c_{\mu_{2}\nu_{2}}=\mathcal{I}_{\mu_{2}\nu_{2}}(u)=\max_{t>0}\mathcal{I}_{\mu_{2}\nu_{2}}(tu).$

令 $u_{0}=t_{1}u$ 使得 $\mathcal{I}_{\mu_{1}\nu_{1}}(u_{0})=\max_{t>0}\mathcal{I}_{\mu_{1}\nu_{1}}(tu)$. 通过计算可得

$\begin{align*} c_{\mu_{2}\nu_{2}}&=\mathcal{I}_{\mu_{2}\nu_{2}}(u) \ge\mathcal{I}_{\mu_{2}\nu_{2}}(u_{0}) =\mathcal{I}_{\mu_{1}\nu_{1}}(u_{0})+(\mu_{2}-\mu_{1})\int_{\mathbb{R}^{3}}u_{0}^{2}{\rm d}x+(\nu_{1}-\nu_{2})\int_{\mathbb{R}^{3}}F(u_{0}){\rm d}x \\ &\ge c_{\mu_{1}\nu_{1}}. \end{align*}$

显然, 由上述推导可知, 当 $\mu_{1}<\mu_{2}$ 或 $\nu_{1}>\nu_{2}$ 时, 可得 $c_{\mu_{1}\nu_{1}}<c_{\mu_{2}\nu_{2}}$.

由文献 [39] 可知, 极小化问题

$S_{s}=\inf_{u\in\mathcal{D}^{s,2}(\mathbb{R}^{3})\backslash\{0\}}\frac{\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x}{(\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x)^{\frac{2}{2^{*}_{s}}}}$

可由

$\widetilde{u}(x)=\widetilde{\kappa}(l^{2}+|x-x_{0}|^{2})^{-\frac{3-2s}{2}},\quad x\in\mathbb{R}^{3}$

达到, 其中 $\widetilde{\kappa}\in\mathbb{R}\backslash\{0\}$, $l>0$, $x_{0}\in\mathbb{R}^{3}$ 固定. 定义

$ u^{*}(x):=\frac{\widetilde{u}\Big(\frac{x}{S_{s}^{1/2s}}\Big)}{\|\widetilde{u}\|_{L^{2^{*}_{s}}}},\quad x\in\mathbb{R}^{3}, $

则 $u^{*}$ 是方程

$ (-\Delta)^{s}u=|u|^{2^{*}_{s}-2}u $

的解, 且满足 $\|u^{*}\|_{L^{2^{*}_{s}}}^{2^{*}_{s}}=S_{s}^{\frac{3}{2s}}$.

定义函数族 $U_{\varepsilon}(x)=\varepsilon^{-\frac{3-2s}{2}}u^{*}(x/\varepsilon)$. 令 $\psi_{\varepsilon}(x)=\phi U_{\varepsilon}(x)$, 其中 $\phi\in C_{c}^{\infty}(\mathbb{R}^{3},[0,1])$ 是一个光滑截断函数, 满足当 $|x|\le 1$ 时 $\phi(x)=1$; 当 $|x|\ge 2$, $\phi(x)=0$ 且 $|\nabla\phi|\le C$, 这里$ C$ 为正常数. 通过计算可得如下引理, 详细证明可参见文献 [34],[39].

引理3.2 当 $\varepsilon\to 0^{+}$ 时, $\psi_{\varepsilon}$ 满足以下估计

$A_{\varepsilon}:=\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\psi_{\varepsilon}|^{2}{\rm d}x\le S_{s}^{\frac{3}{2s}}+O(\varepsilon^{3-2s});\quad B_{\varepsilon}:=\int_{\mathbb{R}^{3}}|\psi_{\varepsilon}|^{2^{*}_{s}}{\rm d}x=S_{s}^{\frac{3}{2s}}+O(\varepsilon^{3});$
$C_{\varepsilon}:=\int_{\mathbb{R}^{3}}|\psi_{\varepsilon}|^{2}{\rm d}x=O(\varepsilon^{3-2s}),\qquad \text{若 } 3<4s;$

$D_{\varepsilon}(p):=\int_{\mathbb{R}^{3}}|\psi_{\varepsilon}(x)|^{p}{\rm d}x=\begin{cases}O(\varepsilon^{\frac{3(2-p)+2sp}{2}}), & \text{若 } p>\frac{3}{3-2s};\\O(\varepsilon^{\frac{3(2-p)+2sp}{2}}|\log\varepsilon|), & \text{若 } p=\frac{3}{3-2s};\\O(\varepsilon^{\frac{3-2s}{2}p}), & \text{若 } p<\frac{3}{3-2s}.\end{cases}$

下面给出关于 $c_{\mu\nu}$ 的一些估计.

引理3.3 假设 ($f_1$)-($f_3$) 成立, 对任意 $\mu,\nu>0$, 有

$ 0<c_{\mu\nu}<c^{*}=\frac{a}{2}S_{s}T^{3-2s}+\frac{b}{4}S_{s}^{2}T^{6-4s}-\frac{1}{2_{s}^{*}}T^{3}, $

其中 $T>0$ 是常数.

第一步 对任意充分小的 $\varepsilon>0$, 断言存在 $t_{0}>0$ 使得 $\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t_{0}))<0$, 其中 $\gamma_{\varepsilon}(t):=\psi_{\varepsilon}(\cdot/t)$. 事实上, 由 ($f_2$), 对任意 $t>0$,

$\begin{matrix} \mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t))&\le\frac{a}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\gamma_{\varepsilon}(t)|^{2}{\rm d}x+\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\gamma_{\varepsilon}(t)|^{2}{\rm d}x\Big)^{2}+\frac{\mu}{2}\int_{\mathbb{R}^{3}}|\gamma_{\varepsilon}(t)|^{2}{\rm d}x \\ &\quad-\frac{\nu}{\sigma}\int_{\mathbb{R}^{3}}|\gamma_{\varepsilon}(t)|^{\sigma}{\rm d}x-\frac{1}{2_{s}^{*}}\int_{\mathbb{R}^{3}}|\gamma_{\varepsilon}(t)|^{2_{s}^{*}}{\rm d}x \\ &=\frac{aA_{\varepsilon}}{2}t^{3-2s}+\frac{bA_{\varepsilon}^{2}}{4}t^{6-4s}+\Big(\frac{\mu C_{\varepsilon}}{2}-\frac{\nu}{\sigma}D_{\varepsilon}(\sigma)-\frac{B_{\varepsilon}}{2_{s}^{*}}\Big)t^{3}. \end{matrix}$

由于 $s>\frac{3}{4}$, 由 (3.4) 式和 (3.5) 式证得, 当 $\varepsilon\to 0$

$\frac{\mu C_{\varepsilon}}{2}-\frac{B_{\varepsilon}}{2_{s}^{*}}\to-\frac{1}{2_{s}^{*}}S_{s}^{\frac{3}{2_{s}}}.$

因此, 对任意充分小的 $\varepsilon>0$, 由 (3.7) 式可知当 $t\to+\infty$ 时, $\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t))\to-\infty$. 故存在 $t_{0}>0$ 使得 $\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t_{0}))<0$.

第二步 注意到当 $t\to 0^{+}$ 时,

$ \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\gamma_{\varepsilon}(t)|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}|\gamma_{\varepsilon}(t)|^{2}{\rm d}x=t^{3-2s}A_{\varepsilon}+t^{3}C_{\varepsilon}\to 0 $

对充分小的 $\varepsilon>0$ 一致成立. 令 $\gamma_{\varepsilon}(0)=0$, 则 $\gamma_{\varepsilon}(t_{0})\in\Gamma$, 其中 $\Gamma$ 如 (3.3) 式中定义的形式. 于是

$ c_{\mu\nu}\le\sup_{t\ge 0}\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t)). $

注意到之前已证明 $c_{\mu\nu}>0$, 则由 (3.7) 式知存在 $t_{\varepsilon}>0$ 使得

$ \sup_{t\ge 0}\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t))=\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t_{\varepsilon})). $

根据 (3.4)-(3.7) 式, 当 $t\to 0^{+}$ 时, $\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t))\to 0^{+}$; 当 $t\to+\infty$ 时, $\mathcal{I}_{\mu\nu}(\gamma_{\varepsilon}(t))\to-\infty$. 因此, 存在与 $\varepsilon>0$ 无关的常数 $t_{1},t_{2}>0$ 使得 $t_{1}\le t_{\varepsilon}\le t_{2}$. 定义

$ Q_{\varepsilon}(t)=\frac{aA_{\varepsilon}}{2}t^{3-2s}+\frac{bA_{\varepsilon}^{2}}{4}t^{6-4s}-\frac{B_{\varepsilon}}{2_{s}^{*}}t^{3}, $

$ c_{\mu\nu}\le\sup_{t\ge 0}Q_{\varepsilon}(t)+\Big(\frac{\mu C_{\varepsilon}}{2}-\frac{\nu}{\sigma}D_{\varepsilon}(\sigma)\Big)t^{3}. $

由 (3.6) 式以及 $\sigma\in(4,2^{*}_{s})$, 则 $D_{\varepsilon}(\sigma)=O(\varepsilon^{\frac{6-(3-2s)\sigma}{2}})$, 结合 (3.5) 式可知

$c_{\mu\nu}\le\sup_{t\ge 0}Q_{\varepsilon}(t)+O(\varepsilon^{3-2s})-O(\varepsilon^{\frac{6-(3-2s)\sigma}{2}}).$

注意到 $3-2s>\frac{6-(3-2s)\sigma}{2}$, 则由 (3.8) 式知, 对充分小的 $\varepsilon>0$ 有

$ \sup_{t\ge 0}Q_{\varepsilon}(t)\ge c_{\mu\nu}. $

如上所述, 存在与 $\varepsilon>0$ 无关常数 $t_{3},t_{4}>0$ 使得 $\sup_{t\ge 0}Q_{\varepsilon}(t)=\sup_{t\in[t_{3},t_{4}]}Q_{\varepsilon}(t)$. 由 (3.4) 和 (3.8) 式, 有

$c_{\mu\nu}\le\sup_{t\ge 0}M(S_{s}^{\frac{1}{2s}}t)+O(\varepsilon^{3-2s})-O(\varepsilon^{\frac{6-(3-2s)\sigma}{2}}),$

其中

$ M(t)=\frac{a}{2}S_{s}t^{3-2s}+\frac{b}{4}S_{s}^{2}t^{6-4s}-\frac{1}{2^{*}_{s}}t^{3}. $

直接计算表明, 对任意 $t>0$,

$M^{\prime}(t)=\frac{(3-2s)t^{2-2s}}{2}\widetilde{M}(t),\quad \text{其中 }\widetilde{M}(t)=aS_{s}+bS_{s}^{2}t^{3-2s}-t^{2s}$

$ \widetilde{M}^{\prime}(t)=t^{2-2s}(bS_{s}^{2}(3-2s)-2st^{4s-3}). $

由于 $s>\frac{3}{4}$, 则存在唯一的 $T>0$ 使得当 $t\in(0,T)$ 时, $\widetilde{M}(t)>0$; 当 $t>T$ 时, $\widetilde{M}(t)<0$. 因此 $T$ 是 $M(t)$ 的唯一最大值点. 于是, 由 (3.9) 式可得

$c_{\mu\nu}\le M(T)+O(\varepsilon^{3-2s})-O(\varepsilon^{\frac{6-(3-2s)\sigma}{4}}).$

令 $c^{*}=M(T)$, 则对充分小的 $\varepsilon>0$ 有

$ c_{\mu\nu}<c^{*}=\frac{a}{2}S_{s}T^{3-2s}+\frac{b}{4}S_{s}^{2}T^{6-4s}-\frac{1}{2^{*}_{s}}T^{3}. $

注3.1 作为引理 3.3 的直接推论, 可断言 $c_{V_{\infty}K_{\infty}}<c^{*}$.

命题3.1 假设 ($f_1$)-($f_3$) 成立, 则对任意 $\mu,\nu>0$, 方程 (3.1) 至少存在一个正基态解.

一方面, 对任意 $\mu,\nu>0$, $c_{\mu\nu}>0$. 另一方面, 若 $u_{0}\in\mathcal{N}_{\mu\nu}$ 满足 $\mathcal{I}_{\mu\nu}(u_{0})=c_{\mu\nu}$, 则 $m^{-1}(u_{0})$ 是 $\Upsilon_{\mu\nu}$ 的临界点, 从而 $u_{0}$ 是 $\mathcal{I}_{\mu\nu}$ 的临界点. 因此, 要证明命题 3.1, 只需证明 $\mathcal{I}_{\mu\nu}|_{\mathcal{N}_{\mu\nu}}$ 存在极小元 $u_{0}$.

设 $\{w_{n}\}\subset S_{\mu}$ 是 $\Upsilon_{\mu\nu}$ 的极小化序列. 由 Ekeland 变分原理可知, 当 $n\to+\infty$ 时, $\Upsilon_{\mu\nu}(w_{n})\to c_{\mu\nu}$ 且 $\Upsilon^{\prime}_{\mu\nu}(w_{n})\to 0$. 令 $u_{n}=m_{\mu\nu}(w_{n})\in\mathcal{N}_{\mu\nu}$, 则当 $n\to+\infty$,

$\mathcal{I}_{\mu\nu}(u_{n})\to c_{\mu\nu} \ \text{且} \ \mathcal{I}^{\prime}_{\mu\nu}(u_{n})\to 0.$

因此, $\{u_{n}\}$ 在 $H_{\mu}$ 中有界. 不失一般性, 假设 $u_{n}\rightharpoonup u$ 于 $H_{\mu}$, 且有 $\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\to\bar{B}^{2}$.

对任意 $u\in H_{\mu}$, 定义

$ \mathcal{J}_{\mu\nu}(u)=\frac{a+b\bar{B}^{2}}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\frac{\mu}{2}\int_{\mathbb{R}^{3}}u^{2}{\rm d}x-\nu\int_{\mathbb{R}^{3}}F(u){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x. $

由 (3.11) 式可得

$\mathcal{J}_{\mu\nu}(u_{n})=c_{\mu\nu}+\frac{b\bar{B}^{4}}{4}+o_{n}(1),\quad \mathcal{J}^{\prime}_{\mu\nu}(u_{n})\to 0.$

我们断言存在序列 $\{y_{n}\}\subset\mathbb{R}^{3}$ 和常数 $\tilde{R},\eta>0$ 使得

$\liminf_{n\to+\infty}\int_{B_{\tilde{R}}(y_{n})}u_{n}^{2}{\rm d}x\ge\eta>0.$

若不成立, 则由引理 2.2 知, 对任意 $\tilde{p}\in(2,2^{*}_{s})$ 有 $u_{n}\to 0$ 于 $L^ {\tilde{p}}(\mathbb{R}^{3})$. 利用 ($f_1$) 和 ($f_2$), 可得

$ \lim_{n\to+\infty}\int_{\mathbb{R}^{3}}f(u_{n})u_{n}{\rm d}x=0. $

于是

$\mathcal{J}_{\mu\nu}(u_{n})=\frac{(a+b\bar{B}^{2})}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x+\frac{\mu}{2}\int_{\mathbb{R}^{3}}u_{n}^{2}{\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x+o_{n}(1).$

注意到,

$o_{n}(1)=\langle\mathcal{J}^{\prime}_{\mu\nu}(u_{n}),u_{n}\rangle=\|u_{n}\|^{2}_{\mu}+b\bar{B}^{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x-\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x.$

由 $S_{s}$ 的定义及 (3.15) 式得

$aS_{s}\Big(\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\Big)^{\frac{2}{2^{*}_{s}}}+bS^{2}_{s}\Big(\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\Big)^{\frac{4}{2^{*}_{s}}}\le\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x+o_{n}(1).$

令 $\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\rightarrow\mathcal{L}^{3}\ge 0$. 若 $\mathcal{L}>0$, 则由 (3.10) 和 (3.16) 式可得

$ M^{\prime}(\mathcal{L})=\frac{3-2s}{2\mathcal{L}}\big(aS_{s}\mathcal{L}^{3-2s}+bS^{2}_{s}\mathcal{L}^{6-4s}-\mathcal{L}^{3}\big)\le 0, $

其中 $M$ 已在引理 3.3 中定义, 则 $\mathcal{L}\ge T$, 其中 $T$ 是 $M$ 的唯一最大值点. 另一方面, 根据 (3.10), (3.12), (3.14) 和 (3.15) 式有

$\begin{align*} c_{\mu\nu}&=\mathcal{J}_{\mu\nu}(u_{n})-\frac{b\bar{B}^{4}}{4}+o_{n}(1)\\ &\ge\Big(\frac{a}{2}+\frac{b\bar{B}^{2}}{4}\Big)\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x+\frac{\mu}{2}\int_{\mathbb{R}^{3}}|u_{n}|^{2}{\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x+o_{n}(1)\\ &=\Big(\frac{a}{2}-\frac{a}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x+\Big(\frac{b}{4}-\frac{b}{2^{*}_{s}}\Big)\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\Big)^{2}\\ &\quad+\Big(\frac{\mu}{2}-\frac{\mu}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|u_{n}|^{2}{\rm d}x+o_{n}(1)\\ &\ge\Big(\frac{a}{2}-\frac{a}{2^{*}_{s}}\Big)S_{s}\Big(\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\Big)^{\frac{2}{2^{*}_{s}}}+\Big(\frac{b}{4}-\frac{b}{2^{*}_{s}}\Big)S^{2}_{s}\Big(\int_{\mathbb{R}^{3}}|u_{n}|^{2^{*}_{s}}{\rm d}x\Big)^{\frac{4}{2^{*}_{s}}}+o_{n}(1)\\ &=\Big(\frac{a}{2}-\frac{a}{2^{*}_{s}}\Big)S_{s}\mathcal{L}^{3-2s}+\Big(\frac{b}{4}-\frac{b}{2^{*}_{s}}\Big)S^{2}_{s}\mathcal{L}^{6-4s}+o_{n}(1)\\ &\ge\Big(\frac{a}{2}-\frac{a}{2^{*}_{s}}\Big)S_{s}T^{3-2s}+\Big(\frac{b}{4}-\frac{b}{2^{*}_{s}}\Big)S^{2}_{s}T^{6-4s}+o_{n}(1)=\frac{a}{2}S_{s}T^{3-2s}+\frac{b}{4}S^{2}_{s}T^{6-4s}-\frac{1}{2^{*}_{s}}T^{3}\!=\!c^{*}\!\!, \end{align*}$

这与引理 3.3 矛盾. 因此 (3.13) 式成立.

取 $R^{\prime}>\tilde{R}>0$ 和序列 $\{y_{n}\}\subset\mathbb{R}^{3}$ 使得

$ \liminf_{n\to+\infty}\int_{B_{R^{\prime}}(y_{n})}u_{n}^{2}{\rm d}x\ge\frac{\eta}{2}>0. $

由于 $\mathcal{I}_{\mu\nu}$ 和 $\mathcal{N}_{\mu\nu}$ 在平移变换 $u\to u(\cdot+z)$($z\in\mathbb{Z}^{3}$)下不变, 我们可假设 $\{y_{n}\}$ 在 $\mathbb{R}^{3}$ 中有界, 从而在子列意义下, $u_{n}\rightharpoonup u\neq 0$.

由于 $\mathcal{J}^{\prime}_{\mu\nu}(u_{n})=o_{n}(1)$, 可知 $u$ 是如下方程的弱解

$ (a+b\bar{B}^{2})(-\Delta)^{s}u+\mu u=\nu f(u)+|u|^{2^{*}_{s}-2}u,\quad x\in\mathbb{R}^{3}. $

已知

$ \bar{B}^{2}=\lim_{n\to+\infty}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\ge\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x, $

为完成证明, 只需证明 $ \bar{B}^{2}=\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x. $ 假设 上述不等式严格成立, 则

$\begin{align*} &\quad \Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\mu\int_{\mathbb{R}^{3}}u^{2}{\rm d}x\\ &<(a+b\bar{B}^{2})\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\mu\int_{\mathbb{R}^{3}}u^{2}{\rm d}x=\nu\int_{\mathbb{R}^{3}}f(u)u{\rm d}x+\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x. \end{align*}$

即 $\langle\mathcal{I}^{\prime}_{\mu\nu}(u),u\rangle<0$. 因此, 存在 $\tilde{t}\in(0,1)$ 使得 $\tilde{t}u\in\mathcal{N}_{\mu\nu}$. 由 (3.2) 式得

$\begin{align*} c_{\mu\nu}&\le\mathcal{I}_{\mu\nu}(\tilde{t}u)=\mathcal{I}_{\mu\nu}(\tilde{t}u)-\frac{1}{4}\langle\mathcal{I}^{\prime}_{\mu\nu}(\tilde{t}u),\tilde{t}u\rangle\\ &=\frac{\tilde{t}^{2}}{4}\Big(a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\mu\int_{\mathbb{R}^{3}}u^{2}{\rm d}x\Big)+\nu\int_{\mathbb{R}^{3}}\Big[\frac{1}{4}f(\tilde{t}u)\tilde{t}u-F(\tilde{t}u)\Big]{\rm d}x\\\ &\quad+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\tilde{t}^{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x\\ &<\frac{1}{4}\Big(\!a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\!+\!\mu\int_{\mathbb{R}^{3}}\!u^{2}\!{\rm d}x\Big)+\nu\int_{\mathbb{R}^{3}}\Big[\frac{1}{4}f(u)u-F(u)\Big]{\rm d}x+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x\\ &\le\liminf_{n\to+\infty}\Big(\mathcal{I}_{\mu\nu}(u_{n})-\frac{1}{4}\langle\mathcal{I}^{\prime}_{\mu\nu}(u_{n}),u_{n}\rangle\Big)\le c_{\mu\nu}, \end{align*}$

矛盾. 因此, $\bar{B}^{2}=\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x$, 即 $n\to+\infty$ 时,

$ \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\to\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x. $

因此 $\mathcal{I}^{\prime}_{\mu\nu}(u)=0$. 进一步,

$\begin{align*} c_{\mu\nu}&\le\mathcal{I}_{\mu\nu}(u)=\mathcal{I}_{\mu\nu}(u)-\frac{1}{4}\langle\mathcal{I}^{\prime}_{\mu\nu}(u),u\rangle\\ &=\frac{1}{4}\Big(a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\mu\int_{\mathbb{R}^{3}}u^{2}{\rm d}x\Big)+\nu\int_{\mathbb{R}^{3}}\Big[\frac{1}{4}f(u)u-F(u)\Big]{\rm d}x\\ &\qquad+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x\\ &\le\liminf_{n\to+\infty}\big(\mathcal{I}_{\mu\nu}(u_{n})-\frac{1}{4}\langle\mathcal{I}^{\prime}_{\mu\nu}(u_{n}),u_{n}\rangle\big) \le c_{\mu\nu}. \end{align*}$

故 $\mathcal{I}_{\mu\nu}(u)=c_{\mu\nu}$.

最后证明 $u$ 是正解. 令 $u^{\pm}=\max\{\pm u,0\}$. 若将 $\mathcal{I}_{\mu\nu}(u)$ 替换为泛函

$\mathcal{I}^{+}_{\mu\nu}(u)=\frac{1}{2}\|u\|^{2}_{\mu}+\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{2}-\nu\int_{\mathbb{R}^{3}}F(u^{+}){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u^{+}|^{2^{*}_{s}}{\rm d}x,$

则逐字重复上述证明可证得 $u$ 是方程

$\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)(-\Delta)^{s}u+\mu u=\nu f(u^{+})+(u^{+})^{2_{s}^{*}-1},$

的基态解. 在方程 (3.17) 左右两边同时取 $u^{-}$ 作为试验函数并分部积分, 得

$ a\int_{\mathbb{R}^{3}}(-\Delta)^{s}u\cdot u^{-}{\rm d}x+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\int_{\mathbb{R}^{3}}(-\Delta)^{s}u\cdot u^{-}{\rm d}x+\mu\int_{\mathbb{R}^{3}}|u^{-}|^{2}{\rm d}x=0, $

于是

$ \Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)\int_{\mathbb{R}^{3}}(-\Delta)^{s}u\cdot u^{-}{\rm d}x=-\mu\int_{\mathbb{R}^{3}}|u^{-}|^{2}{\rm d}x\le 0, $

$ \int_{\mathbb{R}^{3}}(-\Delta)^{s}u\cdot u^{-}{\rm d}x=\frac{C(s)}{2}\int_{\mathbb{R}^{3}}\int_{\mathbb{R}^{3}}\frac{(u(x)-u(y))(u^{-}(x)-u^{-}(y))}{|x-y|^{3+2s}}{\rm d}x{\rm d}y\ge 0, $

因此 $u^{-}=0$. 从而 $u\ge 0$. 如果存在某个 $ x_0 \in \mathbb{R}^3 $ 使得 $ u(x_0) = 0 $, 则 $(-\Delta)^s u(x_0) = 0$. 根据

$(-\Delta)^s u(x) = -\frac{C_{3,s}}{2} \int_{\mathbb{R}^3} \frac{u(x+y)+u(x-y)-2u(x)}{|x-y|^{3+2s}} {\rm d}y,$

则在点 $x= x_0$ 处有

$\int_{\mathbb{R}^3} \frac{u(x_0+y)+u(x_0-y)}{|x_0-y|^{3+2s}} {\rm d}y = 0,$

从而推出 $ u \equiv 0$, 矛盾. 因此, $u> 0$.

引理3.4 假设 ($P_0$), ($P_1$) (或 ($P_2$)) 和 ($f_1$)-($f_3$) 成立. 令 $\{u_{n}\}\subset\mathcal{N}_{\epsilon}$ 满足 $\mathcal{I}_{\epsilon}(u_{n})\to c$, 其中 $c<c^{*}$, 且 $u_{n}\rightharpoonup 0$ 于 $H_{\epsilon}$. 则以下结论之一成立

(i) $u_{n}\to 0$ 于 $H_{\epsilon}$;

(ii) 存在序列 $\{y_{n}\}\subset\mathbb{R}^{3}$ 和常数 $R_{1},\eta_{1}>0$ 使得

$ \liminf_{n\to+\infty}\int_{B_{R_{1}}(y_{n})}u_{n}^{2}{\rm d}x\ge\eta_{1}>0. $

假设 (ii) 不发生, 则由引理 2.2 可知 $u_{n}\to 0$ 于 $L^{\tilde{p}}(\mathbb{R}^{3})$, 其中 $\tilde{p}\in(2,2_{s}^{*})$. 令

$ \mathcal{J}_{\epsilon}(u)=\frac{a+b\tilde{B}^{2}}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\frac{1}{2}\int_{\mathbb{R}^{3}}V(\epsilon x)u^{2}{\rm d}x-\int_{\mathbb{R}^{3}}K(\epsilon x)F(u){\rm d}x-\frac{1}{2_{s}^{*}}\int_{\mathbb{R}^{3}}|u|^{2_{s}^{*}}{\rm d}x, $

其中 $\displaystyle\tilde{B}^{2}=\lim_{n\to+\infty}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x$. 因为 $\{u_{n}\}\subset\mathcal{N}_{\epsilon}$ 且 $\mathcal{I}_{\epsilon}(u_{n})\to c$, 计算可得

$ \mathcal{J}_{\epsilon}(u_{n})=c+\frac{b\tilde{B}^{4}}{4}+o_{n}(1)\text{ 且 } \mathcal{J}^{\prime}_{\epsilon}(u_{n})\to 0. $

由 ($P_0$) 和 ($f_1$)-($f_2$) 得,

$ \int_{\mathbb{R}^{3}}K(\epsilon x)f(u_{n})u_{n}{\rm d}x=o_{n}(1). $

因此,

$\|u_{n}\|_{\epsilon}^{2}+b\tilde{B}^{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x=\int_{\mathbb{R}^{3}}|u_{n}|^{2_{s}^{*}}{\rm d}x+o_{n}(1).$

$ \int_{\mathbb{R}^{3}}|u_{n}|^{2_{s}^{*}}{\rm d}x\to\mathcal{L}^{3}\ge 0. $

若 $\mathcal{L}>0$. 则通过命题 3.1 中的类似论证也可以证明 $c\ge c^{*}$, 矛盾. 因此 $\mathcal{L}=0$. 进而由 (3.18) 式可知, $u_{n}\to 0$ 于 $H_{\epsilon}$.

不失一般性, 经过平移, 我们可假设 $ x_{1}=0\in\mathcal{V}, $ 于是 $ V(0)=V_{\min}$, 且存在 $R>0$ 使得对所有的 $|x|\ge R$, $ \kappa:=K(0)\ge K(x)$.

引理3.5

$\limsup_{\epsilon\to 0}c_{\epsilon}\le c_{V_{\min} \kappa}.$

记 $V^{\ell}(x):=\max\{\ell,V(x)\}$, $K^{d}(x):=\min\{d,K(x)\}$, 则 $V^{\ell}_{\epsilon}(x)=V^{\ell}(\epsilon x)$ 和 $K^{d}_{\epsilon}(x)=K^{d}(\epsilon x)$, 其中 $\ell,d$ 是正常数. 定义辅助泛函

$\begin{align*} \mathcal{I}^{{\ell}d}_{\epsilon}(u)&=\frac{a}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x +\frac{1}{2}\int_{\mathbb{R}^{3}}V^{\ell}_{\epsilon}(x)u^{2}{\rm d}x \\ & \quad +\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{2}-\int_{\mathbb{R}^{3}}K^{d}_{\epsilon}(x)F(u){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x, \end{align*}$

显然, $\mathcal{I}_{\ell d}(u)\le\mathcal{I}^{{\ell}d}_{\epsilon}(u)$. 我们断言 $c_{\ell d}\le c^{{\ell}d}_{\epsilon}$, 其中 $c^{{\ell}d}_{\epsilon}$ 是 $\mathcal{I}^{{\ell}d}_{\epsilon}$ 的基态能量水平值. 由 $V_{\min}$ 和 $K_{\max}$ 的定义可得

$V^{V_{\min}}_{\epsilon}(x)=V(\epsilon x) \text{ 且 } K^{K_{\max}}_{\epsilon}(x)=K(\epsilon x).$

因此 $\mathcal{I}^{V_{\min},K_{\max}}_{\epsilon}(u)=\mathcal{I}_{\epsilon}(u)$. 进而,

$c^{V_{\min},K_{\max}}_{\epsilon}=c_{\varepsilon}.$

此外, 由 (3.19) 式可知, 当 $\epsilon\to 0$ 时, $V^{V_{\min}}_{\epsilon}(x)\to V(0)=V_{\min}$, $K^{K_{\max}}_{\epsilon}(x)\to K(0)=\kappa$ 在 $\mathbb{R}^3$ 的有界集上一致成立.

现在证明

$\limsup_{\epsilon\to 0}c^{V_{\min},K_{\max}}_{\epsilon}\le c_{V_{\min},\kappa}.$

事实上, 令 $w$ 是泛函 $\mathcal{I}_{V_{\min},\kappa}$ 对应的 Euler-Lagrange 方程的基态解, 即 $\mathcal{I}_{V_{\min},\kappa}(w)=c_{V_{\min},\kappa}$. 则存在 $t_{\epsilon}>0$ 使得 $t_{\epsilon}w\in\mathcal{N}^{V_{\min},K_{\max}}_{\epsilon}$, 其中 $\mathcal{N}^{V_{\min},K_{\max}}_{\epsilon}$ 是泛函 $\mathcal{I}^{V_{\min},K_{\max}}_{\epsilon}$ 的 Nehari 流形. 于是

$c^{V_{\min},K_{\max}}_{\epsilon}\le\mathcal{I}^{V_{\min},K_{\max}}_{\epsilon}(t_{\epsilon}w)=\max_{t\ge 0}\mathcal{I}^{V_{\min},K_{\max}}_{\epsilon}(tw).$

直接计算可知

$\begin{matrix} \mathcal{I}^{V_{\min},K_{\max}}_{\epsilon}(t_{\epsilon}w)&=\mathcal{I}_{V_{\min},\kappa}(t_{\epsilon}w)+\frac{1}{2}\int_{\mathbb{R}^{3}}(V^{V_{\min}}_{\epsilon}(x)-V_{\min})|t_{\epsilon}w|^{2}{\rm d}x\\ &\quad+\int_{\mathbb{R}^{3}}(\kappa-K^{K_{\max}}_{\epsilon}(x))F(t_{\epsilon}w){\rm d}x. \end{matrix}$

由引理 2.6 (ii), 我们可假设当 $\epsilon\to 0$ 时 $t_{\epsilon}\to t_{0}$. 由于 $w\in L^{2}(\mathbb{R}^{3})$, 则对任意 $\eta>0$, 存在 $R_{2}>0$ 使得

$ \int_{\mathbb{R}^{3}\setminus B_{R_{2}}(0)}w^{2}{\rm d}x<\eta. $

由此可得

$\int_{\mathbb{R}^{3}}(V^{V_{\min}}_{\epsilon}(x)-V_{\min})|t_{\epsilon}w|^{2}{\rm d}x\le Ct_{0}^{2}\eta+o_{\epsilon}(1).$

上式计算中, 我们利用了 $V^{V_{\min}}_{\epsilon}(x)\to V_{\min}$ 在 $x\in B_{R}(0)$ 中一致收敛. 由于 $\eta$ 任意选定, 故

$\int_{\mathbb{R}^{3}}(V(\epsilon x)-V_{\min})|t_{\epsilon}w|^{2}{\rm d}x=o_{\epsilon}(1).$

类似地,

$\int_{\mathbb{R}^{3}}(\kappa-K^{K_{\max}}_{\epsilon}(x))F(t_{\epsilon}w){\rm d}x=o_{\epsilon}(1).$

于是, 由 (3.21), (3.22) 和 (3.23) 式可得, 当 $\epsilon\to 0$ 时

$\mathcal{I}^{V_{\min},K_{\max}}_{\epsilon}(t_{\epsilon}w)=\mathcal{I}_{V_{\min},\kappa}(t_{\epsilon}w)+o_{\epsilon}(1)\to\mathcal{I}_{V_{\min},\kappa}(t_{0}w).$

因此, 当 $\epsilon\to 0$ 时,

$c_{\epsilon}^{V_{\min}K_{\max}}\le\mathcal{I}_{\epsilon}^{V_{\min}K_{\max}}(t_{\epsilon}w)\to\mathcal{I}_{V_{\min},\kappa}(t_{0}w)\le\max_{t\ge 0}\mathcal{I}_{V_{\min},\kappa}(tw)=\mathcal{I}_{V_{\min},\kappa}(w)=c_{V_{\min},\kappa}.$

结合 (3.20) 式与 (3.24) 式, 即证得引理 3.5.

类似于文献 [34,引理 5.4] 与文献 [27,引理 3.4] 的证明方法, 同样可证得泛函 $\mathcal{J}_{\varepsilon}$ 的 $(PS)$ 序列所满足的紧性引理. 在给出相应结论之前, 我们定义

$ \mathcal{J}_{V_{\infty}K_{\infty}}=\frac{a+b\bar{B}^{2}}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\frac{1}{2}\int_{\mathbb{R}^{3}}V_{\infty}u^{2}{\rm d}x-\int_{\mathbb{R}^{3}}K_{\infty}F(u){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x. $

引理3.6 设 $\{u_{n}\}\subset H_{\epsilon}$ 是泛函 $\mathcal{I}_{\epsilon}$ 的 $(PS)_c$ 序列, 其中 $c\in(0,c^{*})$. 则存在 $u_{0}\in H_{\epsilon}$ 和常数 $\bar{B}\in\mathbb{R}$ 使得 $\mathcal{J}_{\epsilon}^{\prime}(u_{0})=0$, 其中

$ \mathcal{J}_{\epsilon}(u)=\frac{a+b\bar{B}^{2}}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\frac{1}{2}\int_{\mathbb{R}^{3}}V(\epsilon x)u^{2}{\rm d}x-\int_{\mathbb{R}^{3}}K(\epsilon x)F(u){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x. $

此外, 以下性质之一成立

(i) $u_{n}\to u_{0}$ 于 $H_{\epsilon}$;

(ii)] 存在正整数 $k$ 以及 $\mathcal{J}_{V_{\infty}K_{\infty}}$ 的非平凡临界点 $w^{1},\cdots,w^{k}$, 使得

(1) $|y^{j}_{n}|\to+\infty$, 且当 $i\neq j$ 时, $|y^{i}_{n}-y^{j}_{n}|\to+\infty$ $(n\to+\infty)$, $1\le i,j\le k$;

(2) $\displaystyle c+\frac{b\bar{B}^{4}}{4}=\mathcal{J}_{\epsilon}(u_{0})+\sum\limits_{j=1}^{k}\mathcal{J}_{V_{\infty}K_{\infty}}(w^{j})$;

(3) $\|u_{n}-u_{0}-\sum\limits_{j=1}^{k}w^{j}(\cdot-y^{j}_{n})\|_{\epsilon}\to 0$;

(4) $\bar{B}^{2}=\|(-\Delta)^{\frac{s}{2}}u_{0}\|_{L^{2}}^{2}+\sum\limits_{j=1}^{k}\|(-\Delta)^{\frac{s}{2}}w^{j}\|_{L^{2}}^{2}$.

命题3.2 对任意 $c\in(0,c_{V_{\infty}K_{\infty}})$, 泛函 $\mathcal{I}_{\epsilon}$ 满足 $(PS)_{c}$ 条件.

令 $\{u_{n}\}$ 是 $\mathcal{I}_{\epsilon}$ 的 $(PS)_{c}$ 序列, 其中 $c\in(0,c_{V_{\infty}K_{\infty}})$. 易证 $\{u_{n}\}$ 在 $H_{\epsilon}$ 中有界. 由引理 3.6, 存在 $u_{0}\in H_{\epsilon}$ 和常数 $\bar{B}\in\mathbb{R}$ 使得

$ u_{n}\rightharpoonup u_{0} \ \text{于} H_{\epsilon},\quad \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\to\bar{B}^{2}. $

此外, 还可证得 $\mathcal{J}_{\epsilon}^{\prime}(u_{0})=0$, 且引理 3.6 (i) 或引理 3.6 (ii) 成立.

若引理 3.6 (ii) 成立, 即存在正整数 $k$ 以及序列 $\{y^{j}_{n}\}\subset\mathbb{R}^{3}$ $(1\leq j\leq k)$ 满足: 对当 $n\to+\infty$ 时 $|y^{j}_{n}|\to+\infty$, 且 $i\neq j$ 时, $|y^{i}_{n}-y^{j}_{n}|\to+\infty$ $(n\to+\infty)$ 以及 $\mathcal{J}_{V_{\infty}K_{\infty}}$ 的非平凡临界点 $w^{1},\cdots,w^{k}$ 使得

$c+\frac{b\bar{B}^{4}}{4}=\mathcal{J}_{\epsilon}(u_{0})+\sum_{j=1}^{k}\mathcal{J}_{V_{\infty}K_{\infty}}(w^{j}),$
$\|u_{n}-u_{0}-\sum_{j=1}^{k}w^{j}(\cdot-y^{j}_{n})\|_{\epsilon}\to 0,$
$\bar{B}^{2}=\|(-\Delta)^{\frac{s}{2}}u_{0}\|_{L^{2}}^{2}+\sum_{j=1}^{k}\|(-\Delta)^{\frac{s}{2}}w^{j}\|_{L^{2}}^{2}.$

$\begin{align*} a_{1}&=a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{0}|^{2}{\rm d}x,\quad a_{2}=\int_{\mathbb{R}^{3}}V(\epsilon x)u_{0}^{2}{\rm d}x,\quad a_{3}=b\bar{B}^{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{0}|^{2}{\rm d}x,\\ a_{4}&=\int_{\mathbb{R}^{3}}K(\epsilon x)F(u_{0}){\rm d}x,\quad a_{5}=\int_{\mathbb{R}^{3}}K(\epsilon x)f(u_{0})u_{0}{\rm d}x,\quad a_{6}=\int_{\mathbb{R}^{3}}|u_{0}|^{2^{*}_{s}}{\rm d}x. \end{align*}$

由 $\langle\mathcal{J}^{\prime}_{\epsilon}(u_{0}),u_{0}\rangle=0$ 得

$ \begin{cases} a_{1}+a_{2}+a_{3}-a_{5}-a_{6}=0,\\ \dfrac{1}{2}a_{1}+\dfrac{1}{2}a_{2}+\dfrac{1}{4}a_{3}-a_{4}-\dfrac{1}{2^{*}_{s}}a_{6}=\mathcal{J}_{\epsilon}(u_{0})-\dfrac{1}{4}a_{3}. \end{cases} $

此外,

$\mathcal{J}_{\epsilon}(u_{0})-\frac{1}{4}a_{3}=\frac{1}{4}(a_{1}+a_{2})+\frac{1}{4}(a_{5}-4a_{4})+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)a_{6}>0.$

因为 $w^{j}$ $(j=1,\cdots,k)$ 是 $\mathcal{J}_{V_{\infty}K_{\infty}}$ 的非平凡临界点, 所以 $\langle\mathcal{J}^{\prime}_{V_{\infty}K_{\infty}}(w^{j}),w^{j}\rangle=0$. 由 (3.26) 式可知

$\begin{align*} 0&=\langle\mathcal{J}^{\prime}_{V_{\infty}K_{\infty}}(w^{j}),w^{j}\rangle\\ &=(a+b\bar{B}^{2})\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{\infty}|w^{j}|^{2}{\rm d}x-\int_{\mathbb{R}^{3}}K_{\infty}f(w^{j})w^{j}{\rm d}x-\int_{\mathbb{R}^{3}}|w^{j}|^{2^{*}_{s}}{\rm d}x\\ &=a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{\infty}|w^{j}|^{2}{\rm d}x-\int_{\mathbb{R}^{3}}K_{\infty}f(w^{j})w^{j}{\rm d}x-\int_{\mathbb{R}^{3}}|w^{j}|^{2^{*}_{s}}{\rm d}x\\ &\quad +b\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{0}|^{2}{\rm d}x+\sum_{j=1}^{k}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x\Big)\cdot\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x\\ &\ge a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{\infty}|w^{j}|^{2}{\rm d}x-\int_{\mathbb{R}^{3}}K_{\infty}f(w^{j})w^{j}{\rm d}x-\int_{\mathbb{R}^{3}}|w^{j}|^{2^{*}_{s}}{\rm d}x\\ &\quad+b\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x\Big)^{2}\\ &=\langle\mathcal{I}^{\prime}_{V_{\infty}K_{\infty}}(w^{j}),w^{j}\rangle, \end{align*}$

因此存在 $t_{j}\in(0,1]$, 使得 $t_{j}w^{j}\in\mathcal{N}_{V_{\infty}K_{\infty}}$, 即 $\langle\mathcal{I}^{\prime}_{V_{\infty}K_{\infty}}(t_{j}w^{j}),t_{j}w^{j}\rangle=0$. 直接计算可得

$\begin{align*} \mathcal{J}_{V_{\infty}K_{\infty}}(w^{j})&=\mathcal{J}_{V_{\infty}K_{\infty}}(w^{j})-\frac{1}{4}\langle\mathcal{J}^{\prime}_{V_{\infty}K_{\infty}}(w^{j}),w^{j}\rangle \\ &=\frac{a}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}V_{\infty}|w^{j}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}K_{\infty}\big(f(w^{j})w^{j}-4F(w^{j})\big){\rm d}x\\ &\quad+\frac{b\bar{B}^{2}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|w^{j}|^{2^{*}_{s}}{\rm d}x. \end{align*}$

定义

$\begin{align*} \widetilde{h}(t):&=\frac{at^{2}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\frac{t^{2}}{4}\int_{\mathbb{R}^{3}}V_{\infty}|w^{j}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}K_{\infty}\big(f(tw^{j})tw^{j}-4F(tw^{j})\big){\rm d}x \\ & \quad +\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)t^{2^{*}_{s}}\int_{\mathbb{R}^{3}}|w^{j}|^{2^{*}_{s}}{\rm d}x \end{align*}$

则 $\widetilde{h}(t)$ 在 $[0,+\infty)$ 上递增. 于是

$\begin{align*} &\quad \mathcal{J}_{V_{\infty}K_{\infty}}(w^{j})-\frac{b\bar{B}^{2}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x\\ &=\frac{a}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}V_{\infty}|w^{j}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}K_{\infty}(f(w^{j})w^{j}-4F(w^{j})){\rm d}x\\ &\quad +\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|w^{j}|^{2^{*}_{s}}{\rm d}x\\ &\ge\frac{at^{2}_{j}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x+\frac{t^{2}_{j}}{4}\int_{\mathbb{R}^{3}}V_{\infty}|w^{j}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}K_{\infty}(f(t_{j}w^{j})t_jw^{j}-4F(t_{j}w^{j})){\rm d}x\\ & \quad +\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)t^{2^{*}_{s}}_{j}\int_{\mathbb{R}^{3}}|w^{j}|^{2^{*}_{s}}{\rm d}x\\ &=\mathcal{I}_{V_{\infty}K_{\infty}}(t_{j}w^{j})-\frac{1}{4}\langle\mathcal{I}^{\prime}_{V_{\infty}K_{\infty}}(t_{j}w^{j}),t_{j}w^{j}\rangle=\mathcal{I}_{V_{\infty}K_{\infty}}(t_{j}w^{j}), \end{align*}$

因此

$\begin{matrix} \mathcal{J}_{V_{\infty}K_{\infty}}(w^{j})&\ge\mathcal{I}_{V_{\infty}K_{\infty}}(t_{j}w^{j})+\frac{b\bar{B}^{2}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x\\ &\ge c_{V_{\infty}K_{\infty}}+\frac{b\bar{B}^{2}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x. \end{matrix}$

结合 (3.25), (3.26) 和 (3.27) 式得

$\begin{align*} c+\frac{b\bar{B}^{4}}{4}&=\mathcal{J}_{\epsilon}(u_{0})+\sum_{j=1}^{k}\mathcal{J}_{V_{\infty}K_{\infty}}(w^{j})\\ &\ge\frac{b\bar{B}^{2}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{0}|^{2}{\rm d}x+\sum_{j=1}^{k}\Big(c_{V_{\infty}K_{\infty}}+\frac{b\bar{B}^{2}}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x\Big)\\ &=kc_{V_{\infty}K_{\infty}}+\frac{b\bar{B}^{2}}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{0}|^{2}{\rm d}x+\sum_{j=1}^{k}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w^{j}|^{2}{\rm d}x\Big) \ge c_{V_{\infty}K_{\infty}}+\frac{b\bar{B}^{4}}{4}, \end{align*}$

这与 $c<c_{V_{\infty}K_{\infty}}$ 相矛盾, 因此 (ii) 不发生, 即有 $u_{n}\to u_{0}$ 于 $H_{\epsilon}$.

推论3.1 对任意 $c\in(0,c_{V_{\infty}K_{\infty}})$, 泛函 $\Upsilon_{\epsilon}$ 满足 $(PS)_{c}$ 条件.

命题3.3 在定理 1.1 的假设下, 对充分小的 $\epsilon>0$, $c_{\epsilon}$ 在某个 $u_ {\epsilon}\in H_{\epsilon}$ 处达到.

由引理 2.10 知, 若存在 $u_{\epsilon}\in\mathcal{N}_{\epsilon}$ 满足 $\mathcal{I}_{\epsilon}(u_{\epsilon})=c_{\epsilon}$, 则 $m_{\epsilon}^{-1}(u_{\epsilon})$ 是 $\Upsilon_{\epsilon}$ 的极小元, 因而是 $\Upsilon_{\epsilon}$ 的临界点. 故 $u_{\epsilon}$ 是 $\mathcal{I}_{\epsilon}$ 的临界点.

由引理 2.4, $\mathcal{I}_{\epsilon}$ 具有山路几何结构. 根据山路定理, 存在序列 $\{u_{n}\}\subset H_{\epsilon}$ 使得当 $n\to+\infty$,

$\mathcal{I}_{\epsilon}(u_{n})\to c_{\epsilon} \text{ 且 }\mathcal{I}^{\prime}_{\epsilon}(u_{n})\to 0.$

显然 $\{u_{n}\}\subset H_{\epsilon}$ 有界. 引理 2.7 (ii) 已证得 $c_{\epsilon}>0$, 则由引理 2.10, 引理 3.5 和推论 3.1, 我们断言 $m_{\epsilon}^{-1}(u_{n})\to w_{0}$ 于 $H_{\epsilon}$, 其中 $w_{0}$ 是 $\Upsilon_{\epsilon}$ 的临界点. 进而, 再次应用引理 2.10 得 $u_{\epsilon}:=m_{\epsilon}(w_{0})$ 是 $\mathcal{I}_{\epsilon}$ 的非平凡临界点且 $\mathcal{I}_{\epsilon}(u_{\epsilon})=c_{\epsilon}$.

4 基态解的集中行为

本节我们考虑当 $\epsilon\to 0$ 时, 基态解 $u_{\epsilon}$ 的集中行为. 这方面的结果可陈述如下

定理4.1 设 $u_{\epsilon}$ 是命题 3.3 中方程 (2.1) 的解. 则 $u_{\epsilon}$ 存在一个全局最大值点 $y_{\epsilon}$, 使得 (在子列意义下) 当 $\epsilon\to 0$ 时 $\epsilon y_{\epsilon}\to x_{0}$, $\displaystyle \lim_{\epsilon\to 0}\text{dist}(\epsilon y_{\epsilon},\mathcal{H}_{1})=0$, 且 $v_{\epsilon}(x)=u_{\epsilon}(x+y_{\epsilon})$ 于 $H^{s}(\mathbb{R}^{3})$ 中收敛到

$\left(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right)(-\Delta)^{s}u+V(x_{0})u=K(x_{0})f(u)+|u|^{2^{*}_{s}-2}u, \ u \in H^{s}(\mathbb{R}^{3})$

的一个正基态解. 特别地, 若 $\mathcal{V}\cap\mathcal{K}\neq\emptyset$, 则 $\displaystyle \lim_{\epsilon\to 0}\text{dist}(\epsilon y_{\epsilon},\mathcal{V}\cap\mathcal{K})=0$, 且在子列意义下, $v_{\epsilon}(x)$ 在 $H^{s}(\mathbb{R}^{3})$ 中收敛到

$\left(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\right)(-\Delta)^{s}u+V_{\min}u=K_{\max}f(u)+|u|^{2^{*}_{s}-2}u, \ u \in H^{s}(\mathbb{R}^{3})$

的一个正基态解.

令 $v_{\epsilon}(x)=u_{\epsilon}(x+y_{\epsilon})$, 则 $v_{\epsilon}$ 满足

$\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x\Big)(-\Delta)^{s}v_{\epsilon}+V(\epsilon(x+y_{\epsilon}))v_{\epsilon}=K(\epsilon(x+y_{\epsilon}))f(v_{\epsilon})+|v_{\epsilon}|^{2^{*}_{s}-2}v_{\epsilon}.$

其能量泛函 $\tilde{\mathcal{I}}_{\epsilon}:H_{\epsilon}\to\mathbb{R}$ 记为

$\begin{align*} \tilde{\mathcal{I}}_{\epsilon}(v_{\epsilon})&=\frac{a}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x+\frac{1}{2}\int_{\mathbb{R}^{3}}V(\epsilon(x+y_{\epsilon}))v_{\epsilon}^{2}{\rm d}x +\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x\Big)^{2} \\ &\quad -\int_{\mathbb{R}^{3}}K(\epsilon(x+y_{\epsilon}))F(v_{\epsilon}){\rm d}x-\frac{1}{2^{*}_{s}}\int_{\mathbb{R}^{3}}|v_{\epsilon}|^{2^{*}_{s}}{\rm d}x. \end{align*}$

引理4.1 存在 $\epsilon^{*}>0$ 使得对每个 $\epsilon\in(0,\epsilon^{*})$, 存在序列 $\{y_{\epsilon}\}\subset\mathbb{R}^{3}$ 和常数 $R_{3}$, $\tau>0$ 满足

$ \int_{B_{R_{3}}(y_{\epsilon})}u_{\epsilon}^{2}{\rm d}x\ge\tau. $

若结论不成立, 则存在序列 $\{\epsilon_{n}\}$ 满足当 $n\to+\infty$, $\epsilon_{n} \to 0$, 且使得对任意 $R>0$ 有

$ \lim_{n\to+\infty}\sup_{y\in\mathbb{R}^{3}}\int_{B_{R}(y)}u_{\epsilon_{n}}^{2}{\rm d}x=0. $

因此, 类似于引理 3.4 或命题 3.1 的证明, 可证得 $\mathcal{I}_{\epsilon_{n}}(u_{\epsilon_{n}})\ge c^{*}$. 另一方面, 由引理 3.3 和引理 3.5 得

$ \limsup_{\epsilon_{n}\to 0}\mathcal{I}_{\epsilon_{n}}(u_{\epsilon_{n}})=\limsup_{\epsilon_{n}\to 0}c_{\epsilon_{n}}<c_{V_{\min}\kappa}<c^{*}. $

矛盾, 证毕.

显然 $\{v_{\epsilon}\}$ 在 $H_{\epsilon}$ 中有界. 由引理 4.1, 我们可假设 $v_ {\epsilon}\rightharpoonup u\neq 0$ 于 $H_{\epsilon}$. 进而, $v_{\epsilon}\to u$ 于 $L^{p}_{{\rm loc}}(\mathbb{R}^{3})$, $\tilde{p}\in[1,2^{*}_{s})$. 由条件 ($P_0$) 可知 $V,K\in L^{\infty}(\mathbb{R}^{3})$. 不失一般性, 假设当 $\epsilon\to 0$ 时, $V(\epsilon y_{\epsilon})\to V_{0}$ 且 $K(\epsilon y_{\epsilon})\to K_{0}$.

引理4.2 $u$ 是方程

$\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)(-\Delta)^{s}u+V_{0}u=K_{0}f(u)+|u|^{2^{*}_{s}-2}u$

的一个正基态解.

当 $\epsilon\to 0$ 时,

$|V(\epsilon(x+y_{\epsilon}))-V_{0}|\to 0, \text{ 且 } |K(\epsilon(x+y_{\epsilon}))-K_{0}|\to 0$

在 $\mathbb{R}^{3}$ 的任何有界集上一致成立. 因此, 对任意 $\varphi\in C^{\infty}_{0}(\mathbb{R}^{3})$,

$\begin{gather*} \int_{\mathbb{R}^{3}}V(\epsilon(x+y_{\epsilon}))v_{\epsilon}\varphi {\rm d}x=\int_{\mathbb{R}^{3}}V_{0}u\varphi {\rm d}x;\quad \int_{\mathbb{R}^{3}}K(\epsilon(x+y_{\epsilon}))f(v_{\epsilon})\varphi {\rm d}x=\int_{\mathbb{R}^{3}}K_{0}f(u)\varphi {\rm d}x;\\ \int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}v_{\epsilon}(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x=\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x;\quad \int_{\mathbb{R}^{3}}|v_{\epsilon}|^{2^{*}_{s}-2}v_{\epsilon}\varphi {\rm d}x=\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}-2}u\varphi {\rm d}x. \end{gather*}$

由于 $\{v_{\epsilon}\}$ 在 $H^{s}$ 中有界, 则可假设

$ \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x\to\theta^{2}\quad \text{当 }\epsilon\to 0. $

由方程 (4.1) 和 (4.3) 式得

$\begin{align*} 0&=a\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}v_{\epsilon}(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x+\int_{\mathbb{R}^{3}}V(\epsilon(x+y_{\epsilon}))v_{\epsilon}\varphi {\rm d}x\\ &\quad +b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}v_{\epsilon}(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x-\int_{\mathbb{R}^{3}}K(\epsilon(x+y_{\epsilon}))f(v_{\epsilon})\varphi {\rm d}x\\ &\quad -\int_{\mathbb{R}^{3}}|v_{\epsilon}|^{2^{*}_{s}-2}v_{\epsilon}\varphi {\rm d}x\\ &=a\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x+\int_{\mathbb{R}^{3}}V_{0}u\varphi {\rm d}x+b\theta^{2}\int_{\mathbb{R}^{3}}(-\Delta)^{\frac{s}{2}}u(-\Delta)^{\frac{s}{2}}\varphi {\rm d}x\\ &\quad -\int_{\mathbb{R}^{3}}K_{0}f(u)\varphi {\rm d}x-\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}-2}u\varphi {\rm d}x. \end{align*}$

因此, $u$ 是方程

$(a+b\theta^{2})(-\Delta)^{s}u+V_{0}u=K_{0}f(u)+|u|^{2^{*}_{s}-2}u$

的解.

我们断言

$ \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x=\theta^{2}. $

由 Fatou 引理,

$ \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\le\liminf_{\epsilon\to 0}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x=\theta^{2}. $

假设不等式严格成立, 即 $\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x<\theta^{2}$. 则有

$\begin{align*} &\qquad \Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{0}u^{2}{\rm d}x\\ &<(a+b\theta^{2})\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{0}u^{2}{\rm d}x\\ &=\int_{\mathbb{R}^{3}}K_{0}f(u)u{\rm d}x+\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x, \end{align*}$

即 $\langle\mathcal{I}^{\prime}_{V_{0}K_{0}}(u),u\rangle<0$. 因此存在 $t_{0}\in(0,1)$ 使得 $\langle\mathcal{I}^{\prime}_{V_{0}K_{0}}(t_{0}u),t_{0}u\rangle=0$. 进而

$\begin{align*} c_{V_{0}K_{0}}&\le\mathcal{I}_{V_{0}K_{0}}(t_{0}u) \\ &=\mathcal{I}_{V_{0}K_{0}}(t_{0}u)-\frac{1}{4}\langle\mathcal{I}^{\prime}_{V_{0}K_{0}}(t_{0}u),t_{0}u\rangle \\ &=\frac{t_{0}^{2}}{4}\Big(a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+V_{0}\int_{\mathbb{R}^{3}}u^{2}{\rm d}x\Big)+K_{0}\int_{\mathbb{R}^{3}}\Big[\frac{1}{4}f(t_{0}u)t_{0}u-F(t_{0}u)\Big]{\rm d}x\\ &\quad +\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)t_{0}^{2^{*}_{s}}\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x \\ &<\frac{1}{4}\Big(a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+V_{0}\int_{\mathbb{R}^{3}}u^{2}{\rm d}x\Big)+K_{0}\int_{\mathbb{R}^{3}}\Big[\frac{1}{4}f(u)u-F(u)\Big]{\rm d}x\\ &\quad +\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x \\ &\le\liminf_{\epsilon\to 0}\Big(\frac{1}{4}\int_{\mathbb{R}^{3}}\big(a|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}+V(\epsilon(x+y_{\epsilon}))v_{\epsilon}^{2}\big){\rm d}x\\ &\quad +\int_{\mathbb{R}^{3}}K(\epsilon(x+y_{\epsilon}))\Big[\frac{1}{4}f(v_{\epsilon})v_{\epsilon}-F(v_{\epsilon})\Big]{\rm d}x+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|v_{\epsilon}|^{2^{*}_{s}}{\rm d}x\Big) \\* &\le\liminf_{\epsilon\to 0}\Big(\tilde{\mathcal{I}}_{\epsilon}(v_{\epsilon})-\frac{1}{4}\langle\tilde{\mathcal{I}}^{\prime}_{\epsilon}(v_{\epsilon}),v_{\epsilon}\rangle\Big)\le\limsup_{\epsilon\to 0}c_{\epsilon}\le c_{V_{0}K_{0}}, \end{align*}$

矛盾. 因此, $\theta^{2}=\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x$. 即

$ \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x\to\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\quad \text{当 }\epsilon\to 0. $

从而 $u$ 满足 $\mathcal{I}^{\prime}_{V_{0}K_{0}}(u)=0$. 再次使用 Fatou 引理, 我们证得

$\begin{align*} c_{V_{0}K_{0}}&\le\mathcal{I}_{V_{0}K_{0}}(u)=\mathcal{I}_{V_{0}K_{0}}(u)-\frac{1}{4}\langle\mathcal{I}^{\prime}_{V_{0}K_{0}}(u),u\rangle \\ &=\frac{a}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}V_{0}u^{2}{\rm d}x+K_{0}\int_{\mathbb{R}^{3}}\Big[\frac{1}{4}f(u)u-F(u)\Big]{\rm d}x\\ &\quad+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|u|^{2^{*}_{s}}{\rm d}x\\ &\le\liminf_{\epsilon\to 0}\Big(\frac{a}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}V(\epsilon(x+y_{\epsilon}))v_{\epsilon}^{2}{\rm d}x\\ &\quad +\int_{\mathbb{R}^{3}}K(\epsilon(x+y_{\epsilon}))\Big[\frac{1}{4}f(v_{\epsilon})v_{\epsilon}-F(v_{\epsilon})\Big]{\rm d}x+\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|v_{\epsilon}|^{2^{*}_{s}}{\rm d}x\Big)\\ &=\liminf_{\epsilon\to 0}\tilde{\mathcal{I}}_{\epsilon}(v_{\epsilon})\le\limsup_{\epsilon\to 0}\mathcal{I}_{\epsilon}(u_{\epsilon})\le c_{V_{0}K_{0}}. \end{align*}$

因此,

$\lim_{\epsilon\to 0}\tilde{\mathcal{I}}_{\epsilon}(v_{\epsilon})=\lim_{\epsilon\to 0}c_{\epsilon}=\mathcal{I}_{V_{0}K_{0}}(u)=c_{V_{0}K_{0}}.$

因此, $u$ 是方程 (4.2) 的基态解. 运用类似于命题 3.1 的证明, 我们也可证明 $u$ 是正的基态解.

引理4.3 $\{\epsilon y_{\epsilon}\}$ 有界.

假设当 $\epsilon\to 0$ 时, $|\epsilon y_{\epsilon}|\to+\infty$. 已知当 $\epsilon\to 0$ 时 $V(\epsilon y_{\epsilon})\to V_{0}$ 且 $K(\epsilon y_{\epsilon})\to K_{0}$; $V(0)=V_{\min}$ 且对所有 $|x|\ge R$, $\kappa=K(0)\ge K(x)$, 由此推得 $V_{0}>V_{\min}$ 且 $K_{0}\le\kappa$. 进而, 由引理 3.1 可知 $c_{V_{0}K_{0}}>c_{V_{\min},\kappa}$. 然而, 由 (74) 式和引理 3.5 可得

$ \lim_{\epsilon\to 0}c_{\epsilon}\to c_{V_{0}K_{0}}\le c_{V_{\min},\kappa}, $

矛盾. 因此 $\{\epsilon y_{\epsilon}\}$ 有界.

在子列意义下, 我们假设当 $\epsilon\to 0$ 时 $\epsilon y_{\epsilon}\to x_{0}$, 则 $V_{0}=V(x_{0})$ 且 $K_{0}=K(x_{0})$.

引理4.4

$\lim_{\epsilon\to 0}\text{dist}(\epsilon y_{\epsilon},\mathcal{H}_{1})=0.$

为证明此引理, 只需证明 $x_{0}\in\mathcal{H}_{1}$. 若 $x_{0}\not\in\mathcal{H}_{1}$, 则由条件 ($P_1$) 和引理 3.1, 易验证 $c_{V(x_{0})K(x_{0})}>c_{V_{\min \kappa}}$. 因此, 由引理 3.5 可得

$ \lim_{\epsilon\to 0}c_{\epsilon}=c_{V(x_{0})K(x_{0})}>c_{V_{\min}\kappa}\ge\lim_{\epsilon\to 0}c_{\epsilon}, $

矛盾. 因此 $x_{0}\in\mathcal{H}_{1}$.

注4.1 结合引理 4.3 以及 (4.4) 式, 不难证明 $v_{\epsilon} \to u$ 于 $H^{s}(\mathbb{R}^3)$ 空间.

以下引理在研究解的集中性态中起着关键作用, 其证明详见文献 [13].

引理4.5 设 $\epsilon_{n}\to 0$, 且 $v_{\epsilon_{n}}$ 是方程

$\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon_{n}}|^{2}{\rm d}x\Big)(-\Delta)^{s}v_{\epsilon_{n}}+V(\epsilon_{n}(x+y_{\epsilon_{n}}))v_{\epsilon_{n}}\!=\!K(\epsilon_{n}(x+y_{\epsilon_{n}}))f(v_{\epsilon_{n}})+|v_{\epsilon_{n}}|^{2^{*}_{s}-2}v_{\epsilon_{n}}$

的解, 其中 $y_{\epsilon_{n}}$ 如引理 4.1 中定义. 则 $v_{\epsilon_{n}}\in L^{\infty}(\mathbb{R}^{3})$ 且存在常数 $C>0$ 使得

$ \|v_{\epsilon_{n}}\|_{L^{\infty}}\le C $

对 $n\in\mathbb{N}$ 一致成立. 此外, 对任意 $ \tilde{q}\in[2,+\infty)$, $v_{\epsilon_{n}}\to u$ 于 $L^{\tilde{q}}(\mathbb{R}^{3})$.

定义

$ \begin{aligned} h(x,v_{\epsilon_{n}}):&=\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon_{n}}|^{2}{\rm d}x\Big)^{-1}\\ &\quad\cdot\big[K(\epsilon_{n}(x+y_{\epsilon_{n}}))f(v_{\epsilon_{n}})+|v_{\epsilon_{n}}|^{2^{*}_{s}-2}v_{\epsilon_{n}}-V(\epsilon_{n}(x+y_{\epsilon_{n}}))v_{\epsilon_{n}}\big]. \end{aligned} $

不难证明 $\{v_{\epsilon_{n}}\}$ 在 $H^{s}(\mathbb{R}^{3})$ 中有界, 从而由 Sobolev 嵌入定理知它也在 $L^{p}(\mathbb{R}^{3})$ 中有界, $\forall p\in[2,2^{*}_{s}]$. 在 $V$, $K$ 和 $f$ 的假设下, 我们有

$|h(x,v_{\epsilon_{n}})|\le C(|v_{\epsilon_{n}}|^{3}+|v_{\epsilon_{n}}|^{q-1}+|v_{\epsilon_{n}}|^{2^{*}_{s}-1})\le C(1+|v_{\epsilon_{n}}|^{2^{*}_{s}-1}).$

应用文献 [13,命题 5.1] 的 Moser 迭代方法, 我们得到 $\|v_{\epsilon_{n}}\|_{L^{\infty}}\le C$. 进而, 根据 $L^{p}$ 空间上的插值不等式和已知结论 $v_{\epsilon_{n}}\to u$ 于$ L^{2}(\mathbb{R}^{3})$, 可推出对任意 $ \tilde{q}\in[2,+\infty)$, $v_{\epsilon_{n}}\to u$ 于 $L^ {\tilde{q}}(\mathbb{R}^{3})$.

引理4.6 设 $ \{v_{\epsilon_{n}} \}$ 如前所述, 则当 $|x|\to\infty$ 时, $v_{\epsilon_{n}}(x)\to 0$ 对 $n\in\mathbb{N}$ 一致成立.

由于 $v_{\epsilon_{n}}$ 满足方程

$ (-\Delta)^{s}v_{\epsilon_{n}}+v_{\epsilon_{n}}=\Upsilon_{n},\quad x\in\mathbb{R}^{3}, $

其中

$ \begin{aligned} \Upsilon_{n}(x)&=v_{\epsilon_{n}}(x)+\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon_{n}}|^{2}{\rm d}x\Big)^{-1}\\ &\quad\cdot\big[K(\epsilon_{n}(x+y_{n}))f(v_{\epsilon_{n}})+|v_{\epsilon_{n}}|^{2^{*}_{s}-2}v_{\epsilon_{n}}-V(\epsilon_{n}(x+y_{n}))v_{\epsilon_{n}}(x)\big]. \end{aligned} $

$ \Upsilon(x)=u(x)+\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u|^{2}{\rm d}x\Big)^{-1}\big[K(x_{0})f(u)+|u|^{2^{*}_{s}-2}u-V(x_{0})u\big], $

其中 $x_0$ 是 $\epsilon_n(x+y_n)$ 的极限点, 则由引理 4.2 和 4.5, 有

$ \Upsilon_{n}\to\Upsilon\ \text{ 在 }\ L^{\tilde{q}}(\mathbb{R}^{3}),\quad \forall\tilde{q}\in[2,+\infty) $

且存在常数 $C_{2}>0$ 使得

$ \|\Upsilon_{n}\|_{L^{\infty}}\le C_{2},\quad \forall n\in\mathbb{N}. $

由文献 [15] 知

$ v_{\epsilon_{n}}(x)=\mathcal{G}*\Upsilon_{n}=\int_{\mathbb{R}^{3}}\mathcal{G}(x-y)\Upsilon_{n}(y){\rm d}y, $

其中 $\mathcal{G}$ 是 Bessel 核

$ \mathcal{G}(x)=\mathcal{F}^{-1}\Big(\frac{1}{1+|\xi|^{2s}}\Big). $

根据文献 [15,定理 3.3], $\mathcal{G}$ 满足以下性质

(i) $\mathcal{G}>0$, 径向对称, 且在 $\mathbb{R}^{3}\backslash\{0\}$ 中光滑;

(ii) 存在常数 $C>0$, 使得 $\displaystyle\mathcal{G}(x)\le\frac{C}{|x|^{3+2s}}$;

(iii) $\mathcal{G}\in L^{t_{1}}(\mathbb{R}^{3})$, $\text{其中}$ $t_{1}\in[1,\displaystyle\frac{3}{3-2s})$.

于是仿照文献 [2,引理 2.6] 的证明, 可以推得当 $|x|\to+\infty$ 时 $v_{\epsilon_{n}}(x)\to 0$ 对一致 $n\in\mathbb{N}$ 成立.

定理 4.1 的证明 首先, 我们断言存在 $\rho_{0}>0$ 使得 $\|v_{\epsilon_{n}}\|_{L^{\infty}}\ge\rho_{0}$ 对一切 $ n\in\mathbb{N}$ 成立. 假设当 $n\to+\infty$ 时, $\|v_{\epsilon_{n}}\|_{L^{\infty}}\to 0$. 则存在 $n_{0}\in\mathbb{N}$, 使得对任意 $n\ge n_{0}$,

$ \frac{f(\|v_{\epsilon_{n}}\|_{L^{\infty}})}{\|v_{\epsilon_{n}}\|_{L^{\infty}}^{3}}<\frac{V_{\min}}{K_{\max}}\quad \text{且}\quad \|v_{\epsilon_{n}}\|_{L^{\infty}}<\frac{V_{\min}}{2(V_{\min}+1)}. $

于是,

$\begin{align*} &\quad a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon_{n}}|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{\min}v_{\epsilon_{n}}^{2}{\rm d}x \\ &\le a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon_{n}}|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V(\epsilon_{n}(x+y_{\epsilon_{n}}))v_{\epsilon_{n}}^{2}{\rm d}x\\ &\le\Big(a+b\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon_{n}}|^{2}{\rm d}x\Big)\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}v_{\epsilon_{n}}|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V(\epsilon_{n}(x+y_{\epsilon_{n}}))v_{\epsilon_{n}}^{2}{\rm d}x\\ &=\int_{\mathbb{R}^{3}}K(\epsilon_{n}(x+y_{\epsilon_{n}}))f(v_{\epsilon_{n}})v_{\epsilon_{n}}{\rm d}x+\int_{\mathbb{R}^{3}}|v_{\epsilon_{n}}|^{2^{*}_{s}}{\rm d}x\\ &\le K_{\max}\int_{\mathbb{R}^{3}}\frac{f(v_{\epsilon_{n}})}{v_{\epsilon_{n}}^{3}}v_{\epsilon_{n}}^{4}{\rm d}x+\int_{\mathbb{R}^{3}}|v_{\epsilon_{n}}|^{2^{*}_{s}}{\rm d}x\le V_{\min}\|v_{\epsilon_{n}}\|_{L^{\infty}}^{2}\int_{\mathbb{R}^{3}}v_{\epsilon_{n}}^{2}{\rm d}x+\|v_{\epsilon_{n}}\|_{L^{\infty}}^{2^{*}_{s}-2}\int_{\mathbb{R}^{3}}v_{\epsilon_{n}}^{2}{\rm d}x\\ &\le(V_{\min}+1)\|v_{\epsilon_{n}}\|_{L^{\infty}}^{2}\int_{\mathbb{R}^{3}}v_{\epsilon_{n}}^{2}{\rm d}x, \end{align*}$

由此推出 $n>n_{0}$ 有 $\|v_{\epsilon_{n}}\|_{H^{s}}=0$. 但是已知 $v_{\epsilon_{n}}\to u$ 于 $H^{s}(\mathbb{R}^{3})$ 且 $u\neq 0$, 矛盾. 因此, 存在 $\rho_{0}>0$ 使得 $\|v_{\epsilon_{n}}\|_{L^{\infty}}\ge\rho_{0}$ 对任意 $n\in\mathbb{N}$ 成立.

根据文献 [41,命题 2.9], 我们可知 $v_{\epsilon_{n}}\in C^{1,\alpha}(\mathbb{R}^{3})$, $ \alpha<2s-1$. 由于 $\|v_{\epsilon_{n}}\|_{L^{\infty}}\ge\rho_{0}$, 则由引理 4.6, $v_{\epsilon_{n}}$ 有全局最大值点 $p_{\epsilon_{n}}\in B_{R}(0)$. 记 $\tilde{y}_{\epsilon_{n}}:=p_{\epsilon_{n}}+y_{\epsilon_{n}}$, 则 $\tilde{y}_{\epsilon_{n}}$ 是 $u_{\epsilon_{n}}$ 的最大值点, 且满足 $\epsilon_{n}\tilde{y}_{\epsilon_{n}}=\epsilon_{n}(p_{\epsilon_{n}}+y_{\epsilon_{n}})\to x_{0}\in\mathcal{H}_{1}$. 令 $\psi_{n}(x)=u_{\epsilon_{n}}(x+\tilde{y}_{\epsilon_{n}})$. 类似可证 $\psi_{n}$ 具有与 $v_{\epsilon_{n}}$ 相同的性质. 因此我们可假设 $y_{\epsilon_{n}}$ 是 $u_{\epsilon_{n}}$ 的全局最大值点. 最后, 由引理 4.2 和 4.4 即可证得定理 4.1. 证毕.

5 解的多重性

本节的主要目标是应用 Ljusternik-Schnirelmann 畴数理论, 证明方程 (1.1) 解的多重性结果, 即定理 1.3. 为了证明该定理, 我们需要添加一个额外的假设: $\mathcal{V}\cap\mathcal{K}\neq\emptyset$. 首先, 我们回顾一个涉及 Ljusternik-Schnirelmann 畴数的临界点多重性引理.

引理5.1 (参见文献 [8,第 3.2 章]) 设 $\mathcal{I}$ 是定义在 $C^{1}$-Finsler 流形 $\mathcal{A}$ 上的 $C^{1}$-泛函. 若 $\mathcal{I}$ 下方有界且满足 $(PS)$ 条件, 则 $\mathcal{I}$ 至少有 $\text{cat}_{\mathcal{A}}\mathcal{A}$ 个不同的临界点.

下面的引理提供了一个有用工具, 它将泛函某个次水平集的拓扑与空间 $\mathbb{R}^{3}$ 的某些子集的拓扑联系起来. 相应结论和证明可以参见文献 [6,引理 4.3].

引理5.2 假设 $D$, $\Omega^{+}$, $\Omega^{-}$ 是闭集, 且 $\Omega^{-}\subset\Omega^{+}$. 设 $\Theta:\Omega^{-}\to D$, $\beta:D\to\Omega^{+}$ 是两个连续映射, 使得 $\beta\circ\Theta$ 同伦等价于映射 $Id:\Omega^{-}\to\Omega^{+}$, 则 $\text{cat}_{D}(D)\ge\text{cat}_{\Omega^{+}}\Omega^{-}$.

由命题 3.1, 令 $w\in\mathcal{N}_{V_{\min}K_{\max}}$ 使得 $\mathcal{I}_{V_{\min}K_{\max}}(w)=c_{V_{\min}K_{\max}}$. 假定光滑非增截断函数 $\eta$ 满足 $0\le\eta\le 1$, 且在 $B_{1}(0)$ 上, $\eta=1$; 在 $\mathbb{R}^{3}\backslash B_{2}(0)$ 上, $\eta=0$ 且 $|\nabla\eta|\le C$. 对任意 $y\in\mathcal{V}\cap\mathcal{K}$, 定义函数

$ \Psi_{\epsilon,y}(x)=\eta(|\epsilon x-y|)w\Big(\frac{\epsilon x-y}{\epsilon}\Big), $

并选取 $t_{\epsilon}>0$ 满足

$ \max_{t\ge 0}\mathcal{I}_{\epsilon}(t\Psi_{\epsilon,y})=\mathcal{I}_{\epsilon}(t_{\epsilon}\Psi_{\epsilon,y})\quad \text{且}\quad \frac{{\rm d}\mathcal{I}_{\epsilon}(t\Psi_{\epsilon,y})}{{\rm d}t}\Big|_{t=t_{\epsilon}}=0. $

定义映射 $\Phi_{\epsilon}:\mathcal{V}\cap\mathcal{K}\to\mathcal{N}_{\epsilon}$ 满足

$ \Phi_{\epsilon}(y)=t_{\epsilon}\Psi_{\epsilon,y}. $

显然, $\Phi_{\epsilon}(y)$ 是良定的, 且对任意 $y\in\mathcal{V}\cap\mathcal{K}$ 具有紧支集. 下面我们给出一些后续证明中需要用到的引理.

引理5.3

$ \lim_{\epsilon\to 0}\mathcal{I}_{\epsilon}(\Phi_{\epsilon}(y))=c_{V_{\min}K_{\max}}, $

对一致 $y\in\mathcal{V}\cap\mathcal{K}$ 成立.

我们将运用反证法证明此引理. 假设存在常数 $\rho^{*}>0$, 序列 $\{y_ {n}\}\subset\mathcal{V}\cap\mathcal{K}$ 和 $\epsilon_{n}\to 0$ 使得

$|\mathcal{I}_{\epsilon_{n}}(\Phi_{\epsilon_{n}}(y_{n}))-c_{V_{\min}K_{\max}}|\ge\rho^{*}>0.$

首先证明 $\displaystyle\lim_{n\to+\infty}t_{\epsilon_{n}}=1$. 由 $t_{\epsilon_{n}}$ 的定义和引理 2.7 可知,

$\begin{matrix} 2c_{\epsilon} &\le at_{\epsilon_{n}}^{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\Psi_{\epsilon_{n},y_{n}}|^{2}{\rm d}x+t_{\epsilon_{n}}^{2}\int_{\mathbb{R}^{3}}V(\epsilon_{n}x)\Psi_{\epsilon_{n},y_{n}}^{2}{\rm d}x+bt_{\epsilon_{n}}^{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\Psi_{\epsilon_{n},y_{n}}|^{2}{\rm d}x\Big)^{2} \\ &=t_{\epsilon_{n}}\int_{\mathbb{R}^{3}}K(\epsilon_{n}x)f(t_{\epsilon_{n}}\Psi_{\epsilon_{n},y_{n}})\Psi_{\epsilon_{n},y_{n}}{\rm d}x+t_{\epsilon_{n}}^{2_{s}^{*}}\int_{\mathbb{R}^{3}}|\Psi_{\epsilon_{n},y_{n}}|^{2_{s}^{*}}{\rm d}x. \end{matrix}$

利用条件 ($f_1$)-($f_2$) 和 (5.2) 式得 $t_{\epsilon_{n}}\not\to 0$. 因此存在 $t_{0}>0$, 使得 $t_{\epsilon_{n}}\ge t_{0}$. 若 $t_{\epsilon_{n}}\to+\infty$, 则

$\begin{align*} & \quad \frac{1}{t_{\epsilon_{n}}^{2}}\Big(a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\Psi_{\epsilon_{n},y_{n}}|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V(\epsilon_{n}x)\Psi_{\epsilon_{n},y_{n}}^{2}{\rm d}x\Big)+b\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\Psi_{\epsilon_{n},y_{n}}|^{2}{\rm d}x\Big)^{2}\\ &=\int_{\mathbb{R}^{3}}K(\epsilon_{n}x)\frac{f(t_{\epsilon_{n}}\Psi_{\epsilon_{n},y_{n}})}{(t_{\epsilon_{n}}\Psi_{\epsilon_{n},y_{n}})^{3}}\Psi_{\epsilon_{n},y_{n}}^{4}{\rm d}x+t_{\epsilon_{n}}^{2_{s}^{*}-4}\int_{\mathbb{R}^{3}}|\Psi_{\epsilon_{n},y_{n}}|^{2_{s}^{*}}{\rm d}x \\ & \ge\inf_{x\in\mathbb{R}^{3}}K\int_{B_{\frac{1}{2}}(0)} \frac{f(t_{\epsilon_{n}}w)^{3}}{(t_{\epsilon_{n}}w)^{3}}w^{4}{\rm d}x\to+\infty. \end{align*}$

这与 $\Psi_{\epsilon_{n},y_{n}}$ 在 $H_{\epsilon_{n}}$ 中有界矛盾. 因此, 我们可推断 $0<t_{0}<t_{\epsilon_{n}}\le\bar{t}_{0}$. 不失一般性, 我们假设 $t_{\epsilon_{n}}\to\widetilde{T}$.

下面证明 $\widetilde{T}=1$. 由引理 2.3 和 Lebesgue 控制收敛定理,

$\lim_{n\to+\infty}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}\Psi_{\epsilon_{n},y_{n}}|^{2}{\rm d}x=\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w|^{2}{\rm d}x,$
$\lim_{n\to+\infty}\int_{\mathbb{R}^{3}}V(\epsilon_{n}x)\Psi_{\epsilon_{n},y_{n}}^{2}{\rm d}x=\int_{\mathbb{R}^{3}}V_{\min}w^{2}{\rm d}x,$
$\begin{matrix} &\quad \lim_{n\to+\infty}\Big(\int_{\mathbb{R}^{3}}K(\epsilon_{n}x)f(\Psi_{\epsilon_{n},y_{n}})\Psi_{\epsilon_{n},y_{n}}{\rm d}x+\int_{\mathbb{R}^{3}}|\Psi_{\epsilon_{n},y_{n}}|^{2^{*}_{s}}{\rm d}x\Big) \\* &=\int_{\mathbb{R}^{3}}K_{\max}f(w)w{\rm d}x+\int_{\mathbb{R}^{3}}|w|^{2^{*}_{s}}{\rm d}x. \end{matrix}$

于是, 根据 (5.2)-(5.5) 式可得

$\begin{aligned}&\quad \frac{1}{\widetilde{T}^{2}}\Big(a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{\min}w^{2}{\rm d}x\Big)+b\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w|^{2}{\rm d}x\Big)^{2} \\&=\widetilde{T}^{2^{*}_{s}-4}\int_{\mathbb{R}^{3}}|w|^{2^{*}_{s}}{\rm d}x+\int_{\mathbb{R}^{3}}K_{\max}\frac{f(\widetilde{T}w)}{(\widetilde{T}w)^{3}}w^{4}{\rm d}x.\end{aligned}$

由于 $w\in\mathcal{N}_{V_{\min}K_{\max}}$, 则

$\begin{aligned}&\quad a \int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{\min}w^{2}{\rm d}x+b\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w|^{2}{\rm d}x\Big)^{2}\\&=\int_{\mathbb{R}^{3}}|w|^{2^{*}_{s}}{\rm d}x+\int_{\mathbb{R}^{3}}K_{\max}f(w)w{\rm d}x.\end{aligned}$

由 (5.6) 和 (5.7) 式相减, 整理得

$\begin{align*} &\quad \Big(1-\frac{1}{\widetilde{T}^{2}}\Big)\Big(a\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w|^{2}{\rm d}x+\int_{\mathbb{R}^{3}}V_{\min}w^{2}{\rm d}x\Big)\\ &=(1-\widetilde{T}^{2^{*}_{s}-4})\int_{\mathbb{R}^{3}}|w|^{2^{*}_{s}}{\rm d}x+\int_{\mathbb{R}^{3}}K_{\max}\Big(\frac{f(w)}{w^{3}}-\frac{f(\widetilde{T}w)}{(\widetilde{T}w)^{3}}\Big)w^{4}{\rm d}x. \end{align*}$

由条件 ($f_3$) 可推出 $\widetilde{T}=1$. 因此, 再次利用 (5.2)-(5.5) 式可得

$ \lim_{n\to+\infty}\mathcal{I}_{\epsilon_{n}}(\Phi_{\epsilon_{n}}(y_{n}))=\mathcal{I}_{V_{\min}K_{\max}}(w)=c_{V_{\min}K_{\max}}, $

这与假设 (5.1) 矛盾.

对任意 $\delta>0$, 取 $\rho=\rho(\delta)>0$ 使得 $(\mathcal{V}\cap\mathcal{K})_{\delta}\subset B_{\rho}(0)$. 定义映射 $\Gamma:\mathbb{R}^{3}\to\mathbb{R}^{3}$ 满足当 $|x|\le\rho$, $\Gamma(x)=x$; 当 $|x|\ge\rho$, $\Gamma(x)=\rho x/|x|$. 定义映射 $\beta_{\epsilon}:\mathcal{N}_{\epsilon}\to\mathbb{R}^{3}$ 为

$ \beta_{\epsilon}(u)=\frac{\displaystyle\int_{\mathbb{R}^{3}}\Gamma(\epsilon x)u^{2}{\rm d}x}{\displaystyle\int_{\mathbb{R}^{3}}u^{2}{\rm d}x}. $

引理5.4 $\displaystyle\lim_{\epsilon\to 0}\beta_{\epsilon}(\Phi_{\epsilon}(y))=y $ 对 $y\in\mathcal{V}\cap\mathcal{K}$ 一致成立.

作变量替换 $z=\frac{\epsilon x-y}{\epsilon}$ 得

$\beta_{\epsilon}(\Phi_{\epsilon}(y))=y+\frac{\int_{\mathbb{R}^{3}}(\Gamma(\epsilon z+y)-y)|\eta(\epsilon z)w(z)|^{2}{\rm d}z}{\int_{\mathbb{R}^{3}}|\eta(\epsilon z)w(z)|^{2}{\rm d}z}.$

直接计算可知当 $\epsilon\to 0$,

$\int_{\mathbb{R}^{3}}\eta^{2}(\epsilon z)|w(z)|^{2}{\rm d}z\to\int_{\mathbb{R}^{3}}|w(z)|^{2}{\rm d}z>0.$

因为 $y\in\mathcal{V}\cap\mathcal{K}\subset B_{\rho}(0)$ 且 $\mathcal{V}\cap\mathcal{K}$ 为紧集, 则

$\begin{matrix} \Big|\int_{\mathbb{R}^{3}}(\Gamma(\epsilon z+y)-y)\eta^{2}(\epsilon z)|w(z)|^{2}{\rm d}z\Big| &\le\int_{B_{\frac{2}{\epsilon}}(0)}|\Gamma(\epsilon z+y)-y||w(z)|^{2}{\rm d}z \\* & \le o_{\epsilon}(1)\int_{B_{\frac{2}{\epsilon}}(0)}|w(z)|^{2}{\rm d}z\to 0, \end{matrix}$

且该收敛关于 $y\in\mathcal{V}\cap\mathcal{K}$ 一致成立. 因此, 由 (5.8)-(5.10) 式即得结论.

为应用 Ljusternik-Schnirelmann 畴数理论, 需要验证 $\mathcal{I}_{\epsilon}$ 在适当流形上满足 $(PS)$ 条件.

引理5.5 设 $\{u_{n}\}\subset\mathcal{N}_{V_{\min}K_{\max}}$ 满足 $\mathcal{I}_{V_{\min}K_{\max}}(u_{n})\to c_{V_{\min}K_{\max}}$, 则下列结论中之一成立

(i) $\{u_{n}\}$ 在 $H^{s}(\mathbb{R}^{3})$ 中存在强收敛的子列;

(ii) 存在序列 $\{y_{n}\}\subset\mathbb{R}^{3}$, 使得 $v_{n}(x)=u_{n}(x+y_{n})$ 在 $H^{s}(\mathbb{R}^{3})$ 中强收敛.

特别地, $c_{V_{\min}K_{\max}}$ 是可达的, 即存在极小元 $u$.

由引理 2.10 可知, 序列 $\{m^{-1}_{V_{\min}K_{\max}}(u_{n})\}$ 是 $\Upsilon_{V_{\min}K_{\max}}$ 的极小化序列. 令 $w_{n}=m^{-1}_{V_{\min}K_{\max}}(u_{n})$. 根据文献 [44] 中 Ekeland 变分原理可知, $\Upsilon_{V_{\min}K_{\max}}(w_{n})\to c_{V_{\min}K_{\max}}$ 且 $\Upsilon^{\prime}_{V_{\min}K_{\max}}(w_{n})\to 0$. 再次运用引理 2.10, 有

$\mathcal{I}_{V_{\min}K_{\max}}(u_{n})\to c_{V_{\min}K_{\max}},\quad \mathcal{I}^{\prime}_{V_{\min}K_{\max}}(u_{n})\to 0\quad \text{且}\quad \langle\mathcal{I}^{\prime}_{V_{\min}K_{\max}}(u_{n}),u_{n}\rangle=0,$

其中 $u_{n}=m_{V_{\min}K_{\max}}(w_{n})$.

显然 $\{u_{n}\}$ 在 $H^{s}(\mathbb{R}^{3})$ 中有界, 故可假设 $u_{n}\rightharpoonup u$ 于 $H^{s}(\mathbb{R}^{3})$. 下面分两种情况继续证明: $u=0$ 和 $u\neq 0$.

情形 1 $u\neq 0$. 在此情形, 应用类似于命题 3.1 的证明, 易验证 $u_{n}\to u$ 于 $H^{s}(\mathbb{R}^{3})$, 且 $\mathcal{I}_{V_{\min}K_{\max}}(u)=c_{V_{\min}K_{\max}}$.

情形 2 $u\equiv 0$. 运用与引理 2.7 (ii) 证明中类似的方法, 对任意 $\{u_{n}\}\subset\mathcal{N}_{V_{\min}K_{\max}}$, 我们有

$ \frac{a}{2}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x+\frac{1}{2}\int_{\mathbb{R}^{3}}V_{\min}u_{n}^{2}{\rm d}x+\frac{b}{4}\Big(\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}u_{n}|^{2}{\rm d}x\Big)^{2}\ge c_{V_{\min}K_{\max}}>0. $

由注 3.1 知 $c_{V_{\min}K_{\max}}\le c_{V_{\infty}K_{\infty}}<c^{*}$. 运用类似于引理 3.4 或引理 4.1 中的证明方法, 可推断存在序列 $\{y_{n}\}\subset\mathbb{R}^{3}$ 和常数 $R>0$ 使得

$\liminf_{n\to+\infty}\int_{B_{R}(y_{n})}u_{n}^{2}{\rm d}x>0.$

记 $\tilde{u}_{n}(x)=u_{n}(x+y_{n})$, 则 $\mathcal{I}_{V_{\min}K_{\max}}(\tilde{u}_{n})\to c_{V_{\min}K_{\max}}$ 且 $\langle\mathcal{I}^{\prime}_{V_{\min}K_{\max}}(\tilde{u}_{n}),\tilde{u}_{n}\rangle=0$. 显然 $\{\tilde{u}_{n}\}$ 在 $H^{s}(\mathbb{R}^{3})$ 中有界, 不失一般性我们假设 $\tilde{u}_{n}\rightharpoonup v$ 于 $H^{s}(\mathbb{R}^{3})$. 由 (85) 知 $v\neq 0$. 沿用情形 1 中的证明方法可证明 $\tilde{u}_{n}$ 在 $H^{s}(\mathbb{R}^{3})$ 中强收敛, 从而结论 (ii) 成立.

引理5.6 设 $\epsilon_{n}\to 0$ 且 $\{u_{n}\}\subset\mathcal{N}_{\epsilon_{n}}$ 满足 $\mathcal{I}_{\epsilon_{n}}(u_{n})\to c_{V_{\min}K_{\max}}$. 则存在子列 $\{y_{n}\}\subset\mathbb{R}^{3}$, 使得 $v_{n}=u_{n}(x+y_{n})$ 在 $H^{s}(\mathbb{R}^{3})$ 中有强收敛子列. 此外, $\epsilon_{n}y_{n}\to y\in\mathcal{V}\cap\mathcal{K}$.

由引理 2.5 可知 $\{u_{n}\}$ 在 $H_{\epsilon_{n}}$ 中有界. 再由引理 2.7 得 $\|u_{n}\|_{\epsilon_{n}}\not\to 0$. 运用类似于引理 4.1 的证明方法, 可证明存在序列 $\{y_{n}\}\subset\mathbb{R}^{3}$ 和常数 $R>0$ 使得

$ \liminf_{n\to +\infty}\int_{B_{R}(y_{n})}u_{n}^{2}{\rm d}x>0. $

令 $v_{n}(x)=u_{n}(x+y_{n})$. 不失一般性, 假设

$v_{n}\rightharpoonup v\neq 0\ \text{ 于 }\ H^{s}(\mathbb{R}^{3})\ \text{ 且 }\ v_{n}(x)\to v(x)\ \text{ a.e. 于 }\ \mathbb{R}^{3}.$

假设存在 $t_{n}>0$ 使得 $w_{n}=t_{n}v_{n}\in\mathcal{N}_{V_{\min}K_{\max}}$. 因此,

$ c_{V_{\min}K_{\max}}\le\mathcal{I}_{V_{\min}K_{\max}}(t_{n}v_{n})\le\mathcal{I}_{\epsilon_{n}}(t_{n}u_{n})\le\mathcal{I}_{\epsilon_{n}}(u_{n})=c_{V_{\min}K_{\max}}+o_{n}(1), $

$ \lim_{n\to+\infty}\mathcal{I}_{V_{\min}K_{\max}}(t_{n}v_{n})\to c_{V_{\min}K_{\max}}. $

再次应用引理 2.5 可知 $\{w_{n}\}$ 有界. 结合 $\{v_{n}\}$ 的有界性可得 $\{t_{n}\}$ 有界. 因此, 我们可假设 $t_{n}\to t_{0}\ge 0$.

若 $t_{0}=0$, 则 $w_{n}=t_{n}v_{n}\to 0$ 于 $H^{s}(\mathbb{R}^{3})$ (由于 $\{v_{n}\}$ 在 $H^{s}(\mathbb{R}^{3})$ 中有界). 进而, $\mathcal{I}_{V_{\min}K_{\max}}(w_{n})\to 0$, 这与 $c_{V_{\min}K_{\max}}>0$ 相矛盾. 因此, $t_{0}>0$. 且在子列意义下, $w_{n}\rightharpoonup w:=t_{0}v\not\equiv 0$ 于 $H^{s}(\mathbb{R}^{3})$. 由引理 5.5 得 $w_{n}\to w$ 于 $H^{s}(\mathbb{R}^{3})$, 且 $w\in\mathcal{N}_{V_{\min}K_{\max}}$. 所以, $v_{n}\to v$ 于 $H^{s}(\mathbb{R}^{3})$.

下面证明 $\epsilon_{n}y_{n}\to y\in\mathcal{V}\cap\mathcal{K}$. 首先证明 $\{\epsilon_{n}y_{n}\}$ 在 $\mathbb{R}^{3}$ 中有界. 若不然, 则 $n\to+\infty$ 时, $|\epsilon_{n}y_{n}|\to+\infty$. 直接计算可得

$\begin{align*} c_{V_{\min}K_{\max}}&=\mathcal{I}_{V_{\min}K_{\max}}(w)<\mathcal{I}_{V_{\infty}K_{\infty}}(w)=\mathcal{I}_{V_{\infty}K_{\infty}}(w)-\frac{1}{4}\langle\mathcal{I}^{\prime}_{V_{\min}K_{\max}}(w),w\rangle\\ &\le\liminf_{n\to+\infty}\Big\{\frac{a}{4}\int_{\mathbb{R}^{3}}|(-\Delta)^{\frac{s}{2}}w_{n}|^{2}{\rm d}x+\frac{1}{4}\int_{\mathbb{R}^{3}}(2V(\epsilon_{n}x+\epsilon_{n}y_{n})-V_{\min})w_{n}^{2}{\rm d}x\\ &\quad +\Big(\frac{1}{4}-\frac{1}{2^{*}_{s}}\Big)\int_{\mathbb{R}^{3}}|w_{n}|^{2^{*}_{s}}{\rm d}x+\int_{\mathbb{R}^{3}}\Big(\frac{1}{4}K_{\max}f(w_{n})w_{n}-K(\epsilon_{n}x+\epsilon_{n}y_{n})F(w_{n})\Big){\rm d}x\Big\}\\ &=\liminf_{n\to+\infty}\Big(\mathcal{I}_{\epsilon_{n}}(w_{n})-\frac{1}{4}\langle\mathcal{I}^{\prime}_{V_{\min}K_{\max}}(w_{n}),w_{n}\rangle\Big)\\ &=\liminf_{n\to+\infty}\mathcal{I}_{\epsilon_{n}}(t_{n}u_{n})\le\liminf_{n\to+\infty}\mathcal{I}_{\epsilon_{n}}(u_{n})=c_{V_{\min}K_{\max}}, \end{align*} $

上式显然矛盾. 因此 $\{\epsilon_{n}y_{n}\}$ 有界.

假设 $\epsilon_{n}y_{n}\to y$. 最后证明 $V(y)=V_{\min}$ 且 $K(y)=K_{\max}$. 假设 $V(y)>V_{\min}$ 或 $K(y)<K_{\max}$, 则

$ c_{V_{\min}K_{\max}}\le\mathcal{I}_{V_{\min}K_{\max}}(w)<\mathcal{I}_{V(y)K(y)}(w)\le\lim_{n\to+\infty}\mathcal{I}_{\epsilon_{n}}(t_{n}u_{n})\le\lim_{n\to+\infty}\mathcal{I}_{\epsilon_{n}}(u_{n})=c_{V_{\min}K_{\max}}, $

矛盾. 因此, $V(y)=V_{\min}$ 且 $K(y)=K_{\max}$, 即 $y\in\mathcal{V}\cap\mathcal{K}$.

定义集合

$ \widetilde{\mathcal{N}}_{\epsilon}=\{u\in\mathcal{N}_{\epsilon}:\mathcal{I}_{\epsilon}(u)\le c_{V_{\min}K_{\max}}+h(\epsilon)\}, $

其中 $h(\epsilon):=\sup_{y\in\mathcal{V}\cap\mathcal{K}}|\mathcal{I}_{\epsilon}(\Phi_{\epsilon}(y))-c_{V_{\min}K_{\max}}|$. 由引理 5.3 得, 当 $\epsilon\to 0$, $h(\epsilon)\to 0$. 则对任意 $y\in\mathcal{V}\cap\mathcal{K}$ 和 $\epsilon>0$, $\Phi_{\epsilon}(y)\in\widetilde{\mathcal{N}}_{\epsilon}$. 于是 $\widetilde{\mathcal{N}}_{\epsilon}\neq\emptyset$.

引理5.7 对任意 $\delta>0$,

$\lim_{\epsilon\to 0}\sup_{u\in\widetilde{\mathcal{N}}_{\epsilon}}\text{dist}(\beta_{\epsilon}(u),(\mathcal{V}\cap\mathcal{K})_{\delta})=0.$

假设当 $n\to+\infty$ 时, $\epsilon_{n}\to 0$. 对每个 $n\in\mathbb{N}$, 存在序列 $\{u_{n}\}\subset\widetilde{\mathcal{N}}_{\epsilon_{n}}$ 使得

$ {\rm dist}(\beta_{\epsilon_{n}}(u_{n}),(\mathcal{V}\cap\mathcal{K})_{\delta})=\sup_{u\in\widetilde{\mathcal{N}}_{\epsilon_{n}}}{\rm dist}(\beta_{\epsilon_{n}}(u),(\mathcal{V}\cap\mathcal{K})_{\delta})+o_{n}(1). $

因此, 只需证明存在序列 $\{\tilde{y}_{n}\}\subset(\mathcal{V}\cap\mathcal{K})_{\delta}$ 使得

$\lim_{n\to+\infty}|\beta_{\epsilon_{n}}(u_{n})-\tilde{y}_{n}|=0.$

因为 $\{u_{n}\}\subset\widetilde{\mathcal{N}}_{\epsilon_{n}}\subset\mathcal{N}_{\epsilon_{n}}$, 则

$ c_{V_{\min}K_{\max}}\le c_{\epsilon_{n}}\le\mathcal{I}_{\epsilon_{n}}(u_{n})\le c_{V_{\min}K_{\max}}+h(\epsilon_{n}), $

即有 $\mathcal{I}_{\epsilon_{n}}(u_{n})\to c_{V_{\min}K_{\max}}$. 由引理 5.6 知存在子列 $\{y_{n}\}\subset\mathbb{R}^{3}$ 使得 $\{u_{n}(x+y_{n})\}$ 强收敛, 且当 $n\to+\infty$,

$ \tilde{y}_{n}:=\epsilon_{n}y_{n}\to y\in\mathcal{V}\cap\mathcal{K}\subset(\mathcal{V}\cap\mathcal{K})_{\delta}. $

因此,

$ \beta_{\epsilon_{n}}(u_{n})=\tilde{y}_{n}+\frac{\displaystyle\int_{\mathbb{R}^{3}}(\Gamma(\epsilon_{n}z+\tilde{y}_{n})-\tilde{y}_{n})u_{n}^{2}(z+y_{n}){\rm d}z}{\displaystyle\int_{\mathbb{R}^{3}}u_{n}^{2}(z+y_{n}){\rm d}z}. $

由于 $\epsilon_{n}z+\tilde{y}_{n}\to y\in\mathcal{V}\cap\mathcal{K}$, 因此我们可知序列 $\{\tilde{y}_{n}\}$ 满足 (5.12) 式.

定理 1.3 的证明 定义映射 $\gamma_{\epsilon}:(\mathcal{V}\cap\mathcal{K})\to S_{\epsilon}$ 满足 $\gamma_{\epsilon}(y)=m_{\epsilon}^{-1}(\Phi_{\epsilon}(y))$, $y\in\mathcal{V}\cap\mathcal{K}$. 由引理 5.3 和 (2.5) 式得

$\lim_{\epsilon\to 0}\Upsilon_{\epsilon}(\gamma_{\epsilon}(y))=\lim_{\epsilon\to 0}\mathcal{I}_{\epsilon}(\Phi_{\epsilon}(y))=c_{V_{\min}K_{\max}}$

对一致 $y\in\mathcal{V}\cap\mathcal{K}$ 成立. 令

$ \mathcal{N}_{\epsilon}^{*}=\{w\in S_{\epsilon}:\Upsilon_{\epsilon}(w)\le c_{V_{\min}K_{\max}}+h(\epsilon)\}. $

由 (5.13) 式知, 当 $\epsilon$ 充分小时, $\mathcal{N}_{\epsilon}^{*}\neq\emptyset$.

给定 $\delta>0$, 由引理 2.10, 5.3, 5.4 和 5.7 可知, 存在某个 $\epsilon_{\delta}>0$ 使得对任意 $\epsilon\in(0,\epsilon_{\delta})$,

$ (\mathcal{V}\cap\mathcal{K})\xrightarrow{\Phi_{\epsilon}}\widetilde{\mathcal{N}_{\epsilon}}\xrightarrow{m_{\epsilon}^{-1}}\mathcal{N}_{\epsilon}^{*}\xrightarrow{m_{\epsilon}}\widetilde{\mathcal{N}_{\epsilon}}\xrightarrow{\beta_{\epsilon}}(\mathcal{V}\cap\mathcal{K})_{\delta} $

是良定的, 且 $\beta_{\epsilon}\circ\Phi_{\epsilon}$ 同伦等价于映射 $Id:(\mathcal{V}\cap\mathcal{K})\to(\mathcal{V}\cap\mathcal{K})_{\delta}$. 事实上, 由引理 5.4, 对充分小的 $\epsilon$, 我们可记 $\beta_{\epsilon}(\Phi_{\epsilon}(y)):=y+\theta(y)$, 其中 $y\in\mathcal{V}\cap\mathcal{K}$, 且 $|\theta(y)|<\frac{\delta}{2}$ 对一致 $y\in\mathcal{V}\cap\mathcal{K}$ 成立. 定义

$\mathscr{H}(t,y)=y+(1-t)\theta(y),$

显然, $\mathscr{H}: [0,1]\times(\mathcal{V}\cap\mathcal{K})\to(\mathcal{V}\cap\mathcal{K})_{\delta}$ 连续, 且对所有 $y\in\mathcal{V}\cap\mathcal{K}$, $\mathscr{H}(0,y)=\beta_{\epsilon}(\Phi_{\epsilon}(y))$ 且 $\mathscr{H}(1,y)=y$. 因此, $\beta_{\epsilon}\circ\Phi_{\epsilon}$ 同伦等价于映射 $Id$. 于是, 由引理 5.2, 得

$ {\rm cat}_{\mathcal{N}_{\epsilon}^{*}}(\mathcal{N}_{\epsilon}^{*})\ge {\rm cat}_{(\mathcal{V}\cap\mathcal{K})_{\delta}}(\mathcal{V}\cap\mathcal{K}). $

由于 $c_{V_{\min}K_{\max}}<c_{V_{\infty}K_{\infty}}$ 且当 $\epsilon\to 0^{+}$ 时 $h(\epsilon)\to 0$, 由 $\widetilde{\mathcal{N}}_{\epsilon}$ 的定义, 取 $\epsilon_{\delta}$ 充分小, 由命题 3.2 可知对所有的 $\epsilon\in(0,\epsilon_{\delta})$, $\mathcal{I}_{\epsilon}$ 在 $\widetilde{\mathcal{N}}_{\epsilon}$ 上满足 $(PS)$ 条件. 而由引理 2.10 可知 $\Upsilon_{\epsilon}$ 在 $\mathcal{N}_{\epsilon}^{*}$ 上满足 $(PS)$ 条件. 应用文献 [17] 中标准的 Ljusternik-Schnirelmann 畴数理论即可证得 $\Upsilon_{\epsilon}$ 限制在 $\mathcal{N}_{\epsilon}^{*}$ 上至少有 ${\rm cat}_{\mathcal{N}_{\epsilon}^{*}}(\mathcal{N}_{\epsilon}^{*})$ 个临界点. 再次使用引理 2.10 可证得 $\mathcal{I}_{\epsilon}$ 至少有 ${\rm cat}_{(\mathcal{V}\cap\mathcal{K})_{\delta}}(\mathcal{V}\cap\mathcal{K})$ 个临界点. 重复命题 3.1 的证明, 可证得方程 (2.1) 至少有 ${\rm cat}_{(\mathcal{V}\cap\mathcal{K})_{\delta}}(\mathcal{V}\cap\mathcal{K})$ 个正解. 因此, 经过变量替换回到原方程, 即证得方程 (1.1) 至少有 ${\rm cat}_{(\mathcal{V}\cap\mathcal{K})_{\delta}}(\mathcal{V}\cap\mathcal{K})$ 个正解. 最后, 如同定理 1.1 的证明, 我们也可证明定理 1.3 成立.

参考文献

Alves C O, Correa F J S A.

On existence of solutions for a class of problem involving a nonlinear operator

Comm Appl Nonlinear Anal, 2001, 8(2): 43-56

[本文引用: 1]

Alves C O, Miyagaki O H.

Existence and concentration of solution for a class of fractional elliptic equation in $\mathbb{R}^{N}$ via penalization method

Calc Var Partial Differential Equations, 2016, 55(3): Art 47

[本文引用: 3]

Ambrosio V, Isernia T.

Concentration phenomena for a fractional Schrödinger-Kirchhoff type equation

Math Methods Appl Sci, 2018, 41(2): 615-645

DOI:10.1002/mma.v41.2      URL     [本文引用: 1]

Arosio A, Panizzi S.

On the well-posedness of the Kirchhoff string

Trans Amer Math Soc, 1996, 348(1): 305-330

DOI:10.1090/tran/1996-348-01      URL     [本文引用: 1]

Autuori G, Fiscella A, Pucci P.

Stationary Kirchhoff problems involving a fractional elliptic operator and a critical nonlinearity

Nonlinear Anal, 2015, 125: 699-714

DOI:10.1016/j.na.2015.06.014      URL     [本文引用: 1]

Benci V, Cerami G.

Multiple positive solutions of some elliptic problems via the Morse theory and the domain topology

Calc Var Partial Differential Equations, 1994, 2(1): 29-48

DOI:10.1007/BF01234314      URL     [本文引用: 2]

Caffarelli L, Silvestre L.

An extension problem related to the fractional Laplacian

Commun Partial Differential Equations, 2007, 32(8): 1245-1260

DOI:10.1080/03605300600987306      URL     [本文引用: 2]

Chang K C. Infinite Dimensional Morse Theory and Multiple Solution Problems, Progress in Nonlinear Differential Equations and Their Applications. Boston: Birkhauser Boston Inc, 1993

[本文引用: 1]

Chipot M, Lovat B.

Some remarks on nonlocal elliptic and parabolic problems

Nonlinear Anal, 1997, 30(7): 4619-4627

DOI:10.1016/S0362-546X(97)00169-7      URL     [本文引用: 1]

D'Ancona P, Spagnolo S.

Global solvability for the degenerate Kirchhoff equation with real analytic data

Invent Math, 1992, 108(1): 247-262

DOI:10.1007/BF02100605      URL     [本文引用: 1]

D'avila J, Del Pino M, Wei J.

Concentrating standing waves for the fractional nonlinear Schrödinger equation

J Differential Equations, 2014, 256(2): 858-892

DOI:10.1016/j.jde.2013.10.006      URL     [本文引用: 1]

Del Pino M, Felmer P L.

Local mountain pass for semilinear elliptic problems in unbounded domains

Calc Var Partial Differential Equations, 1996, 4(2): 121-137

DOI:10.1007/BF01189950      URL     [本文引用: 1]

Dipierro S, Medina M, Valdinoci E.

Fractional Elliptic Problems with Critical Growth in the Whole of $\mathbb{R}^{N}$

Pisa: Edizioni della Normale Pisa, 2017

[本文引用: 2]

Fall M, Mahmoudi F, Valdinoci E.

Ground states and concentration phenomena for the fractional Schrödinger equation

Nonlinearity, 2015, 28: 1937-1961

DOI:10.1088/0951-7715/28/6/1937      URL     [本文引用: 1]

Felmer P, Quass A, Tan J.

Positive solutions of the nonlinear Schrödinger equation with the fractional Laplacian

Proc Roy Soc Edinburgh Sect A, 2012, 142: 1237-1262

DOI:10.1017/S0308210511000746      URL     [本文引用: 2]

We study the existence of positive solutions for the nonlinear Schrödinger equation with the fractional Laplacian

Fiscella A, Valdinoci E.

A critical Kirchhoff type problem involving a nonlocal operator

Nonlinear Anal, 2014, 94: 156-170

DOI:10.1016/j.na.2013.08.011      URL     [本文引用: 1]

Ghoussoub N. Duality and Perturbation Methods in Critical Point Theory. Cambridge: Cambridge University Press, 1993

[本文引用: 1]

Guo Q, He X.

Semiclassical states for fractional Schrödinger equations with critical growth

Nonlinear Anal, 2017, 151: 164-186

DOI:10.1016/j.na.2016.12.004      URL     [本文引用: 1]

He X, Zou W.

Ground states for nonlinear Kirchhoff equations with critical growth

Ann Mat Pura Appl, 2014, 193: 473-500

DOI:10.1007/s10231-012-0286-6      URL     [本文引用: 1]

He X, Zou W.

Existence and concentration result for the fractional Schrödinger equations with critical nonlinearities

Calc Var Partial Differential Equations, 2016, 55(4): Art 91

[本文引用: 1]

He X, Zou W.

Multiplicity of concentrating solutions for a class of fractional Kirchhoff equation

Manuscripta Math, 2019, 158(1): 159-203

DOI:10.1007/s00229-018-1017-0      [本文引用: 4]

He Y, Li G.

Standing waves for a class of Kirchhoff type problems in $\mathbb{R}^{3}$ involving critical Sobolev exponents

Calc Var Partial Differential Equations, 2015, 54(3): 3067-3106

DOI:10.1007/s00526-015-0894-2      URL     [本文引用: 1]

He Y, Li G, Peng S.

Concentrating bound states for Kirchhoff type problems in $\mathbb{R}^{3}$ involving critical Sobolev exponents

Adv Nonlinear Stud, 2014, 14: 483-510

DOI:10.1515/ans-2014-0214      URL     [本文引用: 1]

We study the concentration and multiplicity of weak solutions to the Kirchhoff type equation with critical Sobolev growth,

Kirchhoff G. Mechanik. Leipzig: Teubner, 1883

[本文引用: 1]

Laskin N.

Fractional quantum mechanics and Levy path integrals

Phys Lett A, 2000, 268(4/6): 298-305

DOI:10.1016/S0375-9601(00)00201-2      URL     [本文引用: 1]

Laskin N.

Fractional Schrödinger equation

Phys Rev E (3), 2002, 66(5): Art 056108

[本文引用: 1]

Li G, Ye H.

Existence of positive ground state solutions for the nonlinear Kirchhoff type equations in $\mathbb{R}^{3}$

J Differential Equations, 2014, 257(2): 566-600

DOI:10.1016/j.jde.2014.04.011      URL     [本文引用: 2]

Li S, Ding Y, Chen Y.

Concentrating standing waves for the fractional Schrödinger equation with critical nonlinearities

Bound Value Probl, 2015, 2015(1): Art 240

[本文引用: 1]

Liang S, Repovs D, Zhang B.

On the fractional Schrödinger-Kirchhoff equations with electromagnetic fields and critical nonlinearity

Comput Math Appl, 2018, 75(5): 1778-1794

DOI:10.1016/j.camwa.2017.11.033      URL     [本文引用: 1]

Lions J L.

On some questions in boundary value problems of mathematical physics in contemporary developments in continuum mechanics and partial differential equations

North-Holl Math Stud, 1978, 30: 284-346

[本文引用: 1]

Lions P L.

The concentration-compactness principle in the calculus of variations, the limit case I

Rev Mat Iberoam, 1985, 1: 145-201

DOI:10.4171/rmi      URL     [本文引用: 1]

Lions P L.

The concentration-compactness principle in the calculus of variations, the limit case II

Rev Mat Iberoam, 1985, 1: 45-121

[本文引用: 1]

Liu Z, Guo S.

Existence and concentration of positive ground states for a Kirchhoff equation involving critical Sobolev exponent

Z Angew Math Phys, 2015, 66(3): 747-769

DOI:10.1007/s00033-014-0431-8      URL     [本文引用: 1]

Liu Z, Squassina M, Zhang J.

Ground states for fractional Kirchhoff equations with critical nonlinearity in low dimension

Nonlinear Differential Equations Appl, 2017, 24(4): Art 50

[本文引用: 3]

Nezza E D, Palatucci G, Valdinoci E.

Hitchhiker's guide to the fractional Sobolev spaces

Bull Sci Math, 2012, 136(5): 521-573

DOI:10.1016/j.bulsci.2011.12.004      URL     [本文引用: 2]

Palatucci G, Pisante A.

Improved Sobolev embeddings, profile decomposition, and concentration-compactness for fractional Sobolev spaces

Calc Var Partial Differential Equations, 2014, 50(3): 799-829

DOI:10.1007/s00526-013-0656-y      URL     [本文引用: 1]

Pucci P, Saldi S.

Critical stationary Kirchhoff equations in $\mathbb{R}^{N}$ involving nonlocal operators

Rev Mat Iberoam, 2016, 32: 1-22

DOI:10.4171/rmi      URL     [本文引用: 1]

Secchi S.

Ground state solutions for nonlinear fractional Schrödinger equations in $\mathbb{R}^{N}$

J Math Phys, 2013, 54(3): Art 031501

[本文引用: 2]

Servadei R, Valdinoci E.

The Brezis-Nirenberg result for the fractional Laplacian

Trans Amer Math Soc, 2015, 367(1): 67-102

DOI:10.1090/tran/2015-367-01      URL     [本文引用: 2]

Shang X, Zhang J.

Ground states for fractional Schrödinger equations with critical growth

Nonlinearity, 2014, 27: 187-207

DOI:10.1088/0951-7715/27/2/187      URL     [本文引用: 1]

Silvestre L.

Regularity of the obstacle problem for a fractional power of the Laplace operator

Commun Pure Appl Math, 2007, 60: 67-112

DOI:10.1002/cpa.v60:1      URL     [本文引用: 1]

Szulkin A, Weth T. The method of Nehari manifold//Gao D Y, Motreanu D. Handbook of Nonconvex Analysis and Applications. Somerville: International Press, 2010: 597-632.

[本文引用: 7]

Wang J, Xiao L.

Existence and concentration of solutions for a Kirchhoff type problem with potentials

Discrete Contin Dyn Syst, 2016, 36: 7137-7168

DOI:10.3934/dcds.2016111      URL     [本文引用: 1]

Willem M. Minimax Theorems. Boston: Birkhauser Boston Inc, 1996.

[本文引用: 1]

Xiang M, Zhang B, Qiu H.

Existence of solutions for a critical fractional Kirchhoff type problem in $\mathbb{R}^{N}$

Sci China Math, 2017, 60(9): 1647-1660

DOI:10.1007/s11425-015-0792-2      URL     [本文引用: 1]

Zhang X, Zhang C.

Existence of solutions for critical fractional Kirchhoff problems

Math Methods Appl Sci, 2017, 40(5): 1649-1665

DOI:10.1002/mma.v40.5      URL     [本文引用: 1]

/