数学物理学报, 2025, 45(6): 1825-1838

共形几何中的一类退化的完全非线性方程的边值问题——献给李工宝教授 70 寿辰

贺妍,*, 张元正,

湖北大学数学与统计学学院, 应用数学湖北省重点实验室 武汉 430062

Boundary Value Problems for Some Degenerate Fully Nonlinear Elliptic Equations Arising in Conformal Geometry

He Yan,*, Zhang Yuanzheng,

Faculty of Mathematics and Statistics, Hubei Key Laboratory of Applied Mathematics, Hubei University, Wuhan 430062

通讯作者: *贺妍,E-mail: helenaig@hubu.edu.cn

收稿日期: 2025-03-28   修回日期: 2025-06-23  

Received: 2025-03-28   Revised: 2025-06-23  

作者简介 About authors

张元正,E-mail:202421104011309@stu.hubu.edu.cn

摘要

该文得到了带边流形上的一类源于共形几何的、退化的完全非线性方程的解的先验估计. 并进一步使用连续性方法得到了这类方程解的存在性.关键词:共形几何; 退化方程; 先验估计.

关键词: 共形几何; 退化方程; 先验估计

Abstract

This paper considers the a priori estimates for a class of degenerate fully nonlinear equations arising in conformal geometry on manifolds with boundary. Based on these a priori estimates, we obtain an existence result using the continuity method.

Keywords: conformal geometry; degenerate equations; a priori estimates

PDF (587KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

贺妍, 张元正. 共形几何中的一类退化的完全非线性方程的边值问题——献给李工宝教授 70 寿辰[J]. 数学物理学报, 2025, 45(6): 1825-1838

He Yan, Zhang Yuanzheng. Boundary Value Problems for Some Degenerate Fully Nonlinear Elliptic Equations Arising in Conformal Geometry[J]. Acta Mathematica Scientia, 2025, 45(6): 1825-1838

1 引言

设 $ (M, g_0) $ 是 $ n $ 维紧致带边的光滑黎曼流形, $ n\ge3 $. 本文拟研究 $ (M, g_0) $ 上一类退化的完全非线性方程

$\left\{ \begin{array}{rll} &\label{816}\sigma_k\Big(-A^t_g\Big)=f(x)\ge0,\\ &h_g=0, \end{array} \right.$

其中度量 $ g\in [g_0]=\{\tilde{g}|\tilde{g}={\rm e}^{2w}g_0\} $, $ w $ 是未知函数,

$ A^t_g={\frac{1}{{n-2}}}\left({Ric}_{g}-{\frac{t{R_{g}}}{{2(n-1)}}}g\right), $

$ t<1 $, $ Ric_g, R_g, h_g $ 分别是关于度量 $ g $ 的 Ricci 曲率, 数量曲率, 和边界的平均曲率.

$\sigma_k(\lambda)=\sum_{1\le i_1<\cdots<i_k\le n}\lambda_{i_1}\cdots\lambda_{i_k}.$

$ \sigma_k(-A^t_g) $ 是指 $ \sigma_k $ 作用在 $ g^{-1}\cdot (-A^t_g) $ 的特征值上. 定义

$\Gamma_{k}=\{\lambda=(\lambda_{1}, \cdots, \lambda_{n})\in \mathbb{R}^{n}|\quad\sigma_{j}\left(\lambda\right) >0, 1\leq j\leq k\},\quad 1\le k\le n. $

若 $ f>0 $, 称方程 (1.1) 是非退的. 若 $ f $ 仅仅非负则称方程 (1.1) 是退化的.

关于退化的完全非线性方程的研究一直是几何分析中的一个热点问题. Guan-Li[19,20] 研究了退化的 Weyl 问题和退化的 Gauss 曲率问题. Guan[18] 考虑了退化的 Monge-Ampère 方程的齐次的 Dirichlet 问题. Guan-Trudinger-Wang[22] 研究了具有非齐次 Dirichlet 边界条件的退化的 Monge-Ampère 方程. 在

$\label{90}f^{\frac{1}{k}}\in C^{1,1}$

的条件下, Krylov[38-41] 考虑了退化的 $ k $-Hessian 方程 $ \sigma_k(D^2u)=f $ 的解的 $ C^{1,1} $ 正则性. 在文献 [30] 中, Ivochkina-Trudinger-Wang 提出公开问题: 条件(1.2) 是否可以优化到 $ f^{\frac{1}{k-1}}\in C^{1,1} $? Wang[58] 给出的反例表明条件 $ f^{\frac{1}{k-1}}\in C^{1,1} $ 是最优的. 记 $ \tilde{f}=f^{\frac{1}{k-1}}. $ Dong[12] 在 $ \tilde{f}\in C^{1,1} $ 以及 $ |D\tilde{f}|\le C \tilde{f}^{\frac{1}{2}} $ 的条件下得到了具有齐次边界条件的退化的 $ k $-Hessian方程的解的 $ C^{1,1} $ 估计. 在文献 [32] 中, Jiao-Wang 在 $ \tilde{f}\in C^{1,1} $ 的条件下得到了具有齐次边界条件的退化的 $ k $-曲率方程解的 $ C^{1,1} $ 估计. Jiao-Wang[33] 得到了具有非齐次边界的退化的 $ k $-Hessian 方程的 Dirichlet 问题的 $ C^{1,1} $ 估计. Jiao-Jiao[31] 得到了退化的 $ k $-曲率方程和退化的 $ k $-Hessian 方程的 Pogorelov 估计. 在文献 [24] 里, Guan-Zhang 考虑了一类退化的混合型曲率方程的 Dirichlet 边值问题. Chen-Tu-Xiang[8] 则考虑了一类退化的 Hessian 商曲率方程的 Dirichlet 问题.

受以上工作的启发, 我们拟研究共形几何中的一类退化方程的边值问题. 共形几何中的一个重要问题是 $ k $-Yamabe 问题, 它由 Vioclovsky[56] 提出, 该问题是要在闭的背景流形 $ (M, g_0) $ 的共形类中找一个度量 $ g $, 使得

$\sigma_k(A_g)=1.$

这里 Schouten 张量 $ A_g $ 的定义为

$A_g={\frac{1}{{n-2}}}\left({Ric}_{g}-{\frac{{R_{g}}}{{2(n-1)}}}g\right), $

其中 $ \sigma_k $ 作用在 $ g^{-1}\cdot A_g $ 的特征值上. 当 $ k=1 $ 时, $ k $-Yamabe 问题就还原成了经典的 Yamabe 问题. Yamabe 问题被 Yamabe[59], Trudinger[53], Aubin[1], Schoen[50]等人完全解决. 当 $ n=4, k=2 $ 时, Chang-Gursky-Yang[3,4] 证明了只要 Yamabe 常数和 $ \int_M \sigma_2(A_{g_0}) $ 均为正, 方程

$ \sigma_2(A_g)=f>0 $

就是有解的. 文献 Guan-Wang[23] 和 Li-Li[42] 证明了当 $ 2\le k<n/2 $ 、流形局部共形平坦的时候, $ k $-Yamabe 问题是有解的. 文献 Gursky-Viaclovsky[26] 和 Trudinger-Wang[55] 考虑了 $ k> n/2 $ 的情形. 文献 Trudinger-Wang[54] 和 Li-Nguyen[47] 则讨论了 $ k=n/2 $ 的情形. 关于 Schouten 张量的共形问题的相关的工作还有文献 [15-17,21,43,51,57] 等等. 2003 年, 文献 Gursky-Viaclovsky[25] 和 Li-Li[42] 分别引入了下列 modified Schouten 张量

$A^t_g={\frac{1}{{n-2}}}\left({Ric}_{g}-{\frac{t{R_{g}}}{{2(n-1)}}}g\right). $

当 $ t=1 $ 时, $ A^t_g $ 就是 Schouten 张量; 当 $ t=0 $ 时, $ (n-2)A^t_g $ 就等于 Ricci 张量; 当 $ t=n-1 $ 时, $ (n-2)A^t_g $ 就是 Einstein 张量. 闭流形上关于 modified Schouten 张量的共形问题的工作包括文献 [5,25,45] 等等.

在带边流形上, 相应的 $ k $-Yamabe 问题可以描述为: 拟在带边的背景流形 $ (M, g_0) $ 的共形类中找一个度量 $ g $, 使得

$\sigma_k(A_g)=1,\quad h_g=c.$

其中 $ h_g $ 为边界的平均曲率, $ c $ 为常数. 相关的工作读者可以参看: Chen[6,7], Jin-Li-Li[37], Li-Li[44], Li-Nguyen[48], He-Sheng[27], Sheng-Yuan[52], Jiang-Trudinger[34-36], Duncan-Nguyen[13], Chen-Wei[9,10] 等等.

以上关于共形几何的工作都是考虑的非退化的情形 ($ f>0 $). 在方程退化的时候, Ge-Lin-Wang[14] 证明了当第二共形 Yamabe 常数 $ Y_{2,1}([g_0])=0 $ 时, 存在 $ C^{1, 1} $ 共形度量 $ {g} $ 使得 $ \sigma_2(A_{{g}})=0. $ Li[46], Li-Nguyen-Wang[49], Chu-Li-Li[11] 考虑了关于共形 Hessian 矩阵 $ A^u $ 的退化椭圆方程 $ A^u\in\partial \Gamma $. 文献 [29] 得到了闭流形上退化方程 $ \sigma_k(-A_g^t)=f\ge0 $ 的解. 在本文中, 在具有全测地边界的流形上我们证明了如下结果

定理 1.1 设 $ (M, g_0) $ 是 $ n $ 维具有全测地边界的光滑紧致流形, $ n\ge 3, $ $-A^t_{g_0}\in\Gamma_k,\ 2\le k\le n, t<1 $. 假设 $ f $ 非负, $ f^{\frac{1}{k-1}} \in C^{1, 1}, \frac{\partial (f^{\frac{1}{k-1}})}{\partial \nu}|_{\partial M}=0 $, 方程 (1.1) 存在 $ C^{1,1} $ 上解 $ \overline{w} $:

$\sigma_k(-A^t_{{\rm e}^{2\overline{w}}g_0})\le f(x),\quad h_{{\rm e}^{2\overline{w}}g_0}= 0. $

那么, 方程 (1.1) 存在 $ C^{1, 1} $ 解.

假设 $ g={\rm e}^{2w}g_0 $, 那么由公式可知

$\begin{eqnarray*} -A^t_{{g}}&=&\frac{1-t}{n-2}\Delta w+\nabla^{2}w-\nabla w\otimes \nabla w+{\frac{2-t}{2}}|\nabla w|^{2}g_0-A^t_{g_0}\\ &:=&W, \end{eqnarray*}$
$L_{g}={\rm e}^{-w}(-w_\nu+L_{g_0}),$

其中 $ L_g $ 和 $ L_{g_0} $ 分别是关于度量 $ g $ 和 $ g_0 $ 的第二基本形式, $ \nu $ 是 $ (M, g_0) $ 的边界的单位内法向. 方程 (1.1) 可改写为

$\left\{\begin{array}{l} \sigma_{k}(W)=f \mathrm{e}^{2 k w} \\ w_{\nu}=0 \end{array}\right.$

其中 $ \sigma_k $ 作用在 $ g_0^{-1}\cdot W $ 上. 为了证明定理 1.1, 我们对下列扰动方程做先验估计

$\left\{ \begin{array}{lll} &&\sigma_{k} \left(W \right) =\left(f^{\frac{1}{k-1}} \left(x\right)+\epsilon \right)^{k-1} {\rm e}^{2kw}, \\ &&w_{\nu}=0. \end{array} \right.$

定理 1.2 设 $ (M, g_0) $ 是 $ n $ 维具有全测地边界的光滑紧致流形, $ n\ge3. $ 假设 $ 2\le k\le n, t<1 $, 非负函数 $ f $ 满足$ f^{\frac{1}{k-1}}\in C^{1, 1}, \frac{\partial (f^{\frac{1}{k-1}})}{\partial \nu}|_{\partial M}=0 $. 若 $ w $ 是方程(1.4)的 $ C^4 $ 解, $ W\in \Gamma_2 $, 那么存在依赖于 $ g_0, n, k, t $, $\|f^{\frac{1}{k-1}}\|_{C^{1}}$, $\|w\|_{C^0}$ 的常数 $ C $ 使得

$\begin{equation} \sup |\nabla w| \le C, \label{5D} \end{equation}$

以及存在依赖于 $ g_0, n, k, t $, $ \|f^{\frac{1}{k-1}}\|_{C^{1, 1}} $, $ \|\nabla w\|_{C^0} $ 的常数 $ C $ 使得

$\begin{equation} \sup|\nabla^2 w|\le C(1+{\rm e}^{\frac{2k}{k-1}\sup w}), \label{5} \end{equation}$

这里的 $ C $ 不依赖于 $ \epsilon $.

本文的安排如下: 第 2 节介绍了一些需要的公式和引理. 定理 1.2 的证明在第 3 节中给出. 最后, 在第 4 节中我们证明了定理 1.1.

2 准备工作

记 $ \sigma_{k-1}(\lambda|i):=\frac{\partial \sigma_k}{\partial \lambda_i} $ 以及 $ \sigma_{k-2}(\lambda|ij):=\frac{\partial^2 \sigma_k}{\partial \lambda_i\partial \lambda_j} $. 以下是关于 $ \sigma_k $ 的性质.

命题 2.1 设 $ \lambda=(\lambda_1, \cdots, \lambda_n)\in\mathbb{R}^n $, $ 1\leq k\leq n $. 我们有

(1) $ \Gamma_1\supset \Gamma_2\supset \cdot\cdot\cdot\supset \Gamma_n $;

(2) 对于 $ \lambda \in \Gamma_k $ 以及 $ 1\leq i\leq n $, $ \sigma_{k-1}(\lambda|i)>0 $;

(3) 对于 $ 1\leq i\leq n $, $ \sigma_k(\lambda)=\sigma_k(\lambda|i) +\lambda_i\sigma_{k-1}(\lambda|i) $;

(4) 如果 $ \lambda \in \Gamma_k $ 以及 $ \lambda_1\geq \lambda_2\geq \cdot\cdot\cdot\geq \lambda_n $, 那么 $ \sigma_{k-1}(\lambda|1)\leq \sigma_{k-1}(\lambda|2)\leq \cdot\cdot\cdot\leq \sigma_{k-1}(\lambda|n) $;

(5) $ \sum_{i=1}^{n}\sigma_{k-1}(\lambda|i)=(n-k+1)\sigma_{k-1}(\lambda) $.

以下是牛顿-麦克劳林不等式.

命题 2.2 对于 $ \lambda \in \Gamma_m $, $ m > l \geq 0 $, $ r > s \geq 0 $, $ m \geq r $, $ l \geq s $, 我们有

$\begin{align} \Bigg[\frac{{\sigma _m (\lambda)}/{C_n^m }}{{\sigma _l (\lambda)}/{C_n^l }}\Bigg]^{\frac{1}{m-l}} \le \Bigg[\frac{{\sigma _r (\lambda)}/{C_n^r }}{{\sigma _s (\lambda)}/{C_n^s }}\Bigg]^{\frac{1}{r-s}}. \notag \end{align}$

为方便起见, 引入以下记号

$F(W)={\sigma_k(W)}, \quad F^{ij}=\frac{\partial F}{\partial W_{ij}}, \quad F^{ij, rs}=\frac{\partial^2 F}{\partial W_{ij}\partial W_{rs}}. $

下面的引理 2.1-引理 2.6 将用于证明定理 1.2.

引理 2.1 设 $ \alpha=\frac{1}{k-1}. $ 若 $ W\in\Gamma_k, $ 那么

$-F^{i j, l m} W_{i j p} W_{l m p} \geq \sigma_{k}\left[\frac{\left(\sigma_{k}\right)_{p}}{\sigma_{k}}-\frac{\left(\sigma_{1}\right)_{p}}{\sigma_{1}}\right]\left[(\alpha-1) \frac{\left(\sigma_{k}\right)_{p}}{\sigma_{k}}-(\alpha+1) \frac{\left(\sigma_{1}\right)_{p}}{\sigma_{1}}\right]$

引理 2.2 假设 $-\mu\le s\le \mu, \mu>0, $ $ t<1. $ 那么我们可以选择依赖于 $ \mu $ 和 $ t $ 的常数 $ c, b, P $ 使得函数 $ \gamma(s):=c(b+s)^P $ 满足

$\frac{1-t}{2(n-2)}\left(\gamma^{\prime \prime}(s)-\gamma^{\prime}(s)^{2}\right) \geq \gamma^{\prime}(s)>0$

直接计算可得

$\begin{eqnarray*} \frac{\gamma''(s)-\gamma'(s)^2}{\gamma'(s)}&=&\frac{P(P-1)c(b+s)^{P-2}- P^2c^2(b+s)^{2P-2}}{Pc(b+s)^{P-1}}\\ &=&\frac{P-1}{b+s}-(b+s)^{P-1}cP. \end{eqnarray*}$

选择 $ b=2\mu+\frac{8(1-t)}{n-2}, $ $ P= \frac{9(n-2)}{4(1-t)} (b+\mu), c= {(b+\mu)^{1-P}}{}\cdot \frac{n-2}{8P(1-t)} $. 故

$\begin{eqnarray*} \frac{2(n-2)}{1-t}\le\frac{P-1}{b+s}-(b+s)^{P-1}cP. \end{eqnarray*}$

于是 (2.2) 式得证.

流形 $ (M, g_0) $ 上的 Levi-Civita 联络记为 $ \nabla $, 黎曼曲率张量定义为

$ R(X, Y)Z = \nabla_X \nabla_Y Z -\nabla_Y \nabla_X Z - \nabla_{[X, Y]}Z. $

设 $ e_1, e_2, \cdots, e_n $ 是 $ M $ 上的局部标架, 记 $ (g_0)_{ij}=\langle e_i, e_j\rangle_{g_0} $, $ \{g_0^{ij}\}=\{(g_0)_{ij}\}^{-1} $. Christoffel 符号 $ \Gamma^l_{ij} $ 定义为 $ \nabla_{e_i}e_j=\Gamma^l_{ji}e_l $. 曲率张量的分量 $ R_{ijlm} $ 定义为

$ R_{ijlm}=\langle R(e_l, e_m)e_j, e_i\rangle_{g_0}, \quad R^i_{jlm}=g_0^{ip}R_{pjlm}. $

记 $ w_i=\nabla_i w $, $ w_{ji}=[\nabla\nabla w](e_j, e_i)=[\nabla_{i}(\nabla w)](e_j)=\nabla_i(\nabla_jw)-\Gamma^l_{ij}w_l $, $ w_{ijl}= [\nabla_l(\nabla\nabla w)](e_i, e_j), $等. 已知 $ w_{ij}= w_{ji} $,

$\begin{equation}\label{req1} w_{ijl} -w_{lij}= R^m_{ijl}w_m, \end{equation}$
$\begin{equation}\label{req3} w_{pilj}-w_{plij}=R^m_{pil, j}w_{m}+R^m_{pil}w_{mj}, \end{equation}$
$\begin{equation}\label{req2} w_{pijl}-w_{pilj}=R^m_{ijl}w_{pm}+R^m_{pjl}w_{mi}. \end{equation}$

由 (2.3)-(2.5) 式可知

$w_{i j p l}-w_{p l i j}=R_{i j p, l}^{m} w_{m}+R_{p i l, j}^{m} w_{m}+R_{i j p}^{m} w_{m l}+R_{p i l}^{m} w_{m j}+R_{i j l}^{m} w_{p m}+R_{p j l}^{m} w_{m i}.$

引理 2.3 设 $ W=-A^t_{g_0}+\nabla^{2} w+\frac{1-t}{n-2}\Delta wg_0-\nabla w\otimes \nabla w+ \frac{2-t}{2}|\nabla w|^{2}g_0 $. 则

$\begin{eqnarray*} W_{ijp}&=&-A^t_{ij, p}+ w_{ijp}+\frac{1-t}{n-2} w_{qqp}(g_0)_{ij}-w_{ip}w_j-w_iw_{jp}+ (2-t)w_qw_{qp}(g_0)_{ij}, \\ W_{ijpp}&=&-A^t_{ij, pp}+ w_{ijpp}+\frac{1-t}{n-2} w_{qqpp}(g_0)_{ij}-w_{ipp}w_j-w_iw_{jpp}\\ &&-2w_{ip}w_{jp}+ (2-t)w_{qp}w_{qp}(g_0)_{ij}+(2-t)w_{q}w_{qpp}(g_0)_{ij}, \end{eqnarray*}$

其中, $ A^t_{ij} $ 是 $ A^t_{g_0} $ 的分量.

在边界附近我们选用 Fermi 坐标系: 设 $ 0 $ 是边界点, $ (x^1, \cdots, x^{n-1}) $ 是 $ 0 $ 附近 $ \partial M $ 上的法坐标系. 设 $ \gamma(t) $ 为从 $ (x^1, \cdots, x^{n-1}) $ 出发的沿法向的弧参测地线. 称 $ (x^1, \cdots, x^{n-1}, t) $ 为 $ 0 $ 附近的 Fermi 坐标系. 在 Fermi 坐标系下度量 $ g_0 $ 可以表示为 $ dx^ndx^n+(g_0)_{\alpha\beta}dx^\alpha dx^\beta $. 这里 $ \alpha, \beta, \gamma,\cdots $$ \in\{1,\cdots, n-1\} $ 是切向指标, 而 $ i, j, k,\cdots $$ \in\{1,\cdots, n\} $ 是全指标. 定义

$B_{r}^{+}=\left\{x \mid \sum\left(x^{i}\right)^{2}<r^{2}, x^{n} \geq 0\right\}, \quad \Sigma_{r}=\left\{x \mid \sum\left(x^{i}\right)^{2}<r^{2}, x^{n}=0\right\}.$

在 Fermi 坐标系下, $ \Gamma^{n}_{nn}=\Gamma^\alpha_{nn}=\Gamma^n_{n\alpha}=0, $$ \Gamma_{\alpha\beta}^n=L_{\alpha\beta} $, $ \Gamma_{\beta n}^\alpha=-L_{\beta}^\alpha $, 其中 $ L_{\alpha\beta} $ 是关于度量 $ g_0 $ 第二基本形式的分量. 下面的引理成立

引理 2.4 设 $ (M, g_0) $ 具有全测地边界, $ w $ 是方程(1.4) 的 $ C^4 $ 解. 在 $ \Sigma_r $ 上下列等式成立

$w_{\alpha n}=\partial_{\alpha}\left(w_{n}\right)-\Gamma_{n \alpha}^{k} w_{k}=\partial_{\alpha}\left(w_{n}\right)-\Gamma_{n \alpha}^{\beta} w_{\beta}=\partial_{\alpha}\left(w_{n}\right)+L_{\alpha \beta} w_{\beta}=0$
$\begin{aligned} w_{\alpha \beta n} & =w_{\alpha n \beta}+R_{\alpha \beta n}^{l} w_{l}=\partial_{\beta}\left(w_{\alpha n}\right)-\Gamma_{\alpha \beta}^{l} w_{l n}-\Gamma_{n \beta}^{l} w_{\alpha l}+R_{\alpha \beta n}^{\gamma} w_{\gamma} \\ & =\partial_{\beta}\left(w_{\alpha n}\right)-\Gamma_{\alpha \beta}^{\gamma} w_{\gamma n}-L_{\alpha \beta} w_{n n}+L_{\beta}^{\gamma} w_{\alpha \gamma}-\Gamma_{n \beta}^{n} w_{\alpha n}+\left(-L_{\beta \alpha, \delta}+L_{\beta \delta, \alpha}\right) w^{\delta}=0. \end{aligned}$

引理 2.5 设 $ (M, g_0) $ 具有全测地边界, $ w $ 是方程 (1.4) 的 $ C^4 $ 解. 在 $ \Sigma_r $ 上下列等式成立

(1)

$\begin{align*} \frac{\partial ((g_0)_{\alpha\beta})}{\partial x^n}=\frac{\partial}{\partial x^{n}}\langle\frac{\partial}{\partial x^{\alpha}},\frac{\partial}{\partial x^{\beta }}\rangle_{g_0} =-2L_{\alpha\beta}=0. \end{align*}$

(2)

$\begin{align*} \frac{\partial}{\partial x^{n}}\Gamma_{\alpha\beta}^{\delta} & =\frac{1}{2}g_0^{\delta\gamma}\left(\frac{\partial^{2}(g_0)_{\gamma\alpha} }{\partial x^{\beta}\partial x^{n}}+\frac{\partial^{2}(g_0)_{\gamma\beta} }{\partial x^{\alpha}\partial x^{n}}-\frac{\partial^{2}(g_0)_{\alpha\beta} }{\partial x^{\gamma}\partial x^{n}}\right) \\ & =-(g_0)^{\delta\gamma}\left(\left(L_{\gamma\alpha}\right) _{\beta}+\left(L_{\gamma\beta}\right) _{\alpha}-\left(L_{\alpha\beta}\right) _{\gamma }\right) =0. \end{align*}$

引理 2.6[28] 设 $ (M, g_0) $ 具有全测地边界. 若 $ Q $ 为边界点, 那么存在共形度量 $ \bar{g}={\rm e}^{{2\bar{u}}}g_0 $, 使得 (i) $ (M, \bar{g}) $ 的边界是全测地的; (ii) $ (M, \bar{g}) $ 上 $ Ric_{\bar{g}} $ 的 $ l $ 阶协变导数 $ (l\ge 1) $ 的对称化张量在 $ Q $ 点处等于 0.

下面这个引理将用于证明定理 1.1.

引理 2.7 设 $ t<1, w\in C^2, \overline{w}\in C^{1,1}, \bar{f}\in C^{1,1} $,

$\begin{align*} & W=\frac{1-t}{n-2}\Delta w+\nabla^{2} w-\nabla w\otimes \nabla w+\frac{2-t}{2} |\nabla w|^{2}g_0-A^t_{g_0}, \\ & \overline{W}=\frac{1-t}{n-2}\Delta \overline{w}+\nabla^{2} \overline{w}-\nabla \overline{w}\otimes \nabla \overline{w}+\frac{2-t}{2} |\nabla \overline{w}|^{2}g_0-A^t_{g_0}. \end{align*}$

若 $ \sigma_k(W)= \bar{f}{\rm e}^{2k{w}} $, $ \frac{\partial {w}}{\partial \nu}|_{\partial M}= 0, $ $ W\in \Gamma_k $, $ \sigma_k(\overline{W})\le \bar{f}{\rm e}^{2k\overline{w}} $, $ \frac{\partial \overline{w}}{\partial \nu}|_{\partial M}= 0 $. 那么 $ w\le \overline{w} $.

设 $ v^{\frac{4}{n-2}}={\rm e}^{2w} $, $ \overline{v}^{\frac{4}{n-2}}={\rm e}^{2\overline{w}} $,

$V=\frac{1-t}{n-2} \Delta v+\nabla^{2} v-\frac{n}{n-2} \frac{\nabla v \otimes \nabla v}{v}+\frac{1}{n-2} \frac{|\nabla v|^{2}}{v} g_{0}-\frac{n-2}{2} v A_{g_{0}}^{t},$
$\bar{V}=\frac{1-t}{n-2} \Delta \bar{v}+\nabla^{2} \bar{v}-\frac{n}{n-2} \frac{\nabla \bar{v} \otimes \nabla \bar{v}}{\bar{v}}+\frac{1}{n-2} \frac{|\nabla \bar{v}|^{2}}{\bar{v}} g_{0}-\frac{n-2}{2} \bar{v} A_{g_{0}}^{t}.$

下证 $ v\le \overline{v} $. 反证. 否则存在正数 $ \beta>1 $ 使得 $ \beta\overline{v}\ge {v} $ 且 $ \beta \overline{v}(\bar{x})={v}(\bar{x}) $. 由条件 $ \frac{\partial \overline{w}}{\partial \nu}|_{\partial M}=\frac{\partial {w}}{\partial \nu}|_{\partial M}=0 $ 可知无论 $ \bar{x} $ 是边界点还是内点都成立

$\nabla(\beta \bar{v})(\bar{x})=\nabla v(\bar{x}),\left[\nabla^{2}(\beta \bar{v})-\nabla^{2} v\right](\bar{x}) \geq 0$

进一步,

$\begin{eqnarray*} 0&<&\sigma_k\big({V}\big)(\bar{x})\\ &\le& \sigma_k \bigg(\frac{1-t}{n-2}\Delta (\beta\overline{v}) +\nabla^2 (\beta \overline{v})-\frac{n}{n-2}\frac{\nabla (\beta\overline{v})\otimes \nabla (\beta \overline{v})}{\beta \overline{v}} +\frac{1}{n-2}\frac{|\nabla (\beta \overline{v})|^2}{\beta \overline{v}}g_0 -\frac{n-2}{2}\beta \overline{v}A^t_{g_0}\bigg)\bigg|_{\bar{x}}\\ &=&\beta^k\sigma_k(\overline{V})(\bar{x}). \end{eqnarray*}$

另一方面,

$\begin{eqnarray*} \sigma_k({V})(\bar{x}) =\Big(\frac{n-2}{2}{v}^{\frac{n+2}{n-2}}\Big)^k\bar{f}\big|_{\bar{x}} =\Big(\frac{n-2}{2}\beta^{\frac{n+2}{n-2}}\overline{v}^{\frac{n+2}{n-2}}\Big)^k\bar{f}\big|_{\bar{x}} \ge\beta^{k\frac{n+2}{n-2}}\sigma_k(\overline{V})(\bar{x}). \end{eqnarray*}$

从而得到矛盾. 得证.

3 定理 1.2 的证明

设 $ \alpha=\frac{1}{k-1}, F=\sigma_k $, $ \bar{f}=\big(f^{\frac{1}{k-1}} (x)+\epsilon \big)^{k-1} $,

$W= -A^t_{g_0}+\nabla^{2} w+\frac{1-t}{n-2}\Delta wg_0-\nabla w\otimes \nabla w+ \frac{2-t}{2}|\nabla w|^{2}g_0, $

其中 $ w $ 是方程 (1.4) 的 $ C^4 $ 解.

3.1 $ C^1 $ 估计

本小节将证明 (1.5) 式. 取 $ B^+_r $ 里 (见定义 (2.7) 式) 的辅助函数 $ H=K\eta {\rm e}^{x^n} $. 其中 $ K=(1+ \frac{|\nabla w|^2}{2}){\rm e}^{\gamma(w)}, $ $ \gamma(s)=c(b+s)^P $, $ \gamma(s) $ 满足 (2.2) 式. $ \eta(r) $ 是 $ B^+_r $ 里的截断函数, $ \eta|_{B^+_{r/2}}=1 $, $ \eta $ 在 $ {B^+_{r}} $ 外等于 $ 0 $, 且 $ |\nabla \eta|\le C\frac{\eta^{1/2}}{r} $, $ |\nabla^2 \eta|\le \frac{C}{r^2} $. 假设 $ \max H=H(\widetilde{x}) $. 以下的计算都在 $ \widetilde{x} $ 处进行. 对 $ H $ 求导

$=\mathrm{e}^{x^{n}}\left(\mathrm{e}^{\gamma(w)}\left(\left(1+\frac{w_{l}^{2}}{2}\right) \gamma^{\prime} w_{i}+w_{l} w_{l i}\right) \eta+K \eta_{i}+\delta_{n i} K \eta\right).$

注意到在边界上 $ w_n=w_{\alpha n}=0, \eta_n=0 $. 于是在边界上成立

$H_n=K\eta>0.$

故 $ H $ 的最大值一定在 $ M $ 的内部达到. 记 $ d $ 为点到边界的距离. 取以 $ \widetilde{x} $ 为心的法坐标系, 且使 $ W $ 在该点处是对角的. 记

${P}^{ij}= {F}^{ij} + \frac{1-t}{n-2} \sum_l {F}^{ll}\delta^{ij}. $

注意到

$\begin{align*} & H_i=0,\qquad K_i=-\frac{\eta_i K+d_{i}K\eta}{\eta}, \\ & H_{ij} ={\rm e}^{d}\Big(K_{ij}\eta+K_i\eta_j+K_j\eta_i+K\eta_{ij}+d_{ij}K\eta+d_{i}(K_j\eta+K\eta_j) +(K_i\eta+K\eta_i+d_{i}K\eta)d_{j}\Big)\\ &\quad~\, ={\rm e}^{d}\Big(K_{ij}\eta+O(K)\Big), \\ & K_{ij} (\widetilde{x}) = {\rm e}^{\gamma(w)} \bigg(\bigg(1+ \frac{w_l^2}{2}\bigg)\Big((\gamma') ^2 w_i w_j + \gamma' w_{ij} +\gamma'' w_i w_j\Big)\\ &\qquad\qquad +w_l w_{lj}\gamma' w_i+w_l w_{li}\gamma' w_j + w_{lj} w_{li} + w_l w_{lij}\bigg). \end{align*}$

直接计算得

$\begin{eqnarray*} 0&\ge&{\rm e}^{-\gamma(w)}{\rm e}^{-d} {P}^{ii} H_{ii}\notag\\ &=& {P}^{ii} \Big(w_l w_{lii}+ (1+ \frac{w_l^2}{2})\big(\big((\gamma')^2+ \gamma''\big)w_i^2 + \gamma' w_{ii} \big) +2\gamma' w_l w_{li} w_i + w_{li}^2 \Big)\eta \notag\\ &&-C\sum {F}^{ii} (|\nabla w|^2+1)\notag\\ &\ge& {P}^{ii} \Big(w_l w_{iil}+ (1+ \frac{w_l^2}{2})\Big(\big((\gamma')^2+ \gamma''\big)w_i^2 + \gamma' w_{ii} \Big) +2\gamma' w_l w_{li} w_i \Big)\eta\\&& -C\sum {F}^{ii} (|\nabla w|^2+1)\notag\\ &\ge& w_l {F}^{ii}\Big(W_{iil} -\big(\frac{2-t}{2} w_s^2 - w_i^2 \big)_{l} \Big)\eta+ \gamma' {F}^{ii} \left(W_{ii}- (\frac{2-t}{2} w_s^2 - w_i^2) \right)(1+ \frac{w_l^2}{2}) \eta \notag\\ &&+ {P}^{ii} \Big((1+ \frac{w_l^2}{2})\big((\gamma')^2+ \gamma''\big)w_i^2\eta +2\gamma'w_i\big(- (1+ \frac{w_l^2}{2})\gamma'w_{i}\eta+O(|\nabla w|^2+1)\big) \Big)\\&& -C\sum {F}^{ii} (|\nabla w|^2+1) \notag\\ &\ge& w_l \Big(\bar{f}{\rm e}^{2kw}\Big)_l\eta+\gamma'k \bar{f}{\rm e}^{2kw} (1+ \frac{w_l^2}{2}) \eta+ {F}^{ii}\Big(-2 \frac{2-t}{2} w_lw_s w_{sl} + 2w_l w_i w_{il} \notag\\ &&+\gamma' (-\frac{2-t}{2}w_s^2 + w_i^2) (1+ \frac{w_l^2}{2}) \Big)\eta + {F}^{ii}\Big((1+ \frac{w_l^2}{2})(\gamma''-\gamma'^2)(w_i^2 +\frac{(1-t)w_s^2}{n-2}) \Big)\eta \\&& -C\sum {F}^{ii} (|\nabla w|^{3}+|\nabla w|^2+1) \notag\notag\\ &\ge& w_l \Big(\bar{f}{\rm e}^{2kw}\Big)_l\eta+\gamma'k \bar{f}{\rm e}^{2kw} (1+ \frac{w_l^2}{2}) \eta+ {F}^{ii}\Big(- \gamma' (1+ \frac{w_l^2}{2}) w^2_i \\ &&+ (1+ \frac{w_l^2}{2})(\gamma''-\gamma'^2) \frac{(1-t)w_s^2}{n-2} \Big) \eta-C\sum {F}^{ii} (|\nabla w|^{3}+|\nabla w|^2+1). \notag\notag \end{eqnarray*}$

由于 $ M $ 具有全测地边界, 我们可以把两片相同的 $ (M, g_0) $ 沿边界粘起来, 得到一个 $ C^{2,1} $ 闭流形 $ \hat{M} $. 再将 $ \bar{f} $ 延拓到 $ \hat{M} $ 上. 由于 $ \frac{\partial (\bar{f}^{\frac{1}{k-1}})}{\partial \nu}|_{\partial M}=0 $, 故延拓后的 $ \bar{f} $ 依旧满足 $ \bar{f}^{\frac{1}{k-1}}\in $$ C^{1,1} $. 再由文献 [2] 知,

$\bar{f}^{\frac{1}{k}} \in C^{1} \text { 且 }\left|\bar{f}_{i}\right| \leq C \bar{f}^{1-\frac{1}{k}} \text {. }$

注意到

$\sum F^{i i}=C \sigma_{k-1} \geq C_{*} \sigma_{k}^{1-\frac{1}{k}}=C_{*}\left(\bar{f} \mathrm{e}^{2 k w}\right)^{1-\frac{1}{k}}$

以及

$\big|w_l \Big(\bar{f}{\rm e}^{2kw}\Big)_l+\gamma'k\bar{f}{\rm e}^{2kw}\bigg(1+ \frac{w_l^2}{2}\bigg)\big| \le C\bar{f}^{1-\frac{1}{k}}{\rm e}^{2kw}(|\nabla w|^2+1).$

取 $ \delta=\min\{\frac{1-t}{4(n-2)}(\gamma''-\gamma'^2)\} $. 直接计算得

$\begin{equation}\label{d-} \begin{aligned} 0\ge& {F}^{ii}\Big((\gamma''-\gamma'^2) \frac{(1-t)w_s^2}{n-2} - \gamma' w^2_i \Big) \bigg(1+ \frac{w_l^2}{2}\bigg)\eta-C\bar{f}^{1-\frac{1}{k}}{\rm e}^{2kw}(|\nabla w|^2+1)\\ &-C \sum {F}^{ii} (|\nabla w|^{3}+|\nabla w|^2+1) \\ \ge& C_*\bar{f}^{1-\frac{1}{k}}{\rm e}^{2(k-1)w} \Big(\delta\frac{|\nabla w|^4}{2}\eta - C ({\rm e}^{2w}+1)(|\nabla w|^{3}+ |\nabla w|^2+1) \Big)\\ &+\sum {F}^{ii} \Big(\delta\frac{|\nabla w|^4}{2}\eta- C ({\rm e}^{2w}+1) (|\nabla w|^{3}+|\nabla w|^2+1) \Big)\\ =& \big(C_*\bar{f}^{1-\frac{1}{k}}{\rm e}^{2(k-1)w} +\sum {F}^{ii}\big) \Big(\delta\frac{|\nabla w|^4}{2}\eta - C ({\rm e}^{2w}+1)(|\nabla w|^{3}+ |\nabla w|^2+1) \Big). \end{aligned} \end{equation}$

(1.5) 式得证.

3.2 $ C^2 $ 估计

本小节将证明 (1.6) 式. 取 $ B^+_r $ 里 (见 (2.7) 式) 的辅助函数 $ H =(\Delta w +a |\nabla w|^2)\eta {\rm e}^{Ax^n}:=K\eta {\rm e}^{Ax^n} $. 其中, $ \eta $ 是截断函数, 其选择方法和 3.1 中一样, $ a, A $ 是待定的较大的正数. 设 $ \breve{x} $ 是 $ H $ 的最大值点. 不妨假设 $ \Delta w>>1 $. 接下来分两步证明

(1) $ H $ 的最大值点 $ \breve{x} $ 在 $ M $ 的内部;

(2) 估计 (1.6) 式成立.

步骤 1 采用反证法. 假设 $ \breve{x} $ 是边界点. 可以看到只要证明了

$w_{n n n}(\breve{x}) \geq-C$

就可以导出矛盾. 事实上, 注意到

${H}_n=\eta {\rm e}^{Ax^n}\big(A(\Delta w+a|\nabla w|^2)+w_{nnn}\big).$

估计 (3.5) 式意味着只要选 $ A>C $ 就有 $ {H}_n(\breve{x})>0 $. 这与 $ \breve{x} $ 是最大值点矛盾. 从而 $ \breve{x} $ 为内点.

接下来用引理 2.6 证明 (3.5) 式. 由该引理可知存在共形度量 $ \bar{g}={\rm e}^{2\bar{w}}g_0 $ 使得 (i) $ (M, \bar{g}) $ 的边界是全测地的; (ii) $ \breve{x} $ 处 $ Ric_{\bar{g}} $ 的 $1 $ 阶协变导数的对称化张量都等于 0. 将关于度量 $ \bar{g} $ 的几何量用 $ \bar{} $ 表示. 于是

$\bar{\nabla}_{n} \bar{R}_{\alpha \beta}(\breve{x})=0, \quad \bar{\nabla}_{n} \bar{R}_{n n}(\breve{x})=0,\left.\quad \bar{w}_{n}\right|_{\theta M}=0.$

注意到

$\bar{\nabla}_{ij}w+\bar{\Gamma}^l_{ij}w_l=w_{ij}+\Gamma^l_{ij}w_l.$

令 $ v=w-\bar{w} $. 那么 $ v $ 在 $ (M, \bar{g}) $ 上满足如下方程

$\left\{\begin{array}{l} \bar{G}(\bar{V})=\bar{f} \mathrm{e}^{2 k v} \\ v_{n}=0 \end{array}\right.$

其中

$\bar{G}(\bar{V})=\sigma_{k}(\bar{V})$
$\begin{eqnarray}\label{t-u-Eq1} \bar{V}_{jm} &=& \bar{\nabla}_{jm}{v}-\Gamma^i_{jm}{v}_i+\bar{\Gamma}^i_{jm}{v}_i +\frac{1-t}{n-2} (\bar{g}^{pq}(\bar{\nabla}_{pq}{v}-\Gamma^i_{pq}{v}_i +\bar{\Gamma}^i_{pq}{v}_i) \bar{g}_{jm})\notag\\ && + \frac{2-t}{2}|\nabla v|_{\bar{g}}^2 \bar{g}_{jm}+2\frac{2-t}{2}\bar{g}^{pq}\bar{w}_p v_q \bar{g}_{jm}\notag - v_j v_m-\bar{w}_j v_m-v_j\bar{w}_m -\bar{A}^{t}_{jm}. \end{eqnarray}$

类似于引理 2.4, 引理 2.5, 利用边值条件和 $ (M, \bar{g}) $ 具有全测地边界可得

$\begin{align*} & \frac{\partial (\bar{g}_{\alpha\beta})}{\partial x^n}=\frac{\partial}{\partial x^{n}}\langle\frac{\partial}{\partial x^{\alpha}},\frac{\partial}{\partial x^{\beta }}\rangle_{\bar{g}} =-2\frac{\bar{L}_{\alpha\beta}}{{\rm e}^{\bar{w}}}=0, \\ & \frac{\partial}{\partial x^{n}}\bar{\Gamma}_{\alpha\beta}^{\delta} =\frac{1}{2}\bar{g}^{\delta\gamma}\left(\frac{\partial^{2}\bar{g}_{\gamma\alpha} }{\partial x^{\beta}\partial x^{n}}+\frac{\partial^{2}\bar{g}_{\gamma\beta} }{\partial x^{\alpha}\partial x^{n}}-\frac{\partial^{2}\bar{g}_{\alpha\beta} }{\partial x^{\gamma}\partial x^{n}}\right) =0, \end{align*}$
$\hspace{-.2cm}\bar{\Gamma}^n_{\alpha\beta}=\bar{\Gamma}^\alpha_{\beta n}=0, \qquad \bar{\nabla}_{\alpha n}v=0, \bar{\nabla}_{\alpha n}\bar{w}=0, \bar{\nabla}_{\alpha\beta n}v=0.$

再结合 (3.6) 式得到

$\bar{\nabla}_n\bar{V}_{\alpha\alpha }= \frac{1-t}{n-2} \bar{g}^{nn} \bar{\nabla}_{nnn}v \bar{g}_{\alpha\alpha}.$

类似地直接计算得

$\bar{\Gamma}^n_{n n}=0,\ \frac{\partial \bar{\Gamma}_{nn}^{\alpha}}{\partial x^{n}}=0, \qquad \bar{\nabla}_n\bar{V}_{nn}= \bar{\nabla}_{nnn}v +\frac{1-t}{n-2} \bar{g}^{nn} \bar{\nabla}_{nnn}v \bar{g}_{nn}.$

再结合 (3.7) 式, $ \bar{V}_{\alpha n}=0 $ 可知

$\begin{eqnarray*}0&=&\bar{G}^{\alpha\alpha}\bar{\nabla}_n\bar{V}_{\alpha\alpha }(\breve{x})+\bar{G}^{nn}\bar{\nabla}_n\bar{V}_{nn}(\breve{x})\\ &=&\Big(\bar{G}^{\alpha\alpha}\big(\frac{1-t}{n-2} \bar{g}^{nn} \bar{g}_{\alpha\alpha}\big) +\bar{G}^{nn} \big(1+\frac{1-t}{n-2} \bar{g}^{nn} \bar{g}_{nn}\big)\Big)\bar{\nabla}_{nnn}v. \end{eqnarray*}$

于是 $ \bar{\nabla}_{nnn}v=0 $ 以及 $ w_{nnn}=\bar{\nabla}_{nnn}w=\bar{\nabla}_{nnn}(\bar{w}+v)\ge-C $.

步骤 2 取 $ a\ge \frac{2-t}{1-t}(2n-4) $. 由于 $ |W_{ii}|\le \sigma_1(W), $ 故存在 $ C $ 使得

$\left|w_{i j}\right| \leq C \Delta w$

不妨假设

$\frac{1}{2}\Delta w\le \sigma_1\le 2\Delta w.$

进一步假设 $ W_{ij}(\breve{x}) $ 是对角的. 用 $ d $ 表示点到边界的距离. 对 $ H $ 求导得到

$0=H_{i}(\breve{x})=\mathrm{e}^{A d}\left(K_{i} \eta+K \eta_{i}+K \eta A d_{i}\right)=\mathrm{e}^{A d}\left(\left(w_{q q i}+2 a w_{q i} w_{q}\right) \eta+K \eta_{i}+K \eta A d_{i}\right)$

以及

$\begin{aligned} 0 \geq & H_{i i}(\breve{x})=\mathrm{e}^{A d}\left(\left(w_{q q i i}+2 a w_{q i i} w_{q}+2 a w_{q i}^{2}\right) \eta+2\left(w_{q q i}+2 a w_{q i} w_{q}\right) \eta_{i}+K \eta_{i i}+K_{i} \eta A d_{i}\right. \\ & \left.+K \eta_{i} A d_{i}+K \eta A d_{i i}+\left(\left(w_{q q i}+2 a w_{q i} w_{q}\right) \eta+K \eta_{i}+K \eta A d_{i}\right) A d_{i}\right) \end{aligned}$

${P}^{ij}= {F}^{ij} + \frac{1-t}{n-2} \sum_l {F}^{ll}\delta^{ij}. $

由 (3.9)-(3.11) 式, (2.3) 式, (2.6) 式和方程 (1.4), 可知

$\begin{eqnarray*} 0&\ge& {\rm e}^{-Ad} {P}^{ii}H_{ii}(\breve{x}) = {P}^{ii}\Big(w_{qqii} +2a w_{qii} w_q + 2a w_{qi}^2\Big)\eta-C\sum {F}^{ii} (\Delta w + 1)\notag\\ &\ge& {P}^{ii}\Big(w_{qqii} +2a w_{iiq} w_q +2a w_{qi}^2 \Big)\eta -C\sum {F}^{ii}(\Delta w + 1) \notag\\ &\ge& {P}^{ii}w_{iiqq}\eta+ {F}^{ii}\left(2 a w_q\Big(W_{iiq} -\big(\frac{2-t}{2} w_l^2 - w_i^2 \big)_q \Big) + \frac{2a(1-t)}{n-2} w_{ql}^2 \right) \eta -C\sum {F}^{ii} (\Delta w +1)\notag \\&\ge&{F}^{ii}\left(-4a \frac{2-t}{2} w_q w_l w_{lq} +4a w_q w_{iq} w_i + \frac{2a(1-t)}{n-2} w_{ql}^2 +W_{iiqq} -\big(\frac{2-t}{2} w_l^2 - w_i^2 \big)_{qq} \right)\eta\notag\\ && + 2a w_q(\bar{f}{\rm e}^{2kw})_q \eta-C\sum {F}^{ii} (\Delta w + 1)\\ &\ge& {F}^{ii}\Big(4a(- \frac{2-t}{2} w_q w_l w_{lq} + w_q w_{iq} w_i) + \frac{2a(1-t) }{n-2}w_{ql}^2 - 2\frac{2-t}{2}w_{lq}^2 +2 w_{iq}^2 \\ &&+ 4a(\frac{2-t}{2}w_l w_{lq} w_q- w_{i}w_{iq}w_q{}) \Big)\eta \notag+F^{ii}W_{iiqq}\eta + 2a w_q(\bar{f}{\rm e}^{2kw})_q\eta -C\sum {F}^{ii} (\Delta w+ 1)\notag\\ &\ge& {F}^{ii}\big(\frac{2a(1-t) }{n-2}w_{ql}^2 - ({2-t}){}w_{lq}^2 \big) \eta +F^{ii}W_{iiqq}\eta + 2a w_q(\bar{f}{\rm e}^{2kw})_q \eta-C\sum {F}^{ii} (\Delta w + 1)\notag. \label{0394} \end{eqnarray*}$

注意到

$\sigma_{k-1}\ge C\sigma_k^{1-\alpha}\sigma_1^{\alpha},$
$\begin{eqnarray*}C\bar{f}^{1-\alpha} {\rm e}^{2k(1-\alpha) w}(\Delta w)^\alpha \le \sigma_{k-1}= C\sum F^{ii}. \label{47903}\end{eqnarray*}$

可以得到

$\begin{equation} |\bar{f}_i|\le C { \bar{f}^{{1-\alpha }}}\le C{\rm e}^{-2k(1-\alpha)w}\sum F^{ii}. \label{ssii2} \end{equation}$

又由于 $ \bar{f}^{\frac{1}{k-1}} \in C^{1, 1}, $ 故

$\begin{equation} \bar{f}_{qq} \ge (1-\alpha)\frac{|\nabla \bar{f}|^2}{\bar{f}}-C\bar{f}^{1-\alpha}. \label{ssii5} \end{equation}$

同时成立

$F^{i i} W_{i i q q} \geq\left(\bar{f} \mathrm{e}^{2 k w}\right)_{q q}-F^{i j, l m} W_{i j q} W_{l m q},$
$ -F^{i j, l m} W_{i j q} W_{l m q} \geq \sigma_{k}\left[\frac{\left(\sigma_{k}\right)_{q}}{\sigma_{k}}-\frac{\left(\sigma_{1}\right)_{q}}{\sigma_{1}}\right]\left[(\alpha-1) \frac{\left(\sigma_{k}\right)_{q}}{\sigma_{k}}-(\alpha+1) \frac{\left(\sigma_{1}\right)_{q}}{\sigma_{1}}\right].$

再用 (3.10) 式得到

$\left|\frac{\left(\sigma_{1}\right)_{q}}{\sigma_{1}}\right| \leq C \eta^{-1 / 2}.$

结合 (3.15) 式, (3.16) 式, (3.12) 式, 以及 $ \sigma_k=\bar{f}{\rm e}^{2kw}, $ 我们有

$-F^{i j, l m} W_{i j q} W_{l m q} \geq(\alpha-1) \frac{|\nabla \bar{f}|^{2}}{\bar{f}} \mathrm{e}^{2 k w}-C \eta^{-1} \mathrm{e}^{2 k \alpha w} \sum F^{i i}(\Delta w+1).$

把 (3.17) 式和 (3.13) 式带入 (3.14) 式得到

$F^{ii}W_{iiqq}\ge-C{\rm e}^{2kw}\bar{f}^{1-\alpha} -C\eta^{-1} {\rm e}^{2k\alpha w}\sum {F}^{ii} (\Delta w +1).$

于是,

$\begin{aligned} 0 & \geq F^{i i}\left(\frac{2 a(1-t)}{n-2}-(2-t)\right) w_{l q}^{2} \eta+F^{i i} W_{i i q q} \eta-C\left(1+\mathrm{e}^{2 k \alpha w}\right) \sum F^{i i}(\Delta w+1) \\ & \geq F^{i i}\left(\frac{2 a(1-t)}{n-2}-(2-t)\right) w_{l q}^{2} \eta-C \mathrm{e}^{2 k w} \bar{f}^{1-\alpha}-C\left(1+\mathrm{e}^{2 k \alpha w}\right) \sum F^{i i}(\Delta w+1) \\ & \geq F^{i i}\left(\frac{a(1-t)}{(n-2) n^{2}}\right)(\Delta w)^{2} \eta-C \mathrm{e}^{2 k w} \bar{f}^{1-\alpha}-C\left(1+\mathrm{e}^{2 k \alpha w}\right) \sum F^{i i}(\Delta w+1) \\ & \geq F^{i i}\left[\left(\frac{a(1-t)}{(n-2) n^{2}}\right)(\Delta w)^{2} \eta-C \mathrm{e}^{2 k \alpha w}-C\left(1+\mathrm{e}^{2 k \alpha w}\right)(\Delta w+1)\right] \end{aligned}$

进而 $ \Big(\frac{a(1-t)}{(n-2)n^2} \Big)(\eta\Delta w)^2 -C {\rm e}^{2k\alpha w} -C(1+{\rm e}^{2k\alpha w}) (\eta\Delta w +1)\leq 0 $. 故

$\eta\Delta w\le C(1+{\rm e}^{2k\alpha w}). $

估计 (1.6) 式得证.

4 定理 1.1 的证明

本节将证明定理 1.1. 我们首先证明

$\text { 对于每个 } \epsilon \text { ,方程(1.4)存在解 } w_{\epsilon} \text { .}$

为此考虑一族方程

$\left\{\begin{array}{l} \sigma_{k}\left(s W+(1-s) g_{0}\right)=\left(s \bar{f}+(1-s) C_{n}^{k}\right) \mathrm{e}^{2 k w} \\ w_{\nu}=0 \end{array}\right.$

其中

$W=-A^t_{g_0}+\nabla^{2} w+\frac{1-t}{n-2}\Delta w-dw\otimes dw+ \frac{2-t}{2}|\nabla w|^{2}g_0, \quad s\in[0,1],\quad W\in\Gamma_k, $
$\hspace{-9.7cm}\bar{f}=(f^\frac{1}{k-1}+\epsilon)^{k-1}.$

定义

$\Phi_{s}: C^{2, \alpha} \cap\left\{w\left|\frac{\partial w}{\partial \nu}\right|_{\partial M}=0\right\} \rightarrow C^{\alpha} \quad w \mapsto \sigma_{k}\left(s W+(1-s) g_{0}\right)-\left(s \bar{f}+(1-s) C_{n}^{k}\right) \mathrm{e}^{2 k w},$

以及

$\mathcal{I}=\{s\in[0,1]\big|\Phi_s[w]=0~\textrm{存在}~C^{2,\alpha}~\textrm{的解}~w, \textrm{ 且 }W\in\Gamma_k\}.$

显然, $ \Phi_s $ 的线性化算子可逆, 故 $ \mathcal{I} $ 是开的. 接下来证明 $ C^0 $ 估计: 设 $ \bar{x} $ 是 $ w $ 的最大值点. 由边界条件可知 $ \nabla^2 w\le 0 $. 进一步由方程得到

${\rm e}^{2kw(\bar{x})}\le \frac{\max\sigma_k(-A^t_{g_0}+g_0)}{\min \{ \bar{f}, C_n^k\}}. $

故 $ w $ 有上界. 再设 $ \hat{x} $ 是 $ w $ 的最小值点. 同样地,

${\rm e}^{2kw(\hat{x})}\ge \frac{\min\sigma_k(-sA^t_{g_0}+(1-s)g_0)}{\max \bar{f}+C_n^k}.$

故 $ w $ 有下界. 从而 $ C^0 $ 估计成立. 进而由文献 [52] 可知 $ C^1 $ 和 $ C^2 $ 估计成立. 再由方程的一致椭圆性和正则性理论可知 $ C^{2,\alpha} $ 估计成立. 从而集合 $ \mathcal{I} $ 既开又闭. 注意到 $ w\equiv0 $ 是 $ \Phi_s=0 $ 在 $ s=0 $ 的解. 故 $ \mathcal{I} $ 不空, 且 $ \mathcal{I}=[0,1] $. 由此得到了方程 (1.4) 解的存在性. 从而 (4.1) 式成立.

接下来证明方程 (1.3) 是可解的. 设 $ \overline{w} $ 是方程 (1.3) 的上解, 那么它也是方程 (1.4) 的上解. 于是由引理 2.7,

$\begin{eqnarray*}w_{\epsilon} \le \overline{w}. \label{323590}\end{eqnarray*}$

同时由方程 (1.3) 得到

${\rm e}^{2k\min w_{\epsilon}} \ge\frac{\min \sigma_k(-A^t_{g_0})}{(\max f^{\frac{1}{k-1}} +1)^{k-1}}. $

再由定理 1.2 可知 $ |\nabla w_{\epsilon}|\le C $ 和 $ |\nabla^2 w_{\epsilon}|\le C. $ 其中, $ C $ 不依赖于 $ \epsilon $. 于是 $ \lim_{\epsilon \rightarrow 0}w_\epsilon $ 是方程 (1.1) 的 $ C^{1,1} $ 解.

参考文献

Aubin T.

Équations différentielles non linéaires et problème de Yamabe concernant la courbure scalaire

J Math Pures Appl, 1976, 55(3): 269-296

[本文引用: 1]

Blocki Z.

Regularity of the degenerate Monge-Ampère equation on compact Kähler manifolds

Math Z, 2003, 244(1): 153-161

DOI:10.1007/s00209-002-0483-x      URL     [本文引用: 1]

Chang A, Gursky M, Yang P.

An equation of Monge-Ampère type in conformal geometry and four-manifolds of positive Ricci curvature

Ann of Math, 2002, 155(3): 709-787

DOI:10.2307/3062131      URL     [本文引用: 1]

Chang A, Gursky M, Yang P.

An a priori estimate for a fully nonlinear equation on four-manifolds

J Anal Math, 2002, 87: 151-186

DOI:10.1007/BF02868472      URL     [本文引用: 1]

Chen L, He Y.

A class of fully nonlinear equations on Riemannian manifolds with negative curvature

Calc Var Partial Differential Equations, 2024, 63(6): Article 158

[本文引用: 1]

Chen S.

Boundary value problems for some fully nonlinear elliptic equations

Calc Var Partial Differential Equations, 2007, 30(1): 1-15

DOI:10.1007/s00526-006-0072-7      URL     [本文引用: 1]

Chen S.

Conformal deformation on manifolds with boundary

Geom Funct Anal, 2009, 19(4): 1029-1064

DOI:10.1007/s00039-009-0028-0      URL     [本文引用: 1]

Chen X J, Tu Q, Xiang N.

Dirichlet problem for degenerate Hessian quotient type curvature equations

Calc Var Partial Differential Equations, 2025, 64(3): Article 99

[本文引用: 1]

Chen X Z, Wei W.

The $\sigma_{2} $-curvature equation on a compact manifold with boundary

arXiv 2307.13942, 2023

[本文引用: 1]

Chen X Z, Wei W.

Estimates for modified $ \sigma_{2} $ curvature equation on compact manifolds with boundary

arXiv 2405.139134, 2024

[本文引用: 1]

Chu B Z, Li Y Y, Li Z Y.

Liouville theorems for conformally invariant fully nonlinear equations

I. arXiv 2311.07542, 2023

[本文引用: 1]

Hessian equations with elementary symmetric functions

Comm Partial Differential Equations, 2006, 31(7/9): 1005-1025

DOI:10.1080/03605300500481491      URL     [本文引用: 1]

Duncan J A, Nguyen L.

Local pointwise second derivative estimates for strong solutions to the $ k $-Yamabe equation on Euclidean domains

Calc Var Partial Differential Equations, 2021, 60(5): Article 177

[本文引用: 1]

Ge Y X, Lin C S, Wang G F.

On the $ \sigma_2 $-scalar curvature

J Differential Geom, 2010, 84(1): 45-86

[本文引用: 1]

Ge Y X, Wang G F.

On a fully nonlinear Yamabe problem

Ann Sci Ecole Norm Sup, 2006, 39(4): 569-598

[本文引用: 1]

Ge Y X, Wang G F.

On a conformal quotient equation

II. Comm Anal Geom, 2013, 21(1): 1-38

Ge Y X, Wang G F.

On a conformal quotient equation

Int Math Res Not IMRN, 2007, 2007(6): Article 19

[本文引用: 1]

Guan P F.

$ C^2 $ a priori estimate for degenerate Monge-Ampère equations

Duke Math J, 1997, 86: 323-346

[本文引用: 1]

Guan P F, Li Y Y.

The Weyl problem with nonnegative Gauss curvature

J Differential Geom, 1994, 39: 331-342

[本文引用: 1]

Guan P F, Li Y Y.

$ C^1$, 1 estimates for solutions of a problem of Alexandrov

Commun Pure Appl Math, 1997, 50: 789-811

DOI:10.1002/(ISSN)1097-0312      URL     [本文引用: 1]

Guan P F, Lin C S, Wang G F.

Application of the method of moving planes to conformally invariant equations

Math Z, 2004, 247(1): 1-19

DOI:10.1007/s00209-003-0608-x      URL     [本文引用: 1]

Guan P F, Trudinger N S, Wang X J.

On the Dirichlet problem for degenerate Monge-Ampère equations

Acta Math, 1999, 182(1): 87-104

DOI:10.1007/BF02392824      URL     [本文引用: 1]

Guan P F, Wang G F.

A fully nonlinear conformal flow on locally conformally flat manifolds

J Reine Angew Math, 2003, 557: 219-238

[本文引用: 1]

Guan P F, Zhang X W.

A class of curvature type equations

Pure Appl Math Q, 2021, 17(3): 865-907

DOI:10.4310/PAMQ.2021.v17.n3.a2      URL     [本文引用: 1]

Gursky M, Viaclovsky J.

Fully nonlinear equations on Riemannian manifolds with negative curvature

Indiana U Math J, 2003, 52: 399-419

DOI:10.1512/iumj.2003.52.2313      URL     [本文引用: 2]

Gursky M J, Viaclovsky J A.

Prescribing symmetric functions of the eigenvalues of the Ricci tensor

Ann of Math, 2007, 166: 475-531

DOI:10.4007/annals      URL     [本文引用: 1]

He Y, Sheng W M.

On existence of the prescribing $ k $-curvature problem on manifolds with boundary

Comm Anal Geom, 2011, 19(1): 53-77

DOI:10.4310/CAG.2011.v19.n1.a3      URL     [本文引用: 1]

He Y, Sheng W M.

Local estimates for some elliptic equations arising from conformal geometry

Int Math Res Not IMRN, 2013, 2013(2): 258-290

DOI:10.1093/imrn/rnr262      URL     [本文引用: 1]

He Y, Tu Q, Xiang N.

Existence for some degenerate Hessian type equations arising in conformal geometry

Pacific J Math, 2025, 335(1): 97-117

DOI:10.2140/pjm      URL     [本文引用: 1]

Ivochkina N M, Trudinger N S, Wang X J.

The Dirichlet problem for degenerate Hessian equations

Comm Partial Differential Equations, 2004, 29: 219-235

DOI:10.1081/PDE-120028851      URL     [本文引用: 1]

Jiao H M, Jiao Y.

The Pogorelov estimates for degenerate curvature equations

Int Math Res Not IMRN, 2024, 2024(18): 12504-12529

DOI:10.1093/imrn/rnae161      URL     [本文引用: 1]

We establish the Pogorelov-type estimates for degenerate prescribed $k$-curvature equations as well as $k$-Hessian equations. Furthermore, we investigate the interior $C^{1,1}$ regularity of the solutions for Dirichlet problems. These techniques also enable us to improve the existence theorem for an asymptotic Plateau-type problem in hyperbolic space.

Jiao H M, Wang Z Z.

The Dirichlet problem for degenerate curvature equations

J Funct Anal, 2022, 283(1): Art 109485

[本文引用: 1]

Jiao H M, Wang Z Z.

Second order estimates for convex solutions of degenerate $ k $-Hessian equations

J Funct Anal, 2024, 286(3): Art 110248

[本文引用: 1]

Jiang F D, Trudinger N S.

Oblique boundary value problems for augmented Hessian equations III

Comm Partial Differential Equations, 2019, 44(8): 708-748

DOI:10.1080/03605302.2019.1597113      URL     [本文引用: 1]

Jiang F D, Trudinger N S.

Oblique boundary value problems for augmented Hessian equations I

Bull Math Sci, 2018, 8(2): 353-411

DOI:10.1007/s13373-018-0124-2     

Jiang F D, Trudinger N S.

Oblique boundary value problems for augmented Hessian equations II

Nonlinear Anal, 2017, 154: 148-173

DOI:10.1016/j.na.2016.08.007      URL     [本文引用: 1]

Jin Q N, Li A B, Li Y Y.

Estimates and existence results for a fully nonlinear Yamabe problem on manifolds with boundary

Calc Var Partial Differential Equations, 2007, 28: 509-543

DOI:10.1007/s00526-006-0057-6      URL     [本文引用: 1]

Krylov N V.

Weak interior second order derivative estimates for degenerate nonlinear elliptic equations

Differ Integral Equ, 1994, 7: 133-156

[本文引用: 1]

Krylov N V.

Barriers for derivatives of solutions of nonlinear elliptic equations on a surface in Euclidean space

Comm Partial Differential Equations, 1994, 19: 1909-1944

DOI:10.1080/03605309408821077      URL    

Krylov N V.

A theorem on the degenerate elliptic Bellman equations in bounded domains

Differ Integral Equ, 1995, 8: 961-980

Krylov N V.

On the general notion of fully nonlinear second-order elliptic equations

Trans Am Math Soc, 1995, 347: 857-895

DOI:10.1090/tran/1995-347-03      URL     [本文引用: 1]

Li A B, Li Y Y.

On some conformally invariant fully nonlinear equations

Comm Pure Appl Math, 2003, 56: 1416-1464

DOI:10.1002/cpa.v56:10      URL     [本文引用: 2]

Li A B, Li Y Y.

On some conformally invariant fully nonlinear equations, part II: Liouville, Harnack and Yamabe

Acta Math, 2005, 195: 117-154

DOI:10.1007/BF02588052      URL     [本文引用: 1]

Li A B, Li Y Y.

A fully nonlinear version of the Yamabe problem on manifolds with boundary

J Eur Math Soc (JEMS), 2006, 8: 295-316

DOI:10.4171/jems      URL     [本文引用: 1]

Li J Y, Sheng W M.

Deforming metrics with negative curvature by a fully nonlinear flow

Calc Var Partial Differential Equations, 2005, 23: 33-50

DOI:10.1007/s00526-004-0287-4      URL     [本文引用: 1]

Li Y Y.

Local gradient estimates of solutions to some conformally invariant fully nonlinear equations

Comm Pure Appl Math, 2009, 62: 1293-1326

DOI:10.1002/cpa.v62:10      URL     [本文引用: 1]

Li Y Y, Nguyen L.

A compactness theorem for a fully nonlinear Yamabe problem under a lower Ricci curvature bound

J Funct Anal, 2014, 266(6): 3741-3771

DOI:10.1016/j.jfa.2013.08.004      URL     [本文引用: 1]

Li Y Y, Nguyen L.

A fully nonlinear version of the Yamabe problem on locally conformally flat manifolds with umbilic boundary

Adv Math, 2014, 251: 87-110

DOI:10.1016/j.aim.2013.10.011      URL     [本文引用: 1]

Li Y Y, Nguyen L, Wang B.

Comparison principles and Lipschitz regularity for some nonlinear degenerate elliptic equations

Calc Var Partial Differential Equations, 2018, 57: 1-29

DOI:10.1007/s00526-017-1276-8      URL     [本文引用: 1]

Schoen R.

Conformal deformation of a Riemannian metric to constant scalar curvature

J Differential Geom, 1984, 20: 479-495

[本文引用: 1]

Sheng W M, Trudinger N, Wang X J.

The Yamabe problem for higher order curvatures

J Differential Geom, 2007, 77: 515-553

[本文引用: 1]

Sheng W M, Yuan L X.

A class of Neumann problems arising in conformal geometry

Pacific J Math, 2014, 270(1): 211-235

DOI:10.2140/pjm      URL     [本文引用: 2]

Trudinger N S.

Remarks concerning the conformal deformation of Riemannian structures on compact manifolds

Ann Scuola Norm Sup Pisa, 1968, 22(2): 265-274

[本文引用: 1]

Trudinger N S, Wang X J.

The intermediate case of the Yamabe problem for higher order curvatures

IMRN: Int Math Res Not, 2010, 8(13): 2437-2458

[本文引用: 1]

Trudinger N S, Wang X J.

On Harnack inequalities and singularities of admissible metrics in the Yamabe problem

Calc Var Partial Differential Equations, 2009, 35(3): 317-338

DOI:10.1007/s00526-008-0207-0      URL     [本文引用: 1]

Viaclovsky J.

Conformal geometry, contact geometry and the calculus of variations

Duke Math J, 2000, 101: 283-316

[本文引用: 1]

Wang X J.

A priori estimates and existence for a class of fully nonlinear elliptic equations in conformal geometry

Chin Ann Math Ser B, 2006, 27(2): 1-10

DOI:10.1007/s11401-005-0247-0      URL     [本文引用: 1]

Wang X J.

Some counterexamples to the regularity of Monge-Ampère equations

Proc Am Math Soc, 1995, 123: 841-845

[本文引用: 1]

Ya Yamabe H.

On a deformation of Riemannian structures on compact manifolds

Osaka Math J, 1960, 12: 21-37

[本文引用: 1]

/