在素数论中，对于任意给定的一个算术函数αn，一个基本而又重要的问题是研究它在指数和中的抵消情况.模形式傅里叶系数的分布作为当今数论中一个热门而又重要的课题，关于其最新研究进展将揭示着人们对模函数的认识.人们为了研究模函数，往往会考察其傅里叶系数在素变量指数和中的抵消.设f是SL(2，Z)上的一个本原(全纯或Maass)尖形式.并且用af(n)来记f的第n个正规化的傅里叶系数.我们将在本文考察af(n)在如下指数和中的估计∑n≤NΛ(n)af(n)e(αt(n))，其中α∈R，Λ(n)是von Mangoldt函数，t:R→C是一个算术函数.最近，Fouvry和Ganguly[8]研究了af(n)在素变量线性指数和中的振荡情况.他们证明了存在一个有效的常数c＞0，使得对于任意的α∈R∑n≤NΛ（n）af(n)e（nα）(＜＜)Nexp(-c√logN)，其中暗含的常数仅依赖于尖形式f.在第一章，我们将建立af(n)在二次指数和中的估计.　　定理1设f是SL(2，Z)上的一个本原尖形式.设af(n)是f的第n个正规化的傅里叶系数.设N≥2.那么存在一个绝对有效的正常数c，使得对于任意的α，β∈R，存在一个有效的常数C(f)＞0，使得|∑n≤NΛ(n)af(n)e(αn2+βn)|≤C(f)Nexp（-c√logN).　　作为定理的应用，我们考虑表素数平方的二次华林-哥德巴赫问题.华罗庚[17]证明了每一充分大的正整数同余于5(mod24)均可表成五个素数的平方和，其表法个数的阶为N3/2/log5N，且对于一般的s≥5∑N=p21+p22+…+p2s1～C(G)s(N)Ns/2-1/logsN+O（Ns/2-1loglogN/log5N）.这里C=C(s)＞0是绝对常数，(G)s(N)是奇异级数.我们证明了一个比上面渐进式中的余项还要好的上界估计.　　推论1设尖形式f和系数af(n)如定理1所示.那么存在一个有效的正常数c，使得对于任意的N≥4和任意的s≥5，一致地有∑N=p21+p22+…+p2saf(p1)(＜＜)Ns/2-1exp(-c√logN)，其中暗含的常数仅依赖于尖形式f.　　在第二章，我们将考虑SL(3，Z)上Hecke-Maass尖形式的傅里叶系数在线性指数和中的估计.我们致力于研究SL(3，Z)上自守L-函数的系数扭乘一个加性特征e(α)=e2πiα的素数定理.关于在素变量上的讨论，目前人们在这方面还没有任何进展.我们将首次给出一个上界不依赖于参量α的一致估计.这也是自守形式理论在经典数论问题中的一次成功实践.　　定理2设F是SL(3，Z)上的一个Hecke-Maass尖形式.设AF(n，1)是F的第(n，1)个正规化的傅里叶系数.设N≥2.那么存在一个绝对有效的正常数c，使得对于任意的α∈R，存在一个有效的常数C(F)＞0，使得|∑n≤NΛ(n)AF(n，1)e(nα)|≤C(F)Nexp（-c√logN).作为定理的应用，我们考虑Vinogradow三素数定理.我们证明了以下推论:　　推论2设尖形式F和系数AF(n，1)如定理2所示.那么存在一个有效的正常数c，使得对于任意的N≥4和任意的复序列(αa）a≥1和(βb)b≥1，一致地有∑N=p+a+bAF(p，1)αaβb(＜＜)Nexp(-c√logN)‖αN‖‖βN‖，其中‖αN‖=(∑1≤a≤N|αa|2)1/2，‖βN‖=（∑1≤b≤N|βb|2)1/2，(＜＜)-暗含的常数仅依赖于尖形式F.特别地，我们有SL(3，Z)上Hecke-Maass尖形式的Vinogradow三素数定理类比（参见文[49]）:∑N=p1+p2+p3AF(p1,1),∑N=p1+p2+p3AF(p1,1)AF(p2,1)和∑N=p1+p2+p3AF(p1,1)AF(p2,1)AF(p3,1)中每一个都等于O(N2exp(-c√logN))，对某个常数c＞0一致成立，其中大D里暗含的常数仅依赖于尖形式F.　　本文另一个研究的问题是涉及尖形式傅里叶系数的非线性指数和问题.在第三章，我们将给出SL(2，Z)尖形式以及SL(2，Z)尖形式对称平方提升的傅里叶系数关于这些问题在素变量上的讨论.进而推广了赵良轶的工作[52]和皮庆华、孙庆峰的工作[35].　　定理3设d是SL(2，Z)上的一个本原尖形式.设af(n)是f的第n个正规化的傅里叶系数.设N≥2.那么存在一个绝对有效的正常数c，使得对于任意的0＜α≤1/2和任意的η≠0，我们有∑n≤NΛ(n)αf(n)e(ηnα)(＜＜)(N5/6+N1-α/2) logcN，其中暗含的常数依赖于d，α和η.进一步，假设广义藜曼猜想对L(f,s）成立，上式右边的界可改为N(1+α)/2.　　定理4设f是SL(2，Z)上的一个本原尖形式.设af(n)是f的第n个正规化的傅里叶系数.设F是尖形式f的对称平方提升sym2f，并用AF(n，1)来指代F的第(n，1)个正规化的傅里叶系数.那么对于任意的0＜α＜(3+√5)/8和任意的η≠0，我们有∑N≤NΛ(n)AF(n，1)e(ηnα)(＜＜){N1-α/2+ε,如果α＜3/10,Nα/3+3/4+ε,如果3/10≤α＜9/20，N3/2-√5α+2α+ε,如果9/20≤α＜(3+√5)/8,其中暗含的常数依赖于F，η和ε.　　作为数论中一个基本而又重要的算术函数，莫比乌斯函数μ(n)的研究也备受关注.最近，皮庆华、孙庆峰[36]证明了，对于SL(2，Z)上的一个原纯尖形式f和任意的η≠0∑n≤Nμ(n)af(n)e(η√n)(＜＜)N5/6log20N，其中暗含的常数依赖于d和η.在第三章，我们考虑更一般的情形，得到了以下定理:　　定理5设f是SL(2，Z)上的一个全纯或Maass尖形式.设af(n)是f的第n个正规化的傅里叶系数.设N≥2.那么存在一个绝对有效的正常数c，使得对于任意的0＜α≤1/2和任意的η≠0，我们有∑n≤Nμ(n)af(n)e(ηnα)(＜＜)（N5/6+N1-α/2）logcN，其中暗含的常数依赖于f，η和α.进一步，设F是尖形式f的对称平方提升sym2f.那么存在一个绝对有效的正常数c，使得对于任意的0＜α＜4/9，任意的η≠0和任意的ε＞0，我们有∑n≤Nμ(n)AF(n,1)e(ηnα)(＜＜)N1-α/2logcN+N2/3+3α/4+ε，其中暗含的常数依赖于F，η，α和ε.