该文主要研究在有限反射群(Coxeter群)下不变测度的调和分析.C.Dunkl自1988年以来的一系列工作开创了研究与反射对称和根系有关的多元特殊函数的有效途径,对数学中的多个领域产生了重要影响,也为调和分析带来了一个新的研究领域.其一,Dunkl理论把欧氏空间Rd上和球面Sd-1上关于在正交群下不变的Lebesgue测度的Fourier分析推广到带有在有限反射群(作为正交群的子群)下的不变测度的情况;其二,Dunkl理论又是单变量的Hankel变换、超球展开和Jacobi展开的高维推广;其三,在一些特殊参数下,Dunkl核函数的群不变部分(广义Bessel函数)就是欧几里德型对称空间上的球面函数,Dunkl理论对其有着很大的促进作用.这一方面反映了Dunkl理论的广泛性应用前景,另一方面反映了Dunkl理论具有巨大的研究潜力和可能性.该文选择Dunkl理论中一些重要的调和分析问题作为研究课题,取得了许多有重要价值的结果,其中包括:·研究了Dunkl变换的Bochner-Riesz平均BαR(f;x)和相应的球形和算子Ba,确定了它们在Lp空间上有界性的指标范围,这个范围对Rd上的径向函数来说是充分必要的.通过建立Dunkl变换的球面(Lp,L2)限制定理,证明了对Lp(Rd,h2kdx)中具有紧支集的函数来说,该指标范围也是充分的.·研究了Dunkl变换的Poisson积分、共轭Poisson积分以及相应的Riesz变换和一类奇异核函数的Dunkl变换.给出了Poisson积分的极大函数估计,并证明对反射群G=Zd2,相应的Poisson积分是几乎处处收敛的;通过给出Rd上关于反射不变测度ωk(x)dx局部可积函数作为缓增广义函数的适当解释,给出一类奇异核函数的Dunkl变换表示;利用Dunkl算子引入Cauchy-Riemann方程组,定义了相应的共轭调和函数系(广义Stein-Weiss系),由此给出共轭Poisson积分的表述,并研究了其基本性质.在此基础上,引入主值意义下的Riesz变换,并对群G=Zd2的情况证明了这样的Riesz变换与共轭Poisson积分的边值在一定意义下是一致的.·研究了关于反射不变测度的广义Hermite展开的收敛和求和问题,确定了Rd上径向函数的广义Hermite展开的Riesz平均SδR(f;x)按Lp范数一致有界的充要条件.这一结果推广了Thangavelu关于通常多变量Hermite展开的工作.·借助微分-差分技术建立了一类(一元)Sturm-Liouville算子的测不准原理.作为应用,我们得到了关于Jacobi展开,广义Hermite展开和Laguerre展开的测不准不等式,并分别证明由此得到的这些测不准关系中的常数是最优的.