在过去十几年中，由于在非线性光学和Bose-Einstein凝聚等物理问题中有着重要的应用，非线性薛定谔方程组得到了广泛的关注。很多著名的数学家对非线性薛定谔方程组做了大量杰出的研究工作。本文主要是运用变分法和椭圆方程的理论来研究某些非线性薛定谔方程组的非平凡解的存在性和相关性质。首先，我们考虑带有立方次幂非线性项的Bose-Einstein凝聚型方程组。在次临界情形（即空间维数为2或3），我们研究基态解存在时参数的最优范围、基态解的唯一性和渐近收敛行为。这给出了Sirakov在文献(Comm. Math. Phys.,2007,271:199-221)中提出的一个公开问题的第一个回答。另外，对任意负的耦合系数我们研究了无穷多个变号解的存在性和相关性质。在临界情形（即空间维数为4），我们系统研究了这个问题的基态解，包括存在性、非存在性、唯一性和耦合系数趋于负无穷时基态解的极限产生的相位分离现象。这似乎是这类方程组在4维情形下的第一个结果。另外，我们可以将上面的部分结果推广到一般的临界方程组（即空间维数大于等于5时相应的临界方程组）。与4维的特殊情形相比，我们发现会有很多不一样的现象发生。例如，我们可以证明对任意非零的耦合系数都存在基态解，但这个结论在4维的特殊情形下不成立。当空间维数大于等于6且耦合系数趋于负无穷时，我们证明了方程组的基态解收敛到Brezis-Nirenberg临界指数问题的变号解。所以这个一般的临界方程组与著名的Brezis-Nirenberg临界指数问题密切相关。这里我们研究了开球上Brezis-Nirenberg临界指数问题最低能量解的唯一性和最优能量估计，这在上面临界方程组的研究中很有用。同时我们也证明了一般有界光滑区域上Brezis-Nirenberg临界指数问题多解的存在性。最后，我们考虑带有临界指数的Ambrosetti型线性耦合的薛定谔方程组。我们对不同范围的耦合系数研究了基态解的存在性与非存在性。注意我们的结果是几乎最优的。