本文引入了几类新的广义凸集、广义凸函数和广义预不变凸函数.讨论了各种广义凸性和研究了它们在数学规划中的应用，给出了单目标和多目标的广义凸规划的最优性条件以及对偶理论。一方面，我们在实空间中定义了一种新的广义凸函数，称为次-b-s-凸函数.我们首先研究了这种广义凸函数的基本性质，并研究了它与拟次-b-s-凸函数之间的关系.其次对于满足次-b-s-凸性的优化问题，分别在无约束和不等式约束的条件下给出了最优性条件。另一方面，在实空间中引入了(E, m)-凸集和b-(E, m)-凸函数的概念，并说明了(E, m)-凸集和b-(E, m)-凸函数的存在性及其与凸函数、E-凸函数之间的关系.首先分别给出了(E, m)-凸集和b-(E, m)-凸函数的基本性质.其次为了在一般和可微的条件下研究b-(E, m)-凸函数的基本性质，我们又介绍b-(E, m)-凸集和(E, m)-拟凸函数.最后作为应用，分别在无约束和不等式约束的条件下给出了b-(E, m)-凸规划的最优性充分条件和对偶理论。最后，基于B-预不变凸函数和m-凸函数提出了一类新的广义预不变凸函数—( B, m)-预不变凸函数.讨论了( B, m)-预不变凸函数的基本性质.给出了在无约束和不等式约束的条件下的单目标( B, m)-预不变凸规划的最优性条件.并研究了( B, m)-预不变凸函数在多目标优化中的应用。