自然界中，有简单的物质系统，也有各种各样复杂的物质系统。物质本身相互作用的复杂性决定了物质的复杂程度。随着系统相互作用复杂程度的增加，相互作用之间的竞争亦趋复杂，导致系统出现失措行为，这时系统的自由度很难得到同时满足，系统往往有多种可供选择的状态，对应不同但相近的能量基态。一般来说，只存在短程相互作用如界面张力的情况下，系统会出现宏观相分离；如果是同时存在界面张力和表面弯曲弹性能，系统趋向介观相分离；而短程吸引和长程排斥相互用的竞争则会导致系统出现微观相分离。对于软物质(复杂流体)，除了本身相互作用的竞争，由于易受热涨落和外界影响，其结构变化和相行为更加丰富。在本论文中，通过计算机模拟来研究具有短程吸引和长程排斥相互作用竞争的系统的微观相分离和自组织有序结构的形成，以及如何控制其形貌，试图揭示其相行为的一些共同特征。 首先，研究了具有短程铁磁和长程偶极相互作用竞争的自旋系统(ModelA，对应序参量不守恒的相分离系统)的微观相分离和自组织条纹结构的形成。观察到在相分离过程中自组织微观条纹相的产生，并且发现条纹的取向有序度依赖于淬火温度。在深淬火下，系统出现失措的迷宫相；随着淬火温度的升高，在热涨落的帮助下系统结构调整为有序的条纹结构；如果淬火温度进一步升高，有序的条纹相被破坏，出现不规则的扩展区；而在高淬火温度下，系统则处于无规混乱态。这表明存在一个最佳温度区域，此时条纹结构最易形成且取向最有序。在最佳温度区域内，条纹宽度由长程偶极排斥强度决定：随着长程排斥强度的增大连续减小。通过计算比热，我们得到了系统完整的相图。整个相图从左到右(长程偶极排斥强度增大方向)依次为宏观相分离的铁磁区，微观相分离区和反铁磁区。在微观相分离区，从上到下(淬火温度减小方向)依次为高温无序区，扩展区，有序条纹区和失措的迷宫相区域。 其次，研究了具有短程吸引和长程库仑排斥相互用的竞争的二元混合系统(ModelB，对应序参量守恒的相分离系统)的相行为。同样地，我们发现也存在一个最佳温度区域，此时自组织条纹相最易形成且取向有序度最好。随着淬火温度从低到高，系统依次经历了失措的玻璃态，取向有序的条纹结构，到高温的无序态。在最佳温度区内，条纹宽度由长程库仑排斥强度决定。但有趣的是，条纹尺寸并不是随着长程排斥强度的增大连续减小，而是呈现台阶式的跳跃。即在一定的长程排斥强度范围内，条纹宽度保持不变，直到足够强的长程排斥强度出现使系统到达一个新的条纹宽度。这和条纹宽度连续变化的ModelA型系统迥然不同。通过分析系统能量和长程排斥强度之间的关系，证明了不同条纹宽度之间的结构转变是一级相变。在转变区内，观察到了不同宽度的条纹共存的亚稳结构。通过计算比热得到了系统的完整的相图，从上到下(淬火温度减小方向)依次为无序区，有序条纹区和失措的玻璃相区。与ModelA型系统相比，无扩展区出现；且随着长程排斥强度的增大，也没有反铁磁相区出现。 最后研究了包含长程库仑相互作用的大粒子的非对称组分的二元混合系统的相分离和自组织结构变化。其中加入的大粒子浸润其中的少数相。由于第三种粒子的加入，系统中的相互作用更加复杂，从而导致系统的相形为更加丰富。在不考虑大粒子之间的长程相互作用的情形下，由于大粒子的加入，混合物系统由原来的液滴相转变为双连续相，并且随着浸润相互作用强度的增大，畴生长出现慢化。在考虑大粒子之间的长程库仑相互作用的情形下，在相分离后期畴生长停止，系统宏观相分离被抑制而出现微观或介观相分离。特别是，在浸润相互作用强度和长程库仑相互作用强度相匹配的某些窄小区域，会出现取向高度有序的自组织条纹相。得到了强和弱浸润相互作用两种情况下的系统相图，从中我们可以清楚地看出自组织有序条纹结构只存在于很小的区域内。另外，在系统相分离过程中，热涨落起到了重要的作用。它能消除体系失措引起的拓扑缺陷，辅助系统尽快达到有序结构态。 综上，的研究结果对于理解和揭示在具有相互作用竞争的系统中的自组织有序微结构的形成机制方面有一定帮助。在实际应用方面，对新材料和新结构的设计、制备及其物理性质的控制也有一定应用价值。