星载船舶自动识别系统（Automatic Identification System，AIS）是各国竞相发展的船舶动态监控系统，在军事、经济和政治等领域均具有重要的意义。多用户分离是星载AIS中的一个核心技术，直接影响到信号的接收效果和检测性能，该课题的研究对其它卫星通信系统同样具有重要的价值。本文以星载AIS为应用背景，对时隙碰撞概率、信号分离算法和接收机的多用户分离等方面进行研究。建立了星载AIS接收信号时隙碰撞概率分析模型。该模型以泊松分布为基础，为了使概率分析更加贴近实际情况，模型建立的过程中考虑到了：A、B类船台的消息发送间隔是不同的；不同航行状态的船舶消息发射间隔是不同的；信号混叠程度对信息完整性的影响是不同的。提出了变步长的复值快速独立分量分析（Fast Independent Component Analysis,FastICA）分离算法。以非高斯性为基础建立了表示混合信号独立性的目标函数，并采用具有较高收敛速度的牛顿迭代法对目标函数进行优化。为使目标函数始终朝着最优解的方向收敛，迭代过程采用可变步长的牛顿迭代法，同时，为了保持算法收敛速度，基于Wolfe-Powell准则确定迭代步长的搜索范围。仿真实验对混合的信号进行了提取，并对不同的FastICA算法进行对比，证明基于Wolfe-Powell准则的FastICA，仅增加很少的计算量就解决了收敛性的问题。针对AIS信号的空间传输特点，提出了一种卫星接收机的多用户分离方法。首先采用三交叉的二元线阵对不同极化方向的信号进行接收，基于极化分集减小时隙碰撞的概率；然后利用数字波束形成，将卫星的视场划分为多个带状区域，基于空间分集减小时隙碰撞的概率；最后结合变步长的复值FastICA分离算法对时隙碰撞的AIS信号进行逐个提取。仿真实验模拟了接收机接收前端的主要信号处理流程，证明该方法是切实可行的。