快速响应空间技术是目前我国空间技术的重要发展方向，星间/星内通信系统是快速响应卫星平台的重要组成部分。传统的星内通信一般采用点对点或总线等有线连接方式，但有线连接的方式不能实现即插即用，不利于系统的快速集成和快速测试，不能满足快速响应的需要。为此本文提出了支持即插即用的基于无线体制的星内通信系统，针对星内无线通信的特殊性，从系统结构、电磁兼容、软件协议等方面进行了理论研究和试验分析。针对星间通信及编队的任务特点，提出了变速率的通信方法，并对其进行了仿真和试验验证。本文提出了基于无线体制的星内通信系统体系结构，针对各单机/部件的要求将其划分为无线通信单元以及专用功能单元两部分，通过无线通信单元实现卫星平台各专用功能单元的信息交互。针对星内无线通信体系结构以及星内通信多径、遮挡等问题，深入研究了不同通信体制下星内通信的主要性能及技术指标。通过优化设计确定了FSK/GFSK的调制解调方式，建立了无线通信基本单元的理论模型。采用SOC及RFIC作为核心部件，实现了无线通信的基本单元，并通过无线通信基本单元在星内环境下的通信试验，验证了星内无线通信体系结构的合理性和可行性，为星内无线通信的应用提供了理论依据。针对星内无线通信存在的遮挡及多路径问题，提出了多元环形天线射频耦合通信的新方法。基于天线设计理论建立了近场射频通信模型，通过了仿真和试验验证，表明该方法可以实现可靠的射频通信，解决了遮挡及多路径问题。针对无线通信的特点，研究了星内/星外无线通信电磁环境的作用机理，得出了星表为导体的情况下，星内通信和外部射频信号互不干扰的结论，并通过实际的无线通信基本单元验证了该结论的正确性，为星内/星外无线通信的信道及信息路径设计提供了理论支持。在星内通信系统体系结构的基础上，针对卫星平台即插即用的需求，提出了基于动态时隙分配的无线网络通信协议。通信协议中采用了主从的工作方式，由上位机节点根据网络内节点的工作时序为下位机分配应答时隙，实现系统中各单机部件统一调度和单机部件的即插即用。对无线网络通信协议进行了仿真和试验验证，测试表明，基于动态时隙分配的无线网络通信协议较好的解决了无线通信时碰撞的问题，满足系统实时性的要求。协议允许节点的自由地加入及退出网络，实现了即插即用的要求。通过试验卫星三号的在轨试验，实现星内无线通信技术的验证。针对卫星编队过程中的执行任务期间卫星距离近、通信数据量大，而非任务期间距离远、通信数据量小的特点，再根据通信链路方程，在发射功率及信噪比不变的条件下，可实现通信速率损耗和通信距离损耗之间的交换，提出了星间变速率通信方法。针对变速率通信中射频信号检测、同步的难题，提出了视频信号积累检测方法，利用通用的射频信道解决了变速率的通信问题，简化了系统设计。变速率通信方法通过试验三号卫星进行了在轨验证，实现了400bps到250kbps的变速率通信试验验证。