媒介调制（MBM）技术是一种新的调制技术,相比于传统调制技术,其在数据发射后进行调制并将数据信息映射到不同的信道状态信息（CSI）上,充分利用了无线信道的特性。另外,MBM技术具有成本较低、频谱效率较高的优点,所以MBM技术成为一个研究热点。在传统的MBM信号检测中,接收机需要利用信道估计得到准确的CSI才能正确检测,这对信道估计模块提出了很高的要求,由于人工智能迅速发展,其在通信上的潜力日益显现,所以本文首先研究了MBM系统的智能检测器。其次,由于信息安全越来越重要,无线通信的安全传输受到了极大的关注,所以本文还研究了MBM系统的安全传输技术。本文首先给出了本学位论文所需内容的基本原理。包括MBM系统的基本模型及几种传统的信号检测算法、机器学习中常应用于分类的支持向量机（SVM）、K最近邻（KNN）和深度神经网络（DNN）基本原理以及安全传输的基本原理。然后,本文对MBM系统智能检测器进行了研究。为了将机器学习中的分类算法应用到MBM系统信号检测问题上,本文研究了将信号检测问题转化为分类问题的转化过程并得到信号检测分类模型,接着在该信号检测分类模型的基础上研究了三种智能检测器:SVM检测器、KNN检测器、DNN检测器。其中,为了适用于MBM系统信号检测问题,本学位论文研究了适用于多分类的SVM检测器、降低计算时间复杂度的KNN检测器以及加快训练速度的DNN检测器,并通过仿真验证了上述三种检测器的性能。最后,本学位论文给出了系统的保密容量表达式,通过观察表达式得到几种提高系统安全性能的方法并给出了相应的传统安全传输技术,然后在此基础上提出了一种基于动态映射的安全传输技术。该安全传输技术是基于合法接收者和发射机都知道准确的CSI,MBM系统根据CSI的信道质量信息排序来选择映射方式,本学位论文通过理论推导及仿真结果证明了该安全传输技术的理论可行性,并基于现场可编程逻辑门阵列实现该系统证明了该安全传输技术的实际可行性。