中子星是研究冷致密物质的天然实验室,因为它有着地面实验室难以企及的极高密度。我们一般用零温近似下的压强-密度关系来描述中子星中物质的性质,即中子星状态方程。在状态方程的低密度区域（（?）1.1ρsat,其中ρsat为核饱和密度）手征有效场理论（χEFT）提供的最新计算结果可以将此段的状态方程限制得很好。另一方面在极高密度区域（化学势μ＞2.6GeV,密度ρ（?）40ρsat）,微扰量子色动力学（pQCD）的计算结果可以经由微观稳定性条件和因果律条件（即声速0＜cs2/c2＜1,其中c为真空中的光速）影响到稍低密度区域。但在中间区域上述两种理论都失效了,各种理论计算的状态方程差别很大,所以目前常见的做法是用参数化的唯象模型来描述状态方程,然后在贝叶斯分析的框架下利用天文观测数据反过来限制这些参数。本文的主要工作就是发展一套全新的非参数状态方程表示方法,并利用此方法限制中子星状态方程。所以,我们首先介绍中子星的理论发展历史、中子星的基本结构以及目前对于中子星质量、半径的主要观测手段。在2015年9月14日,人类终于首次直接探测到了来自双黑洞并合的引力波信号,这标志着引力波天文学的开端,在两年之后的2017年8月17日,我们又探测到了来自双中子星并合的引力波信号。与双黑洞并合不同,双中子星的物质分布在潮汐效应的作用下会对引力波波形的相位产生影响,此影响与中子星的状态方程相关,这给了我们研究中子星状态方程的绝佳机会。所以我们在第1章的后半部分介绍了引力波的产生、传播、探测以及参数估计的相关知识。随着观测数据与手段的不断增加,我们可用的数据量越来越大,这使得应用于大数据分析的机器学习/深度学习方法在天文研究中变得越来越重要。由于我们在后面几章的工作中用到了与神经网络相关的技术,所以在第2章中我们介绍了一些有关机器学习与神经网络的基础知识。在第3章的工作中,我们首次提出了基于前馈神经网络的非参数状态方程表示法。作为万能函数拟合器,带有sigmoid激活函数的单层前馈神经网络被证明可以拟合任意的连续实函数,这种特性使得我们可以将其作为一种非参数模型来表示中子星状态方程。非参数模型相对于参数化模型具有不依赖于特定模型选取的特点,使得其具有更大的先验范围,能够表示更极端的状态方程。在通过模拟数据分析的检验之后,我们使用此非参数方法结合观测数据（GW170817与PSR J0030+0451）在贝叶斯框架下对状态方程进行限制。我们发现在状态方程的高密度区域（≥3ρsat）,声速的90%区间下限超过了所谓的共形极限,即cs2/c2 ≤1/3,这意味着共形极限在中子星中并不是一直成立的。除此之外,我们的结果还显示,质量为1.4M⊙的中子星半径为R1.4=11.83+1.25km,潮汐形变度为Λ1.4=323-165+334（除特殊说明,摘要中的误差范围均为90%）。在极高密度下强相互作用物质的状态仍然是悬而未决的问题之一,重子物质-夸克物质的相变是如何发生的以及中子星内部是否存在夸克物质等问题都亟待解决。所以在第4章的工作中,我们在原有非参数方法的基础上予以改进,使得我们的模型先验可涵盖几乎所有类型的状态方程,并以此模型来研究中子星内部的夸克物质存在性问题。我们发现对于一颗非常重的中子星（引力质量超过0.97MTOV,MTOV为非转动中子星的最大质量）,我们有理由相信（≥90%）其中心存在一个可观的夸克物质核心（≥10-3M⊙）。我们的结果还显示了只有在最重的中子星中（M ≈ MTOV）,声速才有可能接近于0,这意味着只有在最重的中子星中心处才可能发生强一阶相变。除此之外,我们得出MTOV=2.18-0.13+0.27M⊙。虽然上述的非参数方法在中子星状态方程的研究工作中表现出不俗的实力,但过多的参数（上述非参数模型参数数量为31个）还是使得该方法需要的计算时间相对较长。在深度学习中,变分自编码器（VAE）作为一种深度生成模型被广泛地应用于数据的降维以及异常检测等任务。在第5章的工作中,我们利用非参数方法生成了 1 000000条状态方程的训练集,然后再使用VAE神经网络学习这些状态方程的特征表示法,利用梯度下降算法对VAE模型进行最优化之后,我们得到了只有4维的状态方程特征表示法。这样一来,我们在保留了非参数方法的优点（与参数化方法相比具有更大的先验参数空间）的同时将其参数数量减小到与参数化方法相当,即从31个→4个。我们发现利用VAE降维后的模型在计算速度上有极大的提升,且可得到与我们之前相一致的结果。GW190425作为LIGO合作组探测到的第二例中子星并合事件,有着与众不同的特征。其总质量比目前银河系内已经发现的双中子星系统的总质量都要大,这让人不禁怀疑它的起源。因为该事件没有发现电磁对应体,而单从引力波数据又难以确定其起源,所以我们在第6章的工作中探究了该事件为中子星-黑洞起源的可能性。我们假定质量大于目前已观测到的最重的中子星PSR J0740+6620的质量测量的1σ误差下限2.04M⊙(考虑转动效应修正～0.01M⊙的天体即可看作黑洞。我们利用贝叶斯分析方法重新分析了 GW190425的引力波数据,在主要星体（双星中质量更大的星体）为黑洞的假设下,我们得到了自洽的结果,即黑洞质量和无量纲自旋分别为MBH=2.40-0.32+0.36M⊙和χBH=0.141-0.064+0.067,中子星质量和无量纲潮汐形变度分别为MNS=1.15-0.13+0.15M⊙和ΛNS=1.4-1.2+3.8× 103。上述结果证明了 GW190425事件的中子星-黑洞并合起源是合理且可行的,如果被证认,那么该事件即为第一例中子星-黑洞并合引力波事件且为第一例质量带隙（mass gap）事件。