自然语言处理是人工智能领域的关键技术。在自然语言处理领域,基于注意力机制的Transformer模型表现出比传统的神经网络更好的性能,已经成为各类任务中的主流模型。Transformer具有参数量大和运算量高等特点,需要大容量存储和高性能计算,限制了其在资源受限的边缘端设备中的应用。而边缘端部署具有离线、实时性高、数据保密等优势,应用场景广泛,亟需设计边缘端Transformer硬件加速器。但是设计边缘端Transformer硬件加速器存在两个问题:现有的模型压缩算法普遍存在较大的索引匹配开销和计算负载不均衡问题,影响了计算效率;现有加速器设计没有与压缩算法高效协同,造成了数据移动开销大和硬件资源利用率低等问题。针对上述问题,本文提出了一种高效的算法和硬件协同优化的Transformer加速器设计方案。主要工作如下:（1）针对现有模型压缩算法存在的索引匹配开销大和负载不均衡问题,本文提出了一种使用偏移对角矩阵对Transformer进行稀疏剪枝的方法。剪枝后的权重具有规则化特点,可通过偏移对角矩阵的块大小和偏移量进行高效索引匹配,有效降低了索引匹配开销;同时,规则化的参数矩阵也使得各周期的计算负载变得均衡,提升了硬件计算效率。此外,本文还优化了量化推理逻辑,采用移位操作替换浮点乘法,并结合模型特点提出量化误差校准方法,减少了硬件计算成本。在机器翻译任务中,实验结果表明可以在性能损失小于1%的情况下,将模型参数量压缩4倍,实际存储量压缩16倍。（2）针对现有加速器设计与压缩算法存在的协同问题,本文结合上述模型压缩算法进行了加速器设计。提出了一种块状运算阵列和块稀疏的计算模式,并结合优化稀疏矩阵的存储和计算单元内的数据分配机制,消除了稀疏性带来的不必要计算和缓解了不同序列长度带来的资源利用不足等问题,实现了高数据复用和高硬件资源利用率,有效降低了数据移动开销。此外,本文还对模型中的复杂非线性函数进行了高效硬件实现,减少了硬件资源消耗。设计的硬件加速器可以根据模型超参数和延迟需求进行灵活配置。（3）基于上述提出的算法和硬件层面的优化设计,本文在Xilinx FPGA上实现了硬件加速器。与GPU相比,所提出的硬件加速器在多头注意力子层和前馈神经网络子层实现的加速为13.5倍和4.2倍。与现有工作相比,具有更高的硬件资源效率。相比于CPU和GPU,能效比分别提高了12.45倍和4.17倍。