随着消费类电子中数字化娱乐产品的普及，特别是带有视频，音频的数字娱乐产品应用进入人们的日常生活，使得对于带宽和计算性能的需求不断增长。传统的基于静态指令集设计的处理器已经无法够满足这些应用的需求。　　 专用指令集处理器(ASIP)是针对特殊应用而设计的一种处理器，是介于集成电路ASIC和通用处理器GPP之间的一种折衷。既有着GPP编程灵活的优点，又有ASIC功耗低，执行效率高等优点，因此越来越受到学术界的关注并在工业界被广泛的使用。但是在应用的过程中，ASIP也表现出设计难度大，难以快速实现工具链和验证的问题。针对这些问题，基于动态指令集ASIP处理器的解决方案(Application Specific Adaptive Processor，ASAP)被提出。　　 ASAP将ASIP技术与可重构技术结合到一起，让处理器能够动态的扩展自定义指令以适应变化的应用需求；同时保证底层硬件的重构对上层软件透明，使自定义指令能够动态的映射而不改变对应用程序的接口，以重用原有工具链，从而减少开发者负担并缩短研发周期。ASAP的架构主要分为三各部分：高效动态剖析器、指令集优化方案和动态重构和映射。本文的工作就是对指令集优化方案中关键技术的研究，主要研究工作和特色如下：　　 (1)首先阐述了ASAP的框架结构，并详细描述了指令集优化的方案中的工具、环境以及方法。　　 (2)深入研究了候选自定义指令的生成，用迭代遍历算法改进了递归遍历搜索生成算法。　　 (3)针对目前贪心启发式算法的不足，提出一种性能较为优异的基于关联启发的自定义指令选取算法。　　 (4)针对目前已有的基于差分进化的指令选择算法存在的问题，提出改进的进化补全算法，该算法改进了差分进化算法的选取结果。