作为椭圆曲线密码体制(ECC)的推广,Neal Koblitz在1989年提出了超椭圆曲线密码体制(HCC)。超椭圆曲线密码体制是基于有限域上的超椭圆曲线Jacobian群上离散对数问题的。相比于ECC和其他公钥密码体制而言,HCC有着不可替代的优势,如:HCC拥有更短的密钥长度和更小的基域,对低亏格(g≤4)HCC的攻击是指数时间的,在同样的定义域上,亏格越大(g≤4)超椭圆曲线就越多,可供选取用于密码的安全曲线的余地就越大等。正是由于这些优势,近几年来,超椭圆曲线密码体制的研究日益得到人们的重视。本文以二进制有限域上的超椭圆曲线为主要研究对象,从标量乘运算和密码协议两方面对HCC进行了深入的研究。首先,对标量乘算法进行研究与优化,提出了一种基于广义双基链的除子标量乘优化算法,从理论角度和实验结果上对算法进行了分析。结果表明,该算法在效率性能方面明显高于其他同类算法。接着,将三种基本的密码协议推广到超椭圆曲线上,给出了超椭圆曲线上三种协议的实现方案,并对其安全性进行评价。然后,在对超椭圆曲线密码体制深入研究的基础上,结合HCC和门限群签名方案的优点,设计基于超椭圆曲线密码体制的门限群签名方案。该方案具有安全性高,通信量小,抗合谋攻击和身份可追查等优点,特别适用于解决资源受限网络的安全性问题。最后,基于上述给出的算法,设计实现了一个超椭圆曲线密码系统,并将其应用于商务文档安全传输的设计中。结果表明,本文的工作使超椭圆曲线密码的执行效率和协议的安全性在一定程度上得到了提高。因此,本课题的研究工作对超椭圆曲线密码走向实用具有重要价值。