正如远古的人类渴望飞上高高的云霄，深不可测的海底世界也是人类热盼了解的神秘王国。今天我们已经懂得人要潜入水下，必须有可靠的生命保障措施，其中最重要的是供氧设备和压力防护。古人很早就进行过这方面的尝试，在13世纪法国的一部名为《亚历山大历史》的著作中，就描述了亚历山大大帝乘坐玻璃圆筒进行的一次水下冒险。但是这种试验都缺乏足够的科学依据，人类要真正拥有潜水设备，还需要漫长的探索。
　　现在我们知道，物体在水中受到的浮力和其排开水的体积有关系，体积越大，浮力越大，反之则越小。那么，如果制造一种设备，它的体积能够根据需要进行改变，那么它受到的浮力就会发生变化，就有可能在水中上浮或下潜。1578年，英国人威廉·伯恩就设想了这样一艘会潜水的船：采用木质构架，外覆防水皮革；下潜时通过机械收缩舷侧以缩小体积。遗憾的是，这样的“潜艇”在当时的技术条件下很难实现，波恩最终没能建造出如此神奇的船。
　　既然改变潜艇的体积比较困难，那么保持其体积不变，改变其重力来实现上浮或下潜是否可行呢？1620年，荷兰物理学家范·德雷布尔在英国建成一艘采用铁框木架外包牛皮的潜艇。艇内装有很多的同外部连通的羊皮囊，只要艇员们小心翼翼地打开羊皮囊让海水流入，潜艇的重力便会增加。当重力超过海水提供的浮力时，潜艇便会开始下潜；如果想要上浮，艇员就需要挤压羊皮囊，使海水排出，艇身就可以上浮到水面。据说当时英国国王詹姆斯一世还到艇上参观过。其实，这艘潜艇最多也只能算是艘概念上可行的潜艇，因为没有生命保障设备和耐压艇体，所以并不具备实用价值。但是它证明了，利用某种设备潜入水下航行的设想，是完全可能实现的。
　　时光流逝150年。1775年美国开始了艰苦卓绝的独立战争，为了对抗强大的英国殖民军海军，大陆军开始考虑制造能够在水下对英国军舰发动偷袭的武器。当时美国人戴维·布什内尔设计建造了一种非常独特的潜水装备，这艘被命名为“海龟”号的潜艇外形看似特大号“酒桶”。它的外壳由木材和金属制成，通过向艇上的水箱注水和排水，“海龟”号可以实现下沉和上浮。艇底还装有一圈重锤，遇到危急的情况时可抛掉重锤迅速上浮。至于“海龟”号在水下或水上前进的动力，则是通过人工手摇曲柄带动螺旋桨产生的推力，每小时最多只能航行5.4千米。“海龟”号上带有钻头和炸药包，大陆军希望能够利用钻头在英军舰船底部钻个洞，装进爆炸物，从而炸毁英舰。1777年，“海龟”号潜入纽约港，拟对港内英国殖民军载有64门大炮的“鹰”号战舰发动奇袭。“海龟”号携带着68千克左右的炸药筒，悄悄潜到“鹰”号战列舰底部，准备在舰底钻孔安装炸药筒。遗憾的是，“鹰”号底部全部包以铜皮，因此“海龟”号的行动未获成功。然而这次行动却是意义重大——这是潜艇袭击水面战舰的首次大胆尝试。
　　以当时的科技手段，潜艇面临的问题还很多，如无法像水面战舰那样利用风力作为动力，也不能为潜艇上的士兵提供可以长时间在水下航行的条件，必须经常浮上水面补充新鲜空气，这极大限制了潜艇的作用。但是到了1785年，改良蒸汽机的出现解决了潜艇航行的动力难题，虽然当时的潜艇还必须用通气管保证锅炉能够得到足够的空气。重要的是，此时的潜艇已经开始装备鱼雷，这对水面舰艇构成了严重威胁。美国南北战争期间的1863年10月5日夜，南军蒸汽动力潜艇“大卫”号在查理士港外用鱼雷击伤北军“克伦威尔”号铁甲舰，创造了潜艇击伤敌方舰船的首次战例。
　　1864年2月17日晚，南军“亨利”号潜艇再度潜入查理士港，悄无声息地逼近北军“休斯敦”号巡洋舰，并将携带的水雷放置在舰底下方。不久，随着一声沉闷的巨响，“休斯敦”号舰底被炸裂，庞大的巡洋舰转眼沉入海底。有趣的是，“亨利”号由于未能及时逃离爆炸点，结果被巨大的冲击波震坏，失去了控制，随后被涌向“休斯敦”号破口的海水吸至该舰底，与它的“战利品”同归于尽。小小的潜艇竟然一举击沉数千吨的巡洋舰，各国海军为之震惊。从此潜艇这个海军家族的新生儿，引起了各国海军的密切重视。
　　执行军事任务的潜艇，在水下航行的时间受到很大限制。这是因为无论是蒸汽机还是后来的内燃机，在工作时都需要消耗大量的空气，虽然人员可以携带压缩空气维持生存，但是动力系统的工作却难以通过这种方式保证空气供应。
　　1886年，两名美国人制造出一艘全部用电力推进的潜艇“鹦鹉螺”号，其水面航速可达到8节。两年后，法国人也造出一艘采用电动机作推进动力的“鳗鱼”号潜艇，证明了电力动力应用于潜艇的可能。但是潜艇自身携带的电力非常有限，无法维持长时间航行，这个问题迫切需要解决。
　　潜艇作战，只有隐蔽接近敌方时必须潜入水下，而平时航行时则没有这种必要。那么潜艇能否采用两种能源作为水面航行和水下作业的动力呢？美籍爱尔兰人约翰·霍兰成功解决了这一问题。1897年，霍兰设计的新潜艇“霍兰”号在美国新泽西州建成下水。这艘潜艇在水面上航行时，以一台45马力汽油机作为动力，航速可达13千米/小时；水下航行时则以蓄电池电动马达为动力，能使潜艇以9千米/小时的航速潜航90多千米。
　　排水量70吨的“霍兰”号堪称现代潜艇的鼻祖。该艇装有1座鱼雷发射管，携3枚鱼雷，首尾各置1门机关炮，是一件真正意义上的海军兵器。“霍兰”号的成功，使霍兰被世人誉为“现代潜艇之父”。此后不久，另一位美国人莱克主持制造出世界上第一艘双层艇壳的潜艇，而且依靠潜艇自身动力成功完成了从诺夫克至纽约的航行，创造了潜艇公海远航的首次记录。
　　按照这种技术模式，潜艇技术在20世纪初迎来了大发展，这一阶段的潜艇技术已经比较成熟，具备了不错的作战能力，其排水量通常达数百吨，水面航速18千米/小时，水下航速13至16千米/小时，主要武器为舰炮、鱼雷和水雷。一时间，海军列强的潜艇订购单，雪片一样从海军部大楼飞向各个造船厂。
　　1914年，第一次世界大战爆发。激烈的大规模战争使得交战双方军队都需要大量的物资给养才能维持战斗力。由于英军在远离本土的欧洲大陆作战，因此海上运输线就显得尤为重要。英国海军和商船队则源源不断地从英伦三岛，向比利时运送大批增援部队和大量作战物资。德国人发现了这一点，立即命令海军出动大批潜艇开赴英国沿海，袭击英国海上运输船队。此后德国潜艇又开始了大规模海上“狩猎”。9月5日，德国U-2号潜艇首战告捷，在福斯湾外击沉英国战列舰“开路者”号，1 250多名英军官兵葬身鱼腹。半月后，德国潜艇U-9号又创造了潜艇作战史上的一大奇迹，仅用75分钟就一举击沉大英帝国皇家海军共计36 000吨的3艘巡洋舰。
　　尝到甜头的德国海军，随后在有关作战海域开始了“无限制潜艇战”。仅1917年头8个月，德国潜艇就击沉总计近300万吨的英国商船，占同期驶往英国商船的四分之一。在整个大战期间共击沉6 000余艘共计1 300多万吨商船。这一来使英国人几乎难以为继；食品等物资储备极度紧张，一度面临战败的深渊。
　　二战中，德国更是把潜艇狼群战术发挥到了淋漓尽致的地步。二战期间，德国海军先后投入约1 160艘潜艇，累计击沉总吨位达1 400万吨的英美商船，对盟军的海上交通运输线构成致命的威胁；连担任过海军大臣的英国首相邱吉尔也宣称“战争中唯独使我真正害怕的是德国潜艇的威胁。”正是为了对付潜艇的威胁，当时的舰艇开始配备水下侦听设备——声呐，这在客观上促进了反潜战术的发展。
　　二战结束后，冷战对潜艇提出了更高的要求。为了实现潜艇的无限制长航程航行，人们把核反应堆搬上了潜艇，建成核动力潜艇。核动力潜艇不仅动力装置不需要空气支持，可以携带完善的生命保障装备，可以连续在水下巡航一个月以上，具备更好的隐蔽性。而且，各国还开发出了更为先进的技术，以降低潜艇的噪音，使得对方舰艇难以侦测，提高了潜艇的生命力。更为重要的是，核潜艇还可以从水下发射各种鱼雷、常规导弹或带有核弹头的弹道导弹，具备了相当的打击威慑能力。