二战前的日本帝国拥有世界顶级的海军舰队。技术先进，设备齐全。可以说，当时的日本海军拥有世界上最好的舰艇。海军的高层管理思想也很先进。他们很早就意识到，速度和火力是打赢海战的法宝。
1905年的对马海战是日本海军的名著。以损失三艘鱼雷艇和一百多人死亡为代价，俄罗斯太平洋舰队几乎全军覆没。从此，日本一战成名，步入世界海军强国行列。
在对马海战中，东乡平八郎的舰艇三笠号被引进；英国人花了三年时间建造。它于1900年推出，1902年开始服役，耗资880万日元。
三笠
三笠是当时最先进的战列舰之一。火力和保护已通过最新改进进行了更新。吨位15140吨，航速18节，装甲采用高性能克虏伯钢，大大加强了防御。再加上主炮全新的装甲设计，三笠兼具攻防兼备，所向披靡。
1904年，在黄海海战中，三笠中了20发炮弹；在对马之战中，它被30发炮弹击中，但伤害有限，可见其强大的防护能力。
日本炮兵利用了三笠的高火力和射程。再加上电台通讯的高配置、成熟的情报系统和大规模的搜索功能，坐在三笠里的东乡平八郎可以说是在谋划和施展才华。
沙俄海军缺乏协调，日本人训练更扎实，彼此合作更有组织。对马海战持续了两天，4380名俄国人阵亡，5917人被俘；日军阵亡 117 人，受伤 500 人。
对马海战后，日本海军本部对自己的发展战略更加确信。那更快、更难、更远。大型战舰成为首要发展目标。
战舰分水岭：HMS Dreadnought
日本海军战列舰追求大排水量和大火力。他们密切关注西方军舰设计的动态，领先于竞争对手思考建造更大更强的军舰。他们的造船水平确实达到了相当高的国际水平，引起了西方海军强国的广泛关注。
日本海军对“大型”军舰的痴迷在某种程度上是其灭亡的一个原因。
日本人建造的最后一艘船是大和号。大和号也是日本建造的最大排水量战舰，是日本海军造船技术的结晶。虽然同时期欧美战舰的技术比较完善二战时日本有几艘航空母舰，但对于日本海军来说，大和号是一个巨大的精神象征。整个日本都对大和号产生了强烈的集体同情
大和
日本海军曾经认为，美国军舰的设计永远无法摆脱巴拿马运河的束缚。日本海军军舰设计者，自豪而大胆地突破巴拿马运河思维，设计建造了世界第一艘舰船。然而，就在日本人欣喜若狂的同时，悲剧的种子也在萌芽生长。
在 1920 年代和 1930 年代，日本海军建造了军舰，其设计标准受 1922 年《华盛顿海军军备条约》和 1930 年《伦敦海军军备条约》的约束。条约时期的造船思想使得太小的船体也承受不住重型火炮设计。这个时期的新船基本都存在这样的问题。
这直接导致了大多数日本军舰在设计之初都过于庞大和小型；缺乏良好的平衡性，主炮火力普遍偏弱；整体设计不适合远程作战。虽然在1934年玉河演习事故后，海军对部分军舰进行了针对性的改装和改进，但由于舰艇自身设计缺陷造成的弊端仍然无法避免。
日本海军非常重视航母的发展。他们很早就与英国合作，将航母计划付诸实施。日本是世界上最早生产航空母舰的国家之一。
世界上第一艘全面运营的标准航母：凤翔
二战初期，日本海军的航空母舰规模在世界上名列前茅。不过，在日本海军高层之中，对于航母的战略意义，一直存在反对意见。有人坚信航母可以最大限度发挥日本海军的优势；有人认为航母只能作为辅助作战工具，将其定义为辅助支援舰、航母巡洋舰等小范围使用。
日本海军拥有自己的专用空军。空军飞行员也经常专属于某艘军舰。飞行员服役期满后，基本上只服役一艘军舰。大部分飞行员的新兵培训是分散进行的，而不是集中统一的培训。随着战争的继续，大量经验丰富的飞行员阵亡或退役，海军下属的战斗机飞行员无法得到有效补充二战时日本有几艘航空母舰，导致空中护航能力急剧下降。
二战结束时，日本帝国海军几乎全军覆没。
