隋唐以后，历代都很重视水军建设，战舰的战术技术性能不断得到提高。11世纪初，我国战舰上开始采用火球、火箭。南宋时，已有了火枪、火炮。在水战中，战斗力进一步增强。

我国最早的近代化海军是北洋水师。1874年(同治十三年)，清政府筹划海防，北洋大臣李鸿章主张建立水师。陡后开办北洋水师学堂，订购铁甲战舰，修筑旅顺和威海卫军港。1885年(光绪十一年)，清政府设立海军衙门。1888年编成北洋舰队。共22艘军舰，其中铁甲舰9艘。1894年9月黄海海战中，中日舰队互有伤亡。因李鸿章下令避免作战，1895年初北洋舰队在威海卫被围，后来全军覆没。

1949年4月23日，奉当时中央军委电令，中国人民解放军华东军区海军在江苏泰州白马庙成立，张爱萍任司令员兼政治委员。1950年4月14日中国人民解放军海军领导机关在北京成立。现在我国的海军由潜艇、水面舰艇、航空兵、岸舫兵、陆战队等兵种和各专业部队组成，具有在水下，水面、空中作战的能力，能单独在海上作战，又能协同陆军、空军作战，是捍卫祖国领海的强大屏障。