李鸿章在组建淮军时,除了配备当时最先进的近代武器外,他最令人瞩目的成就还在于创办北洋海军,这也成为他推动洋务运动的核心目标。同治十年,李鸿章在天津大沽口添置新式炮台,增强海防能力。当年,他又调派江南与福州船厂的两艘新式舰船前往天津执行巡海任务。同治十三年,丁日昌提出设立北洋、东洋、南洋三支海军的建议,李鸿章当即给予坚决支持。光绪四年,清政府最终决定先设北洋水师,待条件成熟再筹建东洋和南洋水师。
年底,李鸿章从英国购入四艘炮舰,并报请由记名提督丁汝昌驻守北洋水师。在天津设立水师营务处,由道员马建忠负责海军日常管理事务。次年,专门设计出黄地蓝龙红珠的长方形海军旗帜,为北洋海军确立了统一标识。光绪十一年,清政府正式设立海军衙门,由奕祈任总理大臣,李鸿章任会办大臣,实际权力牢牢掌握在他手中。凭借手中的权柄,李鸿章在几年间添置了十余艘新舰,为北洋水师打下坚实基础。 光绪十四年,北洋海军正式组建。舰队中,主力铁甲舰定远号、镇远号排水量均超过七千吨,此外还有巡洋舰、炮舰、练习舰、鱼雷艇及各类杂船近五十艘。初期的北洋海军实力已超过当时的日本海军。然而,随着建军后的开支被大量挪用于筹备甲午年慈禧太后的六十大寿及颐和园修建,舰队在更新和扩充上受到了严重制约。与此同时,日本针对中国海军水平迅速组建新舰队,在火力、速度等方面很快超过北洋舰队。十九世纪七十年代以后,中国刚经历大规模农民起义及英法联军入侵,国力极度虚弱。此时,西方资本主义已迈向帝国主义阶段,对中国的武力侵略日益加剧,边疆危机一日比一日严重。六十年代清廷曾与外国维持的中外和好局面已不复存在。李鸿章等少数有远见的官员洞察时势,提出外须和戎,内须变法的洋务纲要。在黑暗统治下,这种洞察力的人凤毛麟角,屈指可数,显示出李鸿章非凡的政治与战略眼光。