我国最早的水军是春秋时期昊园在无锡一带创立的。无锡地处长江下游，南依太湖，境内河道纵横，水网密布，这给训练水军提供了非常有利的自然条件。

春秋中期，吴、楚、越三国都有强大的水军。当时，吴楚之间的水战不断。楚国凭藉地处吴国上游的有利地理条件，多次顺流而下攻打吴国。公元前570年，楚子重用水军攻陷芜湖，这是我国见诸历史记载的最早的水战。之后，吴一国与楚国一再交锋，互有胜负。公元前544年，吴国大败楚国的舟师，“获潘子巨、小帷子及大夫七人”，还缴获大量财物珍宝。公元前494年，吴国与越国在太湖中也发生了一次大规模水战。吴王夫差令大将伍子管带领水军，横跨太湖攻击越国。越王勾践率3万军队抢先占领太湖中最大的岛屿夫椒山(今无锡马山)，两军在湖中激战。吴军在伍子胥指挥下，愈战愈勇，越国水军几乎全军覆没，吴王夫差打败越国之后，“自恃兵大，有荐食山东之志”于是，就爆发了我国历史上最早的海上战斗。

公元前485年，吴国军队分水、陆两路进攻位于山东半岛的齐国。由于海上风急浪大，吴国水军疲惫不堪，结果被齐军击败。吴王夫差闻讯，只得退兵。