1941年1月皖南事变后，淮海区地方反动武装勾结日伪军、反动道会门摧残百姓，反动气焰十分嚣张，尤其是盘踞在洪泽湖中的几支反动武装更加猖狂，严重阻碍淮北、淮南、苏北、苏中革命根据地的联系。
洪泽湖是淮河流域最大的淡水湖，湖面1960平方公里，水产资源极其丰富，是“日出斗金”的宝湖。在1940年之前，洪泽湖区的渔霸、湖匪横行，湖内一万多渔民深受其害，苦不堪言。渔民是“鱼死白白眼，苦钱不到晚，孩子打光腚，铺盖芦花毯”。
抗战时期，共产党在洪泽湖周围地区建立了根据地，并成立了淮北行署洪泽湖管理局，敌人“扫荡”时，伤病员、妇女、儿童、机关都到湖里隐蔽。湖匪、渔霸视新四军是他们欺诈渔民掠夺财富的障碍，认为新四军是“旱鸭子”，不会水战，便以湖为依托，乞怜日寇，投靠伪军，残害渔民，专门与新四军作对。
在洪泽湖南盱眙县城驻扎着日寇一个大队部，湖中老子山还有日军一个小队的据点。匪首高铸九，率众100多人，有钢板划子10余艘，民船数百只，投靠日寇，自称“九路军”（杀人魔王孙乃香自称“十路军”）；临淮头的张文博，人称“张三狼”，自称苏皖游击指挥，有 100多人的武装；杀人如麻的魏友三手下有100余人，轻机枪两挺，驳壳枪30余支，钢板划子10余艘，是顽军韩德勤的独立旅旅长。这帮湖匪不仅阻断我根据地之间的水上交通，还利用湖里复杂地形，不断向沿湖抗日根据地袭扰，杀害地方干部，掠夺粮食、财物，袭击后方机关。这帮湖匪不除，新四军便无法放开手脚与日伪军作战，对于淮北、淮南、苏北、苏中根据地之间的联系极为不利。
1941年3月底，经新四军军部批准，新四军三师九旅旅长张爱萍率二十五团及警卫营开进到洪泽湖西部沿岸，开始“海战”准备工作。
张爱萍面对洪泽湖放眼远眺，只见水天一色，春风拂面。他思索着，洪泽湖下接运河、白马湖、高宝湖，湖面宽阔、港汊纵横，入夏后芦苇丛生，无边的青纱帐将会变得如迷宫一般。要解决湖匪，必须及早动手。
经过广泛侦察调查，张爱萍掌握了湖匪的装备实力和活动规律。他们装备精良，习水性，惯水战，其钢板划子不怕正面射击。敌人的战术是利用各种性能之船，或隐蔽在湖边浅水中对我突然袭击，或在湖口河汊中用钢板划子警戒阻我下湖，或利用广阔湖面与我周旋，并利用对地形与社会关系的熟悉，时而到岸上抢劫，时而下湖集结。而新四军多年来一直习于陆战，战士们听说要下湖作战，心里顾虑重重。4月初，张爱萍在洪泽湖畔召开研究清剿湖匪作战会议，他指出：“什么‘九路军’、‘十路军’，据我调查，都是些乌合之众。他们彼此明争暗斗，经常相互火并。我军确实没有大规模水上作战的经验，但是没有经验可以学。我军从无到有，从小到大，从来都是在前人没有走过的路上走过来的。我们两万五千里长征都过来了，还怕这区区一伙湖匪！”
张爱萍在会上分析了湖上作战的利弊短长。他说：“我军虽不习水战，且无水上作战的船只和水手，但我军兵力处于优势，湖之四周皆为我方控制，敌伪匪只控制了一个湖边；从政治上说，广大渔民人心向我，要求肃清渔霸、湖匪的呼声十分强烈；而湖匪彼此间矛盾重重，与渔民的矛盾更甚。这正是我军取胜的政治和心理条件！洪泽湖这一仗必须打，也有把握打胜！关键问题是我军要尽快学会水上作战本领，尽快把陆军变成‘水军’。这次战斗，战前准备时间要长，要充分，但作战要速战速决。”张爱萍高屋建瓴地分析，博得了政委韦国清和其他旅团干部的一致赞同。
经过认真研究，张爱萍形成了战役决心和部署：军事上，第一期肃清环湖周围的渔霸、湖匪，于老子山、马陵港、成子湖、高嘴、临淮头等地完成军事封锁。第二期，进行“海战”，彻底肃清湖匪。战役决心形成后，张爱萍报请华中局及新四军军部。不久，陈毅、刘少奇批准并下达了歼灭洪泽湖湖匪的命令，要求“张韦部应乘芦苇尚未生长之机，肃清湖中顽匪”。随之，张爱萍下达命令，要求各部战士都要学会游泳。他自己脱衣下水给大家作示范，并请渔民介绍水上生活常识。
在水上进行战斗，要有船，而且要防止船被敌人击沉。战士们先用土坯像泥墙一样把船里侧堵起来，在离岸百米处向湖里船只一齐开枪，结果发现子弹打进去出不来，打穿的木板也被水浸湿的土坯堵住了，水进不去。沙风同志搞了一只大船试验，子弹也打不沉。
到4月底，湖上作战一切准备完毕。新四军二师五旅一团在洪泽湖东边把住高良涧一线的几个口子，防止敌人登岸逃跑；四师十旅二十九团在成子湖东北一线警戒，防敌逃窜；地方武装在管镇方向警戒，防敌流窜。二十五团由沙风、李浩然带领一个营从成子湖北向南压迫围歼，团主力在顾寒星带领下，从临淮向东进攻。
5月2日，新四军发起总攻，主力部队从临淮河里出发，拂晓前，以迫击炮、高射机枪在前，出湖后，用四根长桅杆把船固定起来，向敌人钢筏开炮射击，很快敌钢筏子船被新四军火力打散，俘敌一部，缴获钢筏子船十几只。沙风、李浩然带领的部队，从湖西北压过来，敌人仓皇逃向高嘴以南湖面，遭新四军南北夹击，遂向高良涧方向逃跑，新四军跟踪追击。此时，天色已晚，湖面突起大风，船儿过不去，新四军便集结于高嘴附近湖面上，准备天亮时再打。当晚，高铸九部向成子湖东北方向上岸逃跑，被第十旅二十九团伏击全歼。陈伯华部第二天向高良涧、老子山、盱眙方向分散逃跑，由于日军在老子山用火力掩护接应，除小股敌人逃向盱眙城外，大部分湖匪向新四军缴械投降。从此，洪泽湖——华中抗日根据地的“内海”回到人民手中，成为新四军联络各根据地的交通枢纽，成为新四军可靠的后方，成为取得财源收入的一块宝地。
5月5日，新四军在高良涧召开了隆重的祝捷大会，几百条船集结在一起，形成一个半圆形会场，气氛非常热烈。渔民自发组织起来慰劳部队。张爱萍在欢庆胜利喜悦时，即兴赋诗一首：
洪泽水怪乱水天，奋举龙泉捣龙潭。
红旗漫展万众勇，白帆云扬千樯舷。
寒江倒海斩妖孽，长风劈浪扫敌顽。
旸乌红天炀红泊，渔歌满湖鱼满船。
战斗结束后，张爱萍将缴获的钢板船组编了洪泽湖大队。随着时间的推移，就连张爱萍自己也不曾想到，他组织指挥的洪泽湖水军，竟与人民解放军创建的海军结下了不解之缘。