1938年5月19日，徐州沦陷后，日军开始集结兵力西犯武汉。国民党军撤向大别山，皖东敌后空虚，正是新四军江北部队向东发展的大好时机。6月，第四支队在合肥至安庆、合肥至六安等公路上广泛出击，破坏日军运输，牵制日军兵力西侵武汉，有力地支援和配合正面战场作战。
　　1938年10月，应国民党安徽省政府的请求，第四支队参谋长林维先率第七团、手枪团，分别讨伐驻庐江、无为二城和襄安镇的保安团队武装，歼其2800余人，缴获枪支1600余件，护送安徽省政府委任的两名新县长到任就职。这一系列的战斗，维护了社会秩序，深得民心，也加强了与国民党地方政府方面的统战关系。到1939年4月，新四军第四支队各部战斗在皖中、皖东地区，对日伪军作战90余次，共毙伤伪军600余人，俘400余人，歼灭土匪及反动地方武装3700余人。
　　新四军第四支队进入皖中地区后，积极宣传全民抗日，发展抗日武装。1938年8月上旬，支队决定将中共地方组织领导的游击武装，统一整编为第二游击纵队，辖两个大队，1000余人，归第四支队指挥。
　　为了贯彻中共中央关于第四支队向皖东敌后发展的指示，加强对第四支队的领导，1938年11月17日，张云逸奉命率干部数十人和军特务营两个连，渡江北上，到达皖中。经与国民党第二十一集团军总司令兼安徽省政府主席廖磊谈判达成协议，新四军江北部队到津浦路南段两侧地区活动。12月，将第一大队加上张云逸从皖南带来的军特务营的两个连，扩编为江北游击纵队，司令员兼政委戴季英。在全椒、巢县、含山活跃着东北抗日挺进纵队，下辖3个大队，一度达到2000余人。在此期间，新四军第八团由舒城西汤池等地出发，9月越过淮南铁路，进至肥东、巢北地区，在石塘桥与东北抗日挺进团会合，在柘皋与巢县抗日游击大队会合。1939年2月，第八团在巢县东山口附近的方老子洼，与前来袭击的日军两个大队激战竟日，毙伤日军150余人。1939年2月，张云逸率支队战地服务团和第三游击纵队抵达第八团，向该团领导干部进一步阐述了中共中央和新四军军部关于东进的战略方针。为适应形势发展的需要，迅速开辟皖东地区，张云逸直接指挥第八团和第三游击纵队的作战活动。4月，以第八团为基础，加上警卫营，恢复了挺进团的建制。到1939年4月，新四军第四支队由组建时的3100人，发展到辖4个团和1个游击纵队、1个教导大队近1万人的兵力，展开于皖中和皖东部地区。