1938年5月，新四军第一支队从岩寺出发，进入京杭国道以东的茅山腹地，以营为单位展开于镇江、丹阳、金坛等县。新四军第二支队也于6月中旬从皖南出发东进，相继展开于京芜铁路以东、京杭国道以西的江宁、当涂、溧水、高淳、芜湖、宣城诸县边境地区。军部指示，进入苏南敌后的新四军第一、第二支队广泛开展抗日游击战争，以分散对敌之集中，以伏击、袭击、近战、夜战等游击战术，灵活机动地打击敌人，迅速打开敌后抗战局面。1938年8月12日，第二团夜袭句容县城，歼日军40余人，伪维持会人员60余人，这是新四军进入江南敌后以来首次集中一个团的兵力作战，也是首次进攻日军占领的县城，给日军一次沉重的打击，极大地鼓舞了敌后人民的抗日热情。新四军第一、第二支队在到达苏南敌后的头两个月里，共取得了大小百余次战斗的胜利，兵力直逼南京城郊机场、麒麟门和雨花台。日军在不断受到新四军的打击后，逐步调整兵力部署，然后采取分进合击、多路围攻的战术扫荡。新四军在苏南敌后共粉碎日军大、小扫荡20多次，主动出击日伪据点10余次，大部获得成功。经过半年的斗争，新四军收复了部分农村，安定了人心，逐步把敌人占领控制的地区变成为新四军控制的地区，先后在镇丹、金句、江句、句北、横山、小丹阳、江溧句和宣城、高淳边境等地区建立起了十多块游击基地，拥有人口近40万，为建立茅山根据地打下了基础。
　　1939年，日军在苏南实行更加频繁、残酷的扫荡，苏南敌后抗日游击战争进入了更加激烈的阶段。1月21日，粟裕率第三团长途奔袭芜湖近郊的官陡门据点。4月10日，日伪军1300余人分三路扫荡宣城县狸头桥地区，第三、第四团各一部奋起反击，挫败了日伪军的扫荡。此外，1月至4月新四军还进行了水阳、横山、陶吴、朱门、小丹阳、横溪等一系列战斗，大部获胜。新四军为了牵制敌人，继续选择时机打击日伪军。11月8日，新六团和第二团在丹阳独立支队及孔庆哲、樊玉琳、巫恒通部等地方武装配合下，进行了贺甲战斗，激战近30个小时，消灭日军168名，俘日军3名，被江南人民广为传颂，称之为“延陵大捷”。