新四军创建时下辖四个支队、十个团、一个特务营，共1.03万余人，枪6200余支。新四军第一支队司令员陈毅，副司令员傅秋涛，参谋长胡发坚，政治部主任刘炎，下辖第一、二团；新四军第二支队司令员张鼎丞，副司令员粟裕，参谋长罗忠毅，政治部主任王集成，下辖第三、第四团；新四军第三支队司令员由新四军参谋长张云逸兼任，副司令员谭震林，参谋长赵凌波，政治部主任胡荣，下辖第五、第六团；新四军第四支队司令员高敬亭，参谋长林维先，政治部主任萧望东，下辖第七、第八、第九团、手枪团和直属队。
　　军部机关和直属队的编制及干部配备的情况是：司令部参谋处处长赖传珠，秘书处秘书长李一氓．副官处处长黄序周，军需处处长叶辅平，军医处处长沈其震，兵站处处长张元寿，军法处处长李一氓，政治部秘书长黄诚，组织部部长李子芳，宣传教育部部长袁国平兼，民众运动工作部部长邓子恢兼，敌军工作部部长林植夫，后方留守处主任罗湘涛，政治处主任吉洛。新四军创建之初，干部严重缺乏。军部移驻南昌后，便调集干部，创办了新四军的第一个教育机构“新四军教导大队”，军部迁移皖南后，8月22日扩编为“新四军教导总队”。学员来自参加南方三年游击战争的红军战士，后又从江南沦陷区参军的抗日青年中选取了几批学员。教导总队总队长由新四军副参谋长周子昆兼任，政委是袁国平。
　　为了从事文化艺术和民运工作，1938年1月，新四军在南昌成立了战地服务团，团长朱克靖，副团长先后为吴仲超、白丁（徐平羽）、谢云晖。1939年3月30日，新四军第一支队司令员陈毅以《十年》为题赋诗，讴歌从国民革命军第四军、中国工农红军第四军到新四军的光荣战斗历程。这首诗后经副军长项英、政治部主任袁国平等集体讨论修改，由新四军教导大队文化队队长、音乐家何士德作曲，定名为《新四军军歌》，并于1939年7月1日庆祝中国共产党诞生18周年的晚会上首次正式演唱。1941年皖南事变后，战地服务团撤销，部分团员改建为第一师战地服务团。新四军战地服务团为新四军的文化建设和民运工作做出了贡献，并为部队和地方输送了400余名干部。
　　新四军创建之初，人数不多，装备落后，但他们是经历南方三年游击战争的磨炼和考验而保存下来的精华，是忠于祖国、忠于人民、忠于共产主义事业的优秀儿女，在中国共产党的领导下，在抗日战争的烽火中，新四军成为华中地区坚持敌后抗战的中流砥柱。