长征出发前，陈士榘任红一军团教导营营长。毛泽东常把陈士榘当作“设营司令”，让他担当“打前站”“查民情”“摸敌情”“探路情”的开路先锋。
中央红军二渡赤水后，为摆脱国民党部队的追击，决定向遵义西南地区转移。陈士榘奉命在赤水河上选择渡河点架桥。由于部队连续在雨天行军打仗，很多战士脚部红肿溃烂，缺医少药，陈士榘想到酒精具有消毒止痛作用，而所在的茅台镇又恰恰产酒，于是他让战士喝点茅台酒，再在脸盆里用酒轮流泡脚疗伤，从而减轻了伤痛，顺利完成了架桥任务。毛泽东曾对陈士榘说：“还是你舒服，喝了茅台酒，洗了茅台脚，架了茅台桥！”
1937年8月25日，中国工农红军主力改编为国民革命军第八路军，陈士榘任第一一五师三四三旅参谋长。平型关战役前，陈士榘被调到师指挥部。他带着地图实地勘察中，注意到平型关从关沟至东河南镇长约13公里沟深道窄，两侧有高地、有缓坡，既便于观察、隐蔽和部署兵力，又利于发扬火力和展开突击，便提出平型关是伏击日军的理想战场。尔后一一五师发起了平型关战役，歼灭日军1000余人，击毁汽车100余辆，打破了日军“不可战胜”的神话。
平型关大捷后，一一五师师部和三四三旅从五台山南下驰援友军。此时，日军第二十师团已突破晋东门户娘子关，准备在11月4日由平定进犯榆次，直下太原。11月3日，三四三旅在广阳至松塔地区设伏，陈士榘带领六八六团负责歼灭伏击圈内日军。战斗打响后，六八六团从两侧高山不断向狭长的谷底投弹射击，日军辎重部队被打得晕头转向。陈士榘果断地命令司号员吹响冲锋号，将敌人切成数段。
陈士榘心里还有个打算：自抗战以来，由于日军受“武士道”精神的毒害很深，在战场上死也不肯投降，以至于一直没有抓获过日军俘虏。这次能否破例？
正在这时，一伙惊慌失措的日军逃到公路北面的一个洼地。陈士榘赶紧叫住警卫排长，指着洼地让他带战士将其抓获！可警卫排长回来，虽然背着一堆“三八大盖”，却没抓着俘虏。
夜幕降临时，陈士榘面对负隅顽抗的残敌，又一次激起了抓俘虏的强烈愿望。当他看到战士正准备向一处院子里投手榴弹炸一个日军时，赶紧制止，用刚刚学会的日语喊道：“缴枪不杀，宽待日本俘虏！”日军胡乱放了两枪后，用生硬的中国话回答：“明白明白的……”陈士榘一脚踹开房门，伸手抓住日军枪管用力一拖，把一个日本兵带了出来。
这次伏击共歼灭日军1000余人，缴获了700多匹骡马和大批军用物资，并抓到的第一个日本俘虏——日军第二十师团第七十九联队辎重兵军曹加藤幸夫。