5月29日晚，叶飞率3个主力支队向凭堡据守的参与“皖南事变”的刽子手顽七十九师发起反击。第一纵队王必成司令亲率一支队，第三纵队陶勇司令亲率七支队，第四纵队廖政国司令亲率十支队，3个威震大江南北的“老虎团”并肩作战，4位虎将共同指挥，其势锐不可当。经过3个整晚激战，突破顽军筑碉防线，占领与平毁碉堡300余个，6月2日攻占新登城。顽七十九师残部退守新登以西地区。苏浙军区部队继续向城西南发展。顽突击第一队奉命星夜赶到战场。突击第一队属突击总队建制。突击总队又称突击军，全部美械装备，经英国教官训练，编制系五五制，总队下辖5个突击队。每队辖5个战斗营及工兵连等直属分队；每营辖步兵4个连，重机枪、迫击炮各1个连；1个营约1000人，相当于1个小团；1个突击队相当于师，战斗力甚至强于第五十二师，是顽方最精锐的部队。
6月3日，顽七十九师在突击第一队增援、独立第三十三旅配合下实施反扑。双方反复争夺要点，激战一夜，苏浙军区部队再次重创顽军。突击第一队副司令受伤遁逃。苏浙军区部队共歼顽2300余人，自己在连续攻坚苦战中也付出了相当代价，伤亡900余人，特别是第一纵队一支队支队长刘别生在前沿指挥时不幸中弹，英勇牺牲在新登密山脚下。
从缴获的文件和俘虏口供中进一步证实：顽军确已向苏浙军区新四军大举进攻，第三战区副司令长官上官云相担任总指挥，并已到了前方。第二十五集团军总司令李觉代替被撤换的陶广为前敌总指挥。顽军援兵正不断向新登方向开来。
粟裕指挥分散的苏浙军区部队逐步收拢。在此情况下仗应该怎样打呢？粟裕考虑了三个方案：一是增援新登，继续在新登作战；二是撤退一步，在临安与顽军决战；三是大踏步后退，诱敌深入，寻机再战。粟裕审慎地考虑了以下情况：
1．日寇正加紧策动顽军进行内战，目前不但不再向浙赣线进攻，而且放弃金华、兰溪等地，默示顽方放胆调用后备力量进攻新四军。顽、我已形成正面冲突。日军正部署由杭州、湖州等地出动向我苏南、浙西根据地“扫荡”。
2．顽第三战区司令长官顾祝同6月1日电令，以一部凭碉堡固守新登、于潜、千秋关、夏红庙、水东镇之线，主力袭击苏浙军区新四军侧背，企图围歼我于临安地区。新登当面顽军正运动集结，宁国方向顽军不断进扰我孝丰西侧阵地外围，并窥视我后方。
3．我在新登前线仅三个支队，连日激战部队过于疲劳。新登地区狭窄多山，而且是顽筑碉地带，我如继续在此作战，至少会有2000人以上伤亡，其中干部伤亡数将占很大比重。即使能获全胜，顽将紧接着发动第四次规模更大的进攻，我将不得不长期纠缠于艰苦的自卫作战之中。如与顽硬拼消耗，不仅不利于当前，更不利于今后发展。如在临安决战，虽可稍有休整，并有获胜把握，但基本情况并无大的改变，而且临安东邻余杭、杭州，敌情顾虑更大。
4．顽军有广大后方，人力物力充足，后备兵力雄厚，可以得到源源增援接济。苏浙军区部队刚开辟的新区群众尚未发动，工作缺乏基础，一切军需补给完全仰赖苏南供应，运输线长，后勤保障困难，尤其是严重缺粮。新登作战中部队两天未吃上饭；而苏南在3个月中已动员民工50万人次，如此下去人力物力均难支持。
5．苏南新区地方工作尚未深入，广大伪化区与接敌区尚未开辟；浙西地方工作数月来全力解决财经困难，发动群众减租减息和各种建设工作无法顺利进行；杭嘉湖、沪杭沿线、太湖边宣当芜等广大敌后之敌后地区均有待开辟。我若继续被长期的反顽作战所牵制，必然严重影响上述地区的开辟和建设，而只有直正发动了群众，建立了巩固的根据地，才能立于不败之地。
粟裕的最后结论是不可在新登恋战，也不宜死守天目山，应该主动撤离新登、临安，诱使敌人脱离堡垒阵地，然后在运动中继续消灭顽军有生力量。粟裕立即把定下的决心通报给了在前指的叶飞。二人取得完全一致的意见。
命令很快传达到了新登前线：6月4日夜间新四军主动从新登全线分路撤退。奉命刚渡过富春江赶来增援的第十一支队官兵一时转不过弯来，与敌奋战数日并做好发起新的攻击准备的第一、第七、第十支队更是大惑不解。特别是第一支队的官兵们，他们失去了刘别生支队长，情绪激动，难以控制，决战复仇的心情更为强烈。但是高度的纪律观念和对粟裕的无限信赖，各部队都坚决执行了命令。
8日，各支队继续从临安北撤。
此时，野战医院有伤病员1000多人，分散在3个医疗队，因连日大雨，还未撤走。野战医院院长陈海峰连夜赶到孝丰向粟裕请示。粟裕果断决定：“伤病员一个也不能丢！你们马上回去准备撤。天明以前等我的答复。”陈海峰返回医院不久就接到通知，粟裕派部队来帮助运送伤病员。天刚蒙蒙亮，苏浙军区一分区独立团官兵赶到。指战员和医务人员一起上山砍竹子，搓草绳，做担架。凡能走动的伤病员组织起来自己走，其余的用担架抬，仅一天功夫就把分散在各村各户的1000多名伤病员集中起来，安全运送到宣长公路以北一带根据地。
10日，华中局指示粟裕并报中共中央：在目前情况下，可留贺下部分武装坚持游击战争，主力转至敌后地区。
粟裕、叶飞、金明、朱克靖、刘先胜等党政军领导联名上报华中局，建议：暂时放弃天日山，向敌后之敌后发展。11日，华中局复电批准。
天目山一直由第一纵队三支队防守。这里是战略要地，粟裕曾再三指示三支队黄玉庭支队长和王直政委：“天目山是新登的西北翼，是宁国、屯溪的要冲，守住天日山，就可以保证我出击部队后侧的安全，因此要决心死守。”第三次反顽战役发起后，天目山防线受到顽军不停的攻击。新四军守备部队与顽军激烈对抗10多个昼夜，始终把天目山防线控制在自己手中。如今，忽然来了个180度大转弯，命令他们撤出天目山，到孝丰地区集结待命。15日，三支队利用地形和既设工事，节节抗击，掩护机关、辎重转移，逐步撤离了天目山。在孝丰龙王庙，黄玉庭和王直面见粟裕。粟裕听取了他们的汇报，留他俩一起吃中饭。望着他俩对撤离天目山大惑不解的神色，粟裕笑了笑说：“一成不变的东西是没有的，打仗也一样。敌人也是人，有脑筋，会走路，他打着打着变了招，我们就得跟着变招；即使他不变招，我们也常要根据战场的推演来变化打法。这叫敌变我变，敌不变我也变，一个明智的指挥员必须有这种辩证头脑。现在，整个战场起了变化，你们再死守天目山已失去意义，还守在那里做什么？你们看吧，如今是到了不守天日山的时候啦！”
局势在进一步向严重方向发展。与顽军早已达成默契的日伪军，除向茅山地区“扫荡”外，不断派部队骚扰进攻，企图切断苏南与浙西新四军的联系。顽军发动这次大规模进攻是下了很大决心和作了周密部署的，他们早已与日伪沆瀣一气。粟裕越来越清楚地认识到，从天目山后撤是为了寻找战机，但这仗非打不可，不打这一仗，面对敌顽的夹击，要到敌后去发展是不可能的。不打不足以粉碎其进攻，不粉碎其进攻就不能保持战场的主动权。目前除掉击退顽军的进攻之外，没有别的选择。这与4年多前的黄桥决战有异曲同工之妙，只不过黄桥决战，决定顽我在苏北的抗战领导权归属问题，此次天目山反顽发生在抗日战争即将取得最后胜利的前夜，国共双方提前展开较量，胜者无疑将在未来的再较量当中至少占有心理优势。
大战在即，粟裕的日常生活和平时一样，处理完工作便拿起农具到屋前的菜地劳动，同老农讨论怎样才能收成多一些。每天仍和往常一样喜欢看地图，所不同的是看地图的时间更长，神情更专注了。他常常仰起头，伸出手掌，丈量着几乎覆盖了整个墙壁的作战地图，左看右看，静静沉思，良久不语。地图所展示的地方历史上有过多次鏖战，当年红军北上抗日先遣队遭受袭击和方志敏蒙难的怀玉山区就在附近。历史在告诫粟裕：一着不慎，满盘皆输，更何况当面顽军又是蒋介石的精锐，是由美、英装备和训练的现代化部队。
看似平静，实则粟裕脑海里思潮翻滚。部队一撤新登，再撤临安，三撤天目山，由于仓促撤离战场，物资、伤员都由部队自抬自运，人员纷杂，道路拥挤。这种现象使顽军产生错觉，认为新四军苏浙军区部队已是“伤亡惨重，溃不成军”。粟裕决定充分利用这一假象，进一步诱敌深入，瞅准战机，各个击破。他指示部队加强战役伪装，还特意能动示形，诱顽军上当。
当地负有盛名的方司令（一支队长刘别生别名方志强）在新登作战中牺牲了，战时主官阵亡按理要保密，粟裕却让许多人抬着大红棺材招摇过市。
设在天目山的机关、医院、工厂、报社和军需物资向宣长路北转移，按理应当秘密行动，粟裕却让大家公开向群众告别，大白天行进。
部队从前线山头撤下来，子弹带是空的，米袋也是空的，粟裕却要他们从人口集中的新登县城通过，还叫后勤人员在街上到处买粮食。
第十一支队只是一支执行掩护任务的小部队，粟裕却让他们摆出主力大部队的架势，进行运动防御，且战且退，使顽军认为新四军确是在败退。
点击收藏 小提示：按键盘CTRL+D也能收藏哦！