1947年4月下旬，华东野战军为了大量歼敌，竭尽全力分散敌人的兵力，却难见效果。即使西线的两个纵队在泰安歼灭敌整72师，再出击兖州、宁阳等地，还是未能分散敌兵力，不能造成大量歼敌的良好战机。华野参谋长陈士榘回忆：“我们的思想情绪有些急躁，急于寻找机会歼灭敌人。”
为此，5月初，陈毅、粟裕商定：在西线派两个纵队，继续南进，攻占费县等地，从西面威胁敌翼侧和后方；在东线派七纵出击苏北，从东面威胁敌翼侧和后方，以求“调动”敌人回援。
他们确定这个方案后，正准备下达各部队执行。不料，5月4日，中央军委来电，指示说：
“只要有耐心，总有歼敌机会。你们的后方移至胶东、渤海、胶济线以南广大地区均可诱敌深入，让敌人占领莱芜、沂水、莒县，陷入极端困境，然后歼击，并不为迟。唯(一)要有极大的耐心，(二)要掌握最大兵力，(三)不要过早惊动敌人后方。因此，一、六两纵队是否暂缓南下为宜，因过早南下，敌可能惊退，尔后难以歼灭。但一切由你们决定。”
陈毅等人原想向东、西、南三个方向调动敌人，中央指示是放敌人北进，以调动敌人。陈毅、粟裕等人研究后，认为中央指示的北进敌人是愿意的。因为敌人认为北进就是“胜利”。于是决定把这个表面“胜利”送给敌人，以此换取一个歼敌的机会。
5月6日，中央军委再次来电：“目前形势，敌方要急，我方并不急。”并强调：“第一不要性急，第二不要分兵，只要主力在手，总有歼敌机会。”
陈士榘后来说：“电报指出了我们当时急于求成的急躁情绪，缺少耐心的缺点。”
随后，陈毅、粟裕、谭震林和陈士榘研究决定了以下措施及部署：
一、第一步先放敌人进入蒙阴、新泰、莱芜一线，寻机歼敌；如再无歼敌机会，第二步再把敌人放到淄博一线。
二、二、七两个纵队，暂不南下。
三、已插入费县敌后方的六纵，暂不撤回，依据战场形势的变化，或北上歼敌，或保障主力一起转入敌后。要求他们不暴露目标，不发起积极进攻，不要引起敌人注意。
四、到5月12日，几个主力纵队再后退—步，配置在莒县、沂水、黄山铺等地。
陈毅、粟裕等认为，华野九个纵队后撤一步，配置在这些地区，如有歼灭敌人战机，则适时集中；如无歼敌机会，则继续后撤；如需转入敌后，六纵则为主力行动创造条件。这个部署，能够应付几种可能出现的情况。上报之后，中央军委十分满意。
于是，华野各部队后撤一步，放弃了一些地方，让国民党军占领。谁知蒋介石立即在南京叫嚣“空前大捷”、“战果辉煌”。
蒋介石大吹“大捷”，可急坏了一个人。
他就是国民党第一兵团司令官汤恩伯。
汤恩伯认为华野主力后撤，是无力作战，求胜心切，于5月11日一反常态，改变原来稳扎稳打的部署，不等其他兵团进入预定位置，下令其下属的第74师、第25师从垛庄、桃墟地区向坦埠前进，并限令74师于12日攻占坦埠，令83师向马牧池方向进攻，掩护第74师的右翼，65师担任蒙阴防守。
这样，汤恩伯第一兵团几个一线部队，全面向北推进，位置突出，与华野主力形成单独作战的姿态。
张灵甫率领的74师，在内战爆发后一直是打头阵，本来就对顾祝同稳扎稳打、齐头并进的战法不以为然，这次为了抢得头功，行动最积极，率部跑到汤恩伯兵团的最前头，处于突出地位，且与其友邻部队之间出现较大的间隙。而沂蒙山区的地形，又有利于华野对其分割包围。于是，华野九个纵队突然一起围过来，以一部切断它的后路，然后，打援的打援，围歼的围歼，区区三天时间，就把张灵甫3万多人歼灭得一干二净，取得了著名的孟良崮大捷。
蒋介石闻讯张灵甫全师被歼灭，气得半夜都睡不着。而对华野部队来说，一举歼灭了国民党第一王牌军，上下一派兴高采烈！陈毅高兴地赋诗《孟良崮战役》，云：
“孟良崮上鬼神号，七十四师无地逃。
信号点点星乱眼，照明处处火如潮。
刀丛扑去争山顶，血雨飘来湿战袍。
喜见贼师精锐尽，我军个个是英豪。
我军个个是英豪，反动王牌那得逃。
暴戾蒋朝嗟命蹇，凄凉美帝愿心劳。
华东战场看神变，陕北军机运妙韬。
更喜雨来催麦熟，成功之日乐陶陶。”