卫立煌深深呼出一口气，他深怕老头子脑袋一发热，让部队坚守中条山。那就真麻烦了。现在知道撤退消息的只有卫立煌和范汉杰，卫立煌严令保密。
中条山国军在东西第二道防线又坚持了三天，部队退到第三道防线。有部分外围防守黄河渡口的部队在掩护友军撤退后，日军占领渡口之前，得到卫立煌的允许后渡过了黄河。
如今东线第9军已撤到了封门口阻击日军，第9军有一部通过狂口、官阳渡江撤过了南岸。
东北方向98军、15军撤退到了横河一线，阻击日军。
中路27军，17军还在坚守防线，未退后一步，二线43军不断抽调部队支援27军、17军。
西线唐淮原第3军一部退到了17军西边不远的圪马沟，支持17军中路防线，第五集团军司令部也在其中。80军与第14军一起到了五福涧。第14军撤退到臬落以西15公里左右小庄村附近。
随着中条山防线的收缩，各部之间距离缩短，国军兵力厚度增加，日军的攻击难度也在增加。日军的伤亡人数在急速增加，由于进入山区，补给难度也在增加，日军攻势渐缓。其实到了这一步，只要国军不崩溃，顺利撤退，国军就不算失败。
卫立煌制定详细撤退计划，送交常中凯批准。在得到常中凯的批准后，撤退计划正式实施。首先是第3军接手了43军在皋落以南阵地，80军退往垣曲，在垣曲外围及黄河各渡口预设阵地布防。43军秘密南渡黄河。
98军、15军撤到邵源以西地区布防。掩护即将撤退的第9军。 刘茂恩14集团军总部撤退垣曲与曾万钟第五集团军总部南渡黄河，刘恩茂，曾万钟留在了垣曲。17军，27军趁一雨夜撤退到垣曲接替80军防线，80军南渡黄河。
第二天中路日军发动进攻，发现17军、27军已撤离，日军南下追击在皋落以南遭到第3军阻击。日军一时也拿第3军没有办法。
东线第9军在封门口抵抗了日军多日，伤亡也很大。在得知15军，98军在邵原以西设立防线，掩护他们撤退后，第9军在封门口留下部分部队阻击，主力迅速撤离到垣曲东既设阵地布防，15军，98军抵挡了日军一天后，退到第9军身后的垣曲开始渡河南下。
至此，中条山各主力部队都退到了垣曲周边，第14军在左侧，第9军在右侧，第3军在北面，垣曲有17军、27军。日军发现了国军正在收缩防线。重兵压了过来。