5月19日日军开始了C号计划的第二阶段,多路日军出动,当日占领了太北区武安县内长城重要关口峻极关。在八路军对日军的频繁调动并非没有觉察,18日129师师长刘伯承已经要求各部准备,并命令385旅掩护八路军总部,21日又再次给各旅各分区下达了反扫荡指令。
5月24号日军的大扫荡全面开始。
在日本防卫厅出版的“华北治安史”中,记载如下:
24日晨,各兵团同时开始进攻,在各地于大大小小敌人发生战斗,追击包围圈内的敌人。第29独立飞行队,进行地面攻击和搜索敌人,第一军战斗司令部从太原进驻潞安,军参谋乘作战飞机进行现场指导,26日第三旅团正面的敌人继续进行顽强抵抗,而36师团正面的敌人,已经击溃四散逃跑。
面对敌军合围的态势,八路军总部首长“彭左”也觉察到了面临的危险(自从朱德40年中回延安后,“彭左”代替“朱彭”则成了总部首长的代号)。5月22日,从太原至和顺,从邢台到武安,从襄洹到潞城都出现了敌情,22日晚又收到日军乘汽车向辽县、和顺快速开拔的情报。23日彭德怀发出了总部撤离麻田的指令,24日傍晚总部开始向东北方向转移。此次八路军总部转移并非第一次,40年百团大战后期,日军第4独立混成旅团和36师团各一部于10月20日对根据地发动突然袭击,其中辽县一路日军虽然击破385旅的重重阻击并于22日占领了麻田,但扑了一个空,八路军总部已先行撤走(黄崖洞、关家垴一战就是其后数日发生的)。一个星期后11月初,日军再次杀了一个回马枪企图合击八路军总部所在地砖壁,幸得386旅阻击敌人掩护八路军总直机关紧急转移,部队虽在激战一昼夜后放弃阵地,但日军的突袭计划也未能得逞。
麻田一带为八路军总直机关所在地对日军来讲并非新闻,而且数千机关、后勤、学校、报社等工作人员驻扎的地点想保密也是困难重重。另外以彭德怀为首的总部似乎把麻田附近当成了风水宝地,每次日军扫荡后机关人员又浩浩荡荡的重回旧地。前几次能够安全转移是幸亏129师部队作出重大牺牲阻击敌人所致,可底细已经暴露,从这点上说,八路军总部应该有一劫。
在过去两年多次捕捉八路军首脑机关扑空后,日军第一军总结了教训,指示三十六师团组成了两个精干的作战任务明确的突击队,称为“特别挺进杀人队”。其中一个挺进队以益子重雄为队长,隶属第223联队,主要任务是袭击八路军总部,刺杀彭德怀、左权等;另一 个挺进队则属于224联队,队长大川桃吉,负责袭击129师师部。每个挺进队大约有百余人,化装成八路军士兵和便衣武工队,身带地图和八路军领导人的照片、简历,先于大部队行动,以自行车为交通工具向预定地点突进。就在24号日军开始大规模攻击之日,大川挺进队侦察并偷袭位于太南区的129师师部,幸亏129师师部几个小时前刚刚转移,可是八路军总部就没有这样幸运了。
24日傍晚总部大部队撤离驻地后,由于是在黑夜中走的狭窄的山路,行列中又有许多的妇女、老人和骡马辎重,部队行动缓慢。经过十几个小时颠簸,25日上午八路军数千人的总直机关队伍来到了麻田东北方向的十字岭下。这十字岭海拔1300多米,距麻田约17公里,位于河北涉县南艾铺和山西辽县北艾铺之间。有种说法5月24日的撤退是彭左所实行的突围行动。但至少有两个理由说明这次只是事先计划好的转移:其一是日军大规模进攻是在24日开始,而撤退计划是在此之前的23日晚到24日晨这段时间下达的,作为拥有众多物资、行动不便的后勤机关、学校等部门,给一天时间作为撤离准备是合理的;其二是在24晚的行动中,骡马、物资一应俱全,行动统一组织,所有机关从一个方向转移,这不是一个从包围圈内突围的通常做法。
走了十几个小时的路后,到达十字岭时人们又饿又乏,队伍就此埋锅做饭。午饭时东西两侧的山岭上突然响起了敌人的枪声,显然有日军不仅躲过了根据地军民和情报机关的视线潜入了根据地中心地带,而且已经跟踪上了总部的队伍。对这支敌军队伍的人数,官方的说法是多为上万,甚至到三万的数字,可此数已经是把日军南北两线的全部扫荡兵力都算上了。且不说日军24日发动进攻后,其主力此时仍在和129师等根据地战斗部队缠斗,而且此时根据地对反扫荡已经有所准备,日军大部队能畅通无阻的到达根据地中心竟然不为129师、地方部队以及根据地民众所察觉也是令人难以相信的。
在受到日军的埋伏袭击而敌情不明的情况下,彭德怀、左权立即召开了一个短暂的紧急会议,决定战斗部队在东西左右掩护,各机关学校等分三路突围。现有资料对八路军的掩护部队的编制的说法也比较混乱,从一个连到两个团之间不已。总部有自己的警卫部队,那就是欧致富为团长的总部特务团,虽然其还有保护兵工厂的任务,但是保护八路军总部机关仍是其首要责任;总部还有警卫连、政卫连、后勤警卫大队等部队,另外129师对八路军总部的安全非常关切,18日刘邓就命令385旅掩护总部,有称其769团就和总部一同行动。
在接到命令后,掩护部队在东西两侧构筑阵地,抵御日军的进攻。突围的三路机关组成为:
彭德怀、左权率领司令部、北方局机关及北方局党校,由唐万成带领的警卫连两个排和朝鲜义勇军30余人作掩护,翻越十字岭向西北方向突围;
罗瑞卿率野战政治部直属队和新华日报社,由政卫连掩护,向东南方向突围,到武安的太行军区第六分区;
后勤部由杨立三率队向东北角突围,由后勤警卫大队掩护。
担任掩护的部队执行任务是坚决的,直到傍晚仍坚守阵地,可是从内线向外线突围的机关部队却并没有因此幸免于难。在日军的枪林弹雨下,总部首长率领各机关开始了艰难的转移。彭总骑着一匹连鞍都没有上的马率先向十字岭方向冲去,左权则殿后指挥突围。当司令部翻过十字岭后,已经是太阳偏西了,日军的攻击仍持续不断,日军挺进杀人队也把进攻的主要方向指向突围的机关,在总部突围方向与掩护的直属警卫部队及朝鲜义勇队展开激烈战斗。就在离主峰不远的地方,左权将军不幸被弹片击中。左权死时身边并没有警卫,后面突围的三名北方局党校的学生发现血泊中的左权,不胜惊异,他们把左轮手枪取下,将尸身藏在荆棘树枝下,突围后找上级将这一噩耗相告。