关麟征及其第五十二军参加平汉铁路战斗后又转战河南、山东。1938年初，关麟征率军参加台儿庄会战，这是他抗战时期参与的第二个著名战役。是年3月，日军为了打通津浦铁路，实行南北会合，疯狂地进攻鲁南，欲先夺取台儿庄而后占领徐州。日军矶谷第十师团、阪垣第五师团由津浦铁路、潍台公路两路夹攻台儿庄。国民党第五战区司令长官李宗仁，坐镇徐州指挥20余师国军在台儿庄及其周围地区进行防守战。孙连仲的第二集团军及其所属的池峰城三十一师负责守卫台儿庄城寨，进行正面作战。当时关麟征第五十二军配属汤恩伯第二十军团。二十军团在台儿庄会战中是侧击军团，它的任务是在台儿庄东北面攻击日军，配合台儿庄正面作战。
战斗打响后，3月24日，关麟征第五十二军向盘踞在津浦铁路台枣支线的日军矶谷第十师团的濑谷旅团发起进攻。台儿庄东北地区只有少数小丘，一片平原，攻击部队缺乏地形掩护，所带基本上是轻武器，火力不如对方，但关麟征发现日军白天作战活跃，晚上却龟缩在营房不敢外出。针对这种情况，关麟征命令部队昼伏夜出，利用日军黑夜不敢活动的弱点，挑选胆大心细的战士用汽油在日军营房纵火焚烧，并组织机枪手用密集火力压制日军。日军黑夜受到突然火攻不辨东西，不摸虚实，仓皇应战，胡乱射击，结果自相践踏，死伤无数。日军赤柴联队就是这样被关麟征的部队消灭的。
正当第五十二军进攻日军节节胜利的时候，3月31日下午，由临沂南下的日军板垣第五师团沂州支队山约4000人配备野炮、坦克突然袭击第五十二军指挥部，日军的炮弹已落到指挥部附近。当时第五十二军的兵力已经全部投入战斗，关麟征身边只有一个警卫营的兵力约300人。日军近在咫尺，形势十分严峻。这时前方的第五十二军战斗部队听到后方炮声非常密集，就打来电话询问，关麟征怕第一线部队军心不稳，就谎称是自己部队在发炮射击。之后，关麟征命令警卫营长徐文亮，带着身边仅有的300人。跑步到距日军约1000米的地方，然后散开向日军射击，作佯攻状以迷惑敌人。这佯，就为他迅速抽调部队支援赢得了时间。及至黄昏，第二十军团援军赶到，第五十二军之七十五旅也及时赶回，关麟征迅速指挥这些生力军对日军进行反攻，把日军阪垣第五师团沂州支队包围在爱曲村一带。日军仓皇应战，伤亡众多，该支队的骑兵被关麟征部全部消灭于傅庄，沂州支队残敌逃窜。由于关麟征临危不乱，沉着镇静，大胆采取各种手段排除险情，使第五十二军指挥部安然无恙。
4月1、2日，关麟征率部乘胜向盘踞在兰陵、洪山一带的日军进击，歼灭日军500多人，残敌慌忙退却，有力地支援了台儿庄城寨的正面防守战。
4月5、6日，关麟征第五十二军、王仲廉第八十五军挥戈南指，加紧对包围台儿庄的日军进攻．白天枪炮轰击，晚上纵火夜战，使日军日夜不宁，先后毙敌1000多人，并将台儿庄东面的甘露寺、杨楼、陶墩等据点收复。这一胜利，遂使台儿庄东北面所受的日军威胁全部解除。
4月6日，第五十二军、第八十五军已从台儿庄北面包围了日军。第三集团军曹福林部从微山湖方面形成了对台儿庄西北面的包围，防守台儿庄城寨的池峰城第三十一师不仅收复了曾一度被日军占领的城寨，而且还主动出击。这样，遂使进攻台儿庄的日军完全陷入了国军的反包围之中，再加上日军后方交通中断，粮食弹药无法补充，战斗持续两周，伤亡惨重，军无斗志。眼见反攻的时机已经成熟，李宗仁遂于4月6日晚8时下令全线反攻，第二十—师和第二集团军在台儿庄清扫残敌，第五十二军、第八十五军等在外围围歼敌人，并跟踪追击。日军仓皇逃遁，国军终于在台儿庄会战中获得辉煌的胜利，共歼灭日军达2万多人。
关麟征将军因台儿庄作战有功，升任国军第三十二军团军团长。当时，在黄埔军校毕业生中任军团长的仅胡宗南和关麟征两人。在台儿庄会战中与关麟征较量过的板垣征四郎曾敬佩的说：“关麟征一个军应视普通支那军十个军。”国内舆论界对在台儿庄会战中担任防守任务的孙连仲和负责进攻的关麟征冠以“孙钢头”和“关铁拳”之美誉。这1938年夏天，蒋介石在武汉珞珈山举办的军官团的一次讲演会上说：“中国军队如果都象第五十二军那样作战坚强，打败日本军队是不成问题的。”
徐州会战结束后，关麟征第三十二军团经徐州以北向归德撤退。关军行至豫皖两省交界处砀山与杨集之间，欲通过一座桥时遇到了困难。因为桥西已被日军占领，日军用八挺重机枪封锁桥上通道。第五十二军几次组织兵力冲锋都未能突破日军封锁线。关麟征勃然大怒，遂将从蒙古定远营中得来的良马16匹集中起来，并挑选勇敢机智的士兵驾驭，他一马当先，率领战骑突然向西面桥头飞驰而去，桥头日军的机枪尚未开火，16匹战骑已经冲到，机枪手仓皇失措，弃枪而逃，第五十二军后续部队全部冲过桥去，到达归德。关麟征将军勇猛战斗的佳话之后迅速传遍了国军军界。
武汉会战开始时，关麟征将军率第三十二军团来到江西、湖北参加武汉会战。当时日军冈村宁次第十一军所属第九师团进攻赣北、鄂东南一带。8月，第三十二军团奉命开赴瑞昌、阳新的磨山、亭子山、蛤蟆洞一带布防，阻击日军的进攻。关麟征将军针对实际情况，进行分析：日军武器占优，火力较猛；关军则值徐州会战之后，有作战经验的中下级军官和老兵伤亡较多，新补充的兵员又训练不足，缺乏作战经验；但湘鄂山区山高林密，有利于防守。为此，关麟征命令官兵依山地形势在每个山头修筑工事，众多山头之间组成一个棋盘阵地，若一个山头受日军攻击，其他山头的部队可以立即配合出击歼灭日军。他又命令以营为单位，采取循环轮换的方法守卫山头工事，每营官兵每次守卫山头以24小时为一班。他的这种防守战术，既加强了士兵作战的责任感，又能使部队轮流休整，从而增强了战斗力。所以在日军进攻关麟征将军第三十二军团防守阵地的19天中，寸土未得，遗尸累累，士气低落。日方广播电台曾说：“我皇军在瑞昌附近，遭遇最强劲之敌。”
1939年9月，关麟征将军升任国军第十五集团军副总司令，奉命代第九战区司令长官薛岳行使总司令职权，指挥张耀明第五十二军、陈沛第三十七军、夏楚中第七十九军和一个游击纵队参加第一次长沙会战，迎击进犯湘北的日军。这次会战是关麟征抗战时期参加的第三次著名战役。
9月18日，日军第六师团与奈良支队从岳阳沿粤汉铁路南下，向新墙河北岸发起进攻。关麟征指挥第十五集团军凭借新墙河阵地工事及河流湖泊等自然屏障进行顽强的击，逐次抵抗，消耗敌人。广大国军官兵奋不顾身，前仆后继，英勇抗击日军。在雷公山草鞋岭防守的第五十二军一九五师史思华营，在奈良支队步兵、炮兵、战车、飞机的疯狂进攻之下，死守阵地，打退了日军的一次又一次进攻。当全营伤亡过半之际，一九五师师长覃异之电令史思华：“如无法支持，不得已时可向东靠”。史营长斩钉截铁地回答说：“军人没有不得已的时候”，史思华营坚守阵地五昼夜，最后全营官兵壮烈牺牲。
9月23日凌晨，日军第六师团在稻叶四郎中将亲自指挥下，用八十多门大炮向关麟征手下大将张耀明率领的第五十二军的新墙河阵地猛烈轰击，随后日军步兵在七步塘附近强渡新墙河。当日军行进到河中央时，国军所有轻重武器一齐开火，日军象割草般的倒在水里，联队长山村治雄大佐也毙命，日军退了回去。随后，日军的十多架轰炸机飞临新墙河上空，对国军阵地狂轰滥炸。之后，日军开始了第二次强渡，国军从被炸毁的工事中重新奋起阻击，又将日军击退。日军八次渡河强攻都惨败而回，稻叶四郎中将气极败坏，下令大量施放毒气，毒气顺风向越过新墙河飘到国军阵地上，国军只能用烂布等防御日军的毒气，死伤甚多，被迫撤退。
在部队后撤过程中，关麟征将军又奉令指挥彭位仁七十三军、李觉七十军、欧震第四军。这样，关麟征指挥的部队达到6个军，再加上地方部队共计20多万人。这么多的部队，如果在撤退过程中争先恐后，极易成为乌合之众，若日军乘机追击，就会造成严重的后果。针对这种情况，关麟征将军规定两个办法：一是军部在转进前，军长必须与他通话后转进（时间掌握，师、团长同），部队到达宿营地后，即以无线电与他报备，转进前他派总部人员先至各军师宿营地，以检查是否确实到达（地的掌握），按时报告。所以他对各军、师的行军宿营掌握得确确实实。由于关麟征将军未雨绸缪，组织严密，措施具体，一支庞大的军队，在后撤过程中，部队各级长官走在最后，井然有序。随军记者认为，国军大部队能这样有条不紊地撤退，这是抗战中少见的，他们对关麟征统帅大军的才能深为敬佩。
10月2日，当部队退至长沙以北的金井、路口畲、永安市、捞刀河等地时，前方传来营田、汨罗江等地日军伤亡很大，向北逃窜的消息，关麟征将军根据日军的这一动向，命令部队反攻追击。第三十七军由汨罗渡河向铁路正面攻击日军；第五十二军出乎江附近向日军进攻；第七十九军向湘鄂公路方面的日军侧背攻击；其他各军和各地方部队亦进行全面反攻。反攻时，关麟征将军不但发电令，还派专人送笔记命令，要军长亲自签收，使军、师长不能推诿说：未收到命令而迟滞不前。攻击开始时，关麟征怕作战部队迟滞不前，作战不力，常轻装简行，突临第一线营指挥所，亲眼看到部队攻击进展，确实谁也骗不了他。关麟征的老部下常说：他具有神威就在此，好像所有官兵都在他撼制之下，不能不拚命作战。
第十五集团军各部猛烈反攻后，日军狼奔豕突，全线溃退，向南江桥、新墙河方向逃窜。至l0月7日，日军退至岳阳、临湘、通城一带。是役失陷的土地全部收复，第一次湘北会战，以国军胜利，日军失败而告终。
第一次长沙会战--湘北大捷结束后，关麟征将军因杰出的指挥才能被委任为国军第十五集团军总司令，成为黄埔军校毕业生中担任总司令的第一人，这一年他年仅三十四岁。战后，国民极为振奋，海内外慰问函电如雪片般飞来，美国著名的“时代周刊”杂志更是特地刊载了美联社记者瓦恩特撰写的战地通讯-----“中国战场巡视”，美誉关麟征将军是“中国的巴顿”。
除此之外，史迪威将军亦对关麟征多有赞美之词，但关麟征将军却非常谦虚，当时，有人请关麟征讲述湘北大捷经验，关则说：“这是我全体将士与举国民众共同谱写的一支凯歌，我只不过是一个聊备一格的音符而己。盛名之下，其实难副。国人偏爱，对我盛赞，午夜扪心，因受之有愧而辗转不安。”
战后，冈村宁次对军部报告《关于迅速解决日华事变作战方面的意见》中承认：“敌军抗日势力之中枢既不在于中国四亿民众，亦不在于政府要人之意志，更不在于包括若干地方杂牌军在内之二百万抗日敌军，而只在于以蒋介石为中心、以黄埔军官学校系统的青年军官为主体的中央直系军队的抗日意志。只要该军存在，迅速和平解决有如缘木求鱼。”
1940年，关麟征将军率部队奉命调往广西柳州休整。9月，日军攻占越南后，切断了蒋介石坚持抗战的经济命脉之一的滇越国际交通线，关麟征率军开赴广西西南部的天等、靖西一带驻防。之后，关麟征部开往云南文山，担任滇越铁路以东马关、麻栗坡、西畴、富宁一带的守备任务。关麟征自率部队于1941年春进驻滇南，一直到1945年抗战胜利，日军始终未敢来犯，使滇南安宁无事，百姓安心从事生产，为1944年的滇西大会战提供了后方保障。中国战区参谋长兼中印缅战区美军司令史迪威将军曾经高度评价关麟征说：“关将军是一位真正的军人，他很会打仗。现在有他镇守滇越边境，我断定日军是不敢来犯的。”
1944年，蒋介石将云、桂、黔三省的国军部队统编为四个方面军，以配合盟军的战略大反攻。1945年初，关麟征所辖部队划归第一方面军，关麟征将军任副司令官。
未获重用的国军元帅
1945年8月，日本无条件投降，蒋介石任命关麟征将军为东北九省保安司令长官，但由于种种原因未能成行。10月，关麟征出任云南省警备司令。1946年7月，关麟征任陆军军官学校(原黄埔军校)教育长。1947年10月，关麟征出任陆军军官学校校长，成为黄埔军校毕业学生中任母校校长的第一人。
1948年8月，关麟征被任命为陆军副总司令兼任军校校长。1948年后期，蒋介石要他出任陆军总司令，报纸已登载消息，关亦前往拜会参谋总长顾祝同，商讨交接事宜，但是直属中共总部的间谍刘斐及直属华东中共敌工部的中共间谍郭汝槐，利用国防部来从中作梗，以“溪口电话手令遗失”为由而使之告吹。不久，南京又传出酝酿关麟征出任京沪杭警备总司令，消息传遍南京、上海军政界，后来国防部又以“关麟征不懂上海话”为由而作罢。
1949年11月，在大陆沦陷前夕，关麟征一家人移居香港，从此深居简出，过着“隐士”式的生活。
当蒋介石迁台以后，军政界人事检讨大陆失陷的教训时，关麟征将军的部下曾说：“关将军天赋将帅奇才，大陆戡乱之战，未能有机一展抱负，挽救失败于万一。戡乱未开始，戴笠将军亡于飞机失事，戡乱一开始，军事上又未用关麟征，以致在短短三年时间内，大陆即告全部沦陷，这是国家民族不幸！而关将军亦抱恨终天矣！”
也有人说：“若当年派关麟征去东北，则林彪死无葬身之地矣！”
对国军在东北勘乱的作战方法，不同的人指挥有不同的战略思想，关麟征将军的战略思想确实非常独特。
在东北三年的勘乱时期，时任黄埔军校校长的关麟征将军，曾经以视察干部教育的身份莅临东北，某报的一位记者在访问关将军时问：“最初上级曾令将军到东北，果尔，你将以何种决策，对付林匪？”关将军回答说：“自始即集中优势兵力，城有所不攻，地有所不略，惟一的是：彻底歼灭林匪羽毛未丰的有生力量，林彪窜到那里，我就打到那里。”
后来东北局势恶化，关将军又因公莅临，有人又问：“依目前情势将军复将何以决策乎？”关将军又回答说：“现仍有十数个装备优良的国军，应立即放弃消极的‘守点’现状。如即行调整部署，集结兵力，以平津葫芦岛为后方，以锦州为前进据点，进可以攻，退可以守，裕如也，随后相机反攻，亡羊补牢犹未为晚。
最后的岁月
关麟征在香港以读书、写字及教育子女为乐趣，生活极有规律，洁身自好，每日早睡早起，不吸烟，不喝酒，不打牌。对中国传统文化中的“春秋”、“易经”、“战国策”、“孙子兵法”等都有浓厚的兴趣。
关麟征在香港的时候，中共搞统战曾经对他不断争取，关麟征并没有理会。
1980年7月30日凌晨，关麟征将军因心脏病突发而昏迷，尔后被送进香港伊丽莎白医院。在抢救过程当中，医生和护士发现了老人胸前的累累伤疤，感到非常惊讶。当向家属询问的时候，才知道这位老人就是当年威震华夏的抗战名将，那些伤疤是当年在古北口与日军作战时被手榴弹炸伤留下的，人们听了除了肃然起敬外就是深深的震撼。
8月1日晚7点，一代名将关麟征因医治无效病逝于香港伊丽莎白医院，终年75岁。家属称：“将军在离开这个世界的最后时刻，和平安祥，像睡着了一样。”
关麟征旧宅位于英租界加的夫道，即现在和平区长沙路95号，由和平区房管局办公使用。关麟征旧宅曾由其家眷常住，他也住过几次。旧宅是一处砖木结构的英格兰庭院式建筑，占地面积1608平方米，建筑面积2708平方米，有主楼、配楼、后楼各一幢。主楼朝西南，三层，立面一侧为独特的半圆形。楼内房间宽敞明亮，钢窗、菲律宾木地板、实木门，室内天花板上有方形和圆形灯光灰线，装修讲究。一楼有客厅、饭厅、书房。佛堂位于一楼至二楼转角处，窗朝东北，房间稍暗，有二十多平方米。二楼、三楼主要是卧室和书房，房间较大。配楼为红砖清水墙，房间稍小，装修一般。主楼和后楼之间有平台相连接，后楼的房间进身较小。该处旧宅院落宽敞，院内有草坪、花坛和鱼池。现在，配楼因破旧已拆除，建起新颖的办公楼。著作有《关麟征回忆录》等。
生平简述
1924年6月，考入黄埔军校第一期。
1924年11月，任黄埔军校教导1团2营5连2排排长。
1927年，任国民革命军总司令部补充7团团长。
1928年7月，任11师31旅61团团长，后与师长陈诚闹翻离职。
1930年，任张治中教导2师2旅旅长。
1933年1月1日，升任25师师长。
1935年4月13日，晋升陆军少将。
1936年10月5日，晋升陆军中将。
1937年8月，升任52军军长。
1938年6月，升任32军团军团长。
1939年1月，升任31集团军副总司令。
1939年5月，调任15集团军副总司令。
1939年10月，升任15集团军总司令。
1945年3月，任陆军第1方面军副司令官。
1945年，升任东北保安司令长官。
1945年10月，调任云南警备总司令，同年12月因昆明一二一惨案被撤职。
1946年，任中央军校教育长。
1947年10月，任黄埔军校校长，成为继蒋介石之后第二任校长，是黄埔军校在大陆期间三任校长之一，同时是第一位就任校长的黄埔生。
1948年8月，任陆军副总司令。
1949年8月25日，任陆军总司令。
1949年，离开大陆去香港，并未前往台湾；盖关麟征认为台湾乃是时任台湾省主席陈诚之地盘，故不愿赴台。不过在该年关曾以军校校长的身份前往凤山视察孙立人办理的第四军官训练班。国民政府撤台后，曾多次电邀渠赴台，均被谢绝。
1975年蒋介石病逝台湾后，曾赴台吊唁。
