李宗仁竞选副总统获胜，白崇禧可谓立下了汗马功劳，桂系在国民政府中的地位大大提高，也给了老蒋一大闷棍，自然也得罪了蒋介石。加上李宗仁当选副总统后，要离开北平到南京就职，老蒋当然不愿意李、白两巨头都留在南京合谋围攻自己。因此，1948年6月1日蒋下令免去白崇禧国防部长职务，将白调任华中“剿总”总司令，国防部长一职由何应钦充任。
　　蒋介石的这一安排，当时引起不少议论，白崇禧更是十分气愤。当即表示：“不干，要回广西去！”蒋介石获悉，要李宗仁出来圆场，李即直言问蒋：“你能给健生多大权力？”蒋介石无法回避地说：“只要健生出任华中剿总总司令，我一定给他相当的权力。”蒋介石嘴上这么说，而安排上却相反。他先打算把华中“剿总”设在武汉，当时武汉行辕主任是程潜，蒋介石有意报复打击程潜，将白与程同置一处，以互相掣肘；继以刘峙为华东“剿总”司令，设司令部于徐州，以分白之权。对蒋介石的这两条，白崇禧洞若观火，立即予以还击。他首先坚辞华中“剿总”总司令一职，并以“推诚荐贤”避免误会；对蒋另设华东“剿总”，白以“守江必守淮”对之，认为战区如此分割，予敌以各个击破之机，主张长江以北豫、鄂、皖、苏北、鲁南5省地区只设一个“剿总”，方能将江、淮、河汉连成一气，如身之使臂，指挥如意。但蒋介石不愿让白崇禧握此大权，坚持原议，白一怒之下，避走上海。蒋介石无可奈何之下，又请黄绍竑去当说客。黄绍竑见了白崇禧说：“你到武汉以后，掌握一些部队，一到时机成熟，就可以制造形势，蒋到了无法应付的时候必定下野，德公可以出来收拾局面，我们岂不是大有可为？”白崇禧茅塞大开，他权衡利弊后，束装就职。
　　1948年9月继辽沈战役后，淮海、平津战役又相继打响。蒋介石为挽救失败的命运，孤注一掷，在淮海战役动用了王牌机械化部队，但仍然败绩频传，无济于事。而蒋介石的精锐一旦覆灭，握有40万大军的华中“剿总”总司令白崇禧就俨然成了“华中擎天一柱”，白正可恃其资本，伺机向蒋摊牌。所以在淮海战局相当吃紧，前方急需军粮、军火、兵源补充之时，蒋介石亲自打电话要白崇禧派兵东援，而白崇禧根本不吃蒋的这一套，他以汉口局势紧急，必须集结兵力保卫华中为由，不仅拒绝派遣一兵一卒，还把原已调往两淮前线的张淦和宋希濂部分别调回，并擅自截留了由川东运往前线的军粮、军火。白崇禧这样做的目的，正是希望蒋介石仅存的嫡系部队被消灭精光，然后他可以逼蒋介石去职，由李宗仁取而代之。白崇禧曾毫不掩饰地对其左右说：“老蒋的老本丢得差不多了，老蒋下台后，德公上台，和共产党谈和，以长江为界，长江以北让共产党去搞，长江以南由我们来搞。”
　　为了逼蒋早日引退，白崇禧向蒋介石发电，提出和平三项主张：“一、相机将真正谋和诚意转知美、英、苏，请其出面调处，共同斡旋和平；二、由民意机关向双方呼吁和平，恢复和平谈判，双方军队在原地停止军事行动，听候和平谈判解决；三、乘京、沪、平、津在吾人掌握之中，迅作对内对外和谈部署，争取时间。”同时，湘、鄂、赣、豫、桂5省和平运动即行开展。湖北参议院发电呼吁和平，措辞严厉激烈，其中说道：“如战火继续蔓延，不立谋改弦更张之道，则国将不国，民亦不民。”湘、豫两省通电则直接要蒋：“迅即下野，以利国共和谈的进行。”通电发出后，南京一时无反应，白崇禧于12月30日再次向蒋发电，重申前请，并指出“无论和战，必须速谋决定，时不我与，恳请趁早英断。”白崇禧数天之内连发两道电报，令老蒋十分恼火，声称“吾平生不会向任何压力低头！”但是第三天，也就是1949年元旦，蒋介石迫于内外压力，仍然发表了元旦“求和”文告，同时给白崇禧拍去一电，告白：“前途演变尚极微妙，望兄激励华中军民，持以宁静，借齐一步骤，巩固基础，然后可战可和。”白崇禧认为这是蒋介石蓄意拖延的遁词。蒋介石闻之乃派张群赴武汉向白崇禧提出两项意见：“一余如果引退，对于和平究竟有无确实把握？二余欲引退，必由自我主动。”对蒋介石这一强硬态度，白崇禧毫不示弱，当即用专机将与张群同机抵汉的黄绍竑送港，找民革主席李济深，作出与蒋分庭抗礼、另树旗帜的姿态。蒋介石知道继续坚持下去将对大局不利，不如以退为进，于是开始作“引退”的布置与准备。
　　于是，白崇禧迫不及待地于1月20日在私邸召集陆续到汉的桂系要员会议，向他们宣示了已拟好的“呼吁和平”的电稿，表示准备与老蒋公开决裂。正当白崇禧作出布置之时，李宗仁从南京打来了“蒋明天下野”的电话。白崇禧于是重作安排，并派程思远、邱昌渭赴南京，白崇禧估计老蒋还会在退位上耍花招。果然，次日蒋发布的“下野文告”中故意删除了“引退”两字。白崇禧大怒，立即打电话给李宗仁：“要做就做真皇帝，切不要做假皇帝。”此时白崇禧认为，桂系与蒋介石较量多年，今天终于如愿以偿，只要李宗仁当上“真皇帝”，他就成为名副其实的“大诸葛”，既名正又言顺。
　　然而，蒋介石下野文告已发，既无“引退”，且仍握实权，交给李宗仁的不过是一个“代总统”的虚名和一个烂摊子。但是，白对于自己能扭转局面尚具信心。他们企图以“和谈”争取时间，稳定人心，取得美援，再以半壁江山与中共分庭抗礼，以求划江而治，实现所抱的“南北朝”美梦。为此，李宗仁上台后即以“早启和谈”为第一要务，大造“和谈”舆论，白则留在华中，整军经武，积极备战。在白崇禧看来，无论是与蒋争权还是与共产党抗衡，都离不开实力，所以当李宗仁在前台为“谋和”忙得不亦乐乎之时，曾数日两电主和的白崇禧却在台后加紧备战：他一面扩充兵源，加筑工事，策划部署长江以南的防务；一面致力于巩固后方，加紧联络各派军事力量，山西的阎锡山、绥远的董其武、察哈尔的孙兰峰、西北的马家军、广东的张发奎等。对武汉周围之湘、川、赣等省，白崇禧抓得更紧，把陈明仁派往湘省以牵制程潜。在此期间，白对部下训话宣称：“政府此刻正积极谋取和平，惟仍必须有相等的力量，始能求得合理的、公平的、全面的和平，是以备战谋和成为政府的决策。”在帮助李宗仁为解决“府院之争”而赴穗对孙科施加压力时，白为李坐镇南京。孙科倒台后，白又与李磋商，邀在蒋系中素有交情的何应钦主持行政院，以收“潜移东南，默化中枢”之效。
　　何应钦主阁后，李宗仁曾向行政院提出以白崇禧替换顾祝同任参谋总长的建议，何应钦向溪口蒋介石请示，回复为：“参谋总长顾祝同不能换，白崇禧千万不可用！”白崇禧听后十分气愤，埋怨何应钦：“为人懦弱，没有魄力。”何应钦答道：“你们不怕同蒋闹翻，我却不能这样！”尽管如此，白仍过高的估计了桂系上台可取得成功，所以李宗仁派出代表北上与中共和谈时，白崇禧仍盘算怎样实现“划江而治”的美梦。
　　为了迅速结束战争，实现国内和平，减轻人民苦难，中共提出和平谈判的八项条件。1949年4月初，以周恩来为首席代表的中共代表团与以张治中为首席代表的国民党代表团，在“八项条件”的基础上，举行北平和平谈判，双方达成《国内和平协定》（最后修正案）。但是在蒋介石的操纵下，国民党政府于4月20日拒绝在和平协定上签字。国民党假和谈被彻底揭穿。
　　在粉碎敌人“和平攻势”的同时，中共中央和毛泽东对以李宗仁、白崇禧为首的桂系做了积极的争取工作。1949年4月1日，李宗仁派出的国民政府代表团到达北平，6名代表中黄绍竑原是桂系头面人物，刘斐是李、白多年的袍泽，彼此交往很深。毛泽东专门接见了黄绍竑和刘斐，勉励他们为实现国内真正的和平而努力。4月3日，毛泽东又单独会见桂系秘密派往北平与中共联系的刘仲容，请刘回南京转告李、白：“桂系部队只要不出击，我们也不动他，等将来具体商谈，现在双方已经开始谈判，美国和蒋介石是不甘心的，他们一定会插手破坏，希望李、白拿定主意，不要上当。”又说，“白崇禧喜欢带兵，他的桂系部队过10万人，将来和谈成功，我们可以请他继续带兵，指挥30万大军；我们大军过江后，如果感到孤立，可以退到长沙，如又不行，可以退到广西嘛！我们来一个‘君子协定’，只要他不出击，我们3年不进广西，好不好？”继而还要刘仲容转告李宗仁：“如果和谈破裂，希望李宗仁在解放军渡江时，不要离开南京，如果认为南京不安全，他可以飞到北平来，共产党会以贵宾款待他，那时和谈仍可以继续进行。”刘仲容感动地说：“毛主席这样安排，对他们是仁至义尽了。”4月16日，黄绍竑和屈武携《和平协定》最后修正案返南京请示。毛泽东又指示释放了1947年山东莱芜战役中俘虏的桂系师长、白崇禧的外甥海竞强，让他随机同返南京。
　　白崇禧自恃手握重兵，并拥有海、空优势及长江天堑，拒绝接受《和平协定》，从而错过了弃暗投明的一次良机。1949年4月18日，李宗仁召集桂系核心人物，就和与战作最后定夺。黄绍竑认为：“识时务者为俊杰，吾人迫于形势，决不能同蒋介石同呼吸、共命运，我们已无路可走了，惟有和局才是自保。”黄的话音刚落，白崇禧立即怒气冲冲地向黄发问：“亏难你，像这样的条件你也带得回来？”并指责道，“代表团北上时，政府是有腹案的，代表团没有坚持我们的立场，实有负托付之重。至于所谓两广在近期内不至于有大变动，那也不过时间迟早问题……”黄欲对此作出解释，白却不听，甩袖而去。白崇禧手握重兵，他的态度直接甚至决定着李宗仁的态度，和谈最终破裂。
　　4月21日，中共中央军委主席毛泽东、中国人民解放军总司令朱德发出了向全国进军的命令，命令中国人民解放军奋勇前进，坚决、彻底、干净、全面地歼灭中国境内一切敢于抵抗的国民党反动派，解放全国人民，保卫中国领土主权的独立和完整。人民解放军百万雄师迅速出击，万船齐发，兵分三路，强渡长江。南京国民党吹嘘的“固若金汤”的长江防线顷刻土崩瓦解。4月22日，蒋介石急忙飞抵杭州约李宗仁、白崇禧等人研究应对措施。会后，蒋介石拨给白崇禧银洋400万元，并派飞机送到汉口。这样，白崇禧率领桂系部队和蒋介石残余部队捆绑在一起，妄图顽抗到底，甘当蒋家王朝的殉葬品。
　　4月23日南京宣告解放。
　　李宗仁当天飞抵桂林，对重开和议有所考虑。他派程思远飞武汉，接白崇禧至桂林共商大计。然而，白崇禧这时对和谈不屑一顾，闻李去了桂林，急遣李品仙赶赴桂林，任绥靖主任，防止后院起火。李品仙却奉蒋介石指示，不惜一切代价要拉住白，以牵制李。白到桂后，就扬言“宁可玉碎，不为瓦全”，并叫嚣“以后谁再言和，给我抓起来！”李见白如此，在和谈上试图迈出的一步又缩了回去。这时白崇禧正做着“西南梦”，他认为国民党长江防线虽破，华南、西南尚还完整，只要蒋系部队能在淅赣、南浔坚持3个月，他的华中部队也能坚守西南半壁。李宗仁经过一番考虑，抱着在两广与粤系军人合作，以冀成一西南局面的梦想去了广州。
　　李宗仁到广州后本想通过“换阁”让亲桂的居正掌握行政院，使白崇禧当国防部长，结果居正以一票之差，败于阎锡山之下。阎对李宗仁让白崇禧当国防部长的旨意根本不予理睬。白崇禧没当上国防部长，对李宗仁大为不满，认为李“抓不起，放不下”是“糊不起的烂泥巴”。这就为其后蒋介石离间李、白关系埋下了伏笔。
　　人民解放军过江后，上海很快解放，蒋系军队主力撤往舟山群岛，东南防线弃守，赣北、九江、南昌先后为解放军攻克。白崇禧为保存实力，主动南撤，布防于岳州、平江、株洲、萍乡一线，准备与中共军队决战。然而湖南程潜、陈明仁和平起义，使白精心部署的湘桂防务受到致命的一击。此时，蒋介石在广州见局势难以挽回，把余部撤往四川、福建、海南和台湾。1949年10月12日，解放军迫进广州，李宗仁离穗飞往重庆。
　　李宗仁由广州去重庆，出于无奈，其中很大因素是由于白崇禧的坚持。撤穗前，李思忖：白手中尚有能战之兵30多万人，如能全部撤入广西，联络川、滇两省，也能成一局面，仍不失为一危局之下自处自保的办法。李的这一想法遭到白崇禧的反对，白崇禧说：“假如做此打算，台湾的黄金、白银连最小的数目也拿不到手，我手上的30万军队不可一日无粮无饷。”白崇禧曾对手下亲信人士说：“蒋对我很好，很客气，他说北伐胜利是我和他合作的结果，现在虽然困难，但我们还有西南数省，胡宗南、宋希濂两部主力仍然完整，如果我们再度合作，国家仍大有可为！”白崇禧还说，蒋介石表示，政府迁渝，他将以白为行政院兼国防部长，把胡、宋的军队交白指挥。蒋这一说真说到白崇禧的心坎上了。
　　蒋介石给白放出诱饵后，紧接着在重庆的部属上演了“劝进”的把戏，李宗仁看透了蒋介石的用心，拒绝与蒋介石合作，李在蒋去渝之前去了昆明。白崇禧在李宗仁离去之后，拟了一个“蒋李妥协”方案，其交换条件为“蒋宣布复职，由白任行政院长兼国防部长”，结果遭到蒋介石的否决。白崇禧与蒋介石妥协不成，飞去桂林与李宗仁做最后决断。李选择了西南残局由白崇禧处置，自己宁可身老异国他乡，也不与老蒋妥协；白崇禧却自恃手中尚有部分军事实力，不惜孤注一掷。
　　李宗仁飞往香港后，白崇禧赴渝面见蒋介石，蒋对白抚慰有加，连说：“德邻走了不要紧，只要你我合作，一切都不成问题。”白崇禧也深知此种热情是因为他手中还握有桂系一点血本。白崇禧的华中部队自湘南撤退后，便集结于广西东北，号称30万大军，这支部队一直由他亲自掌握、训练，指挥起来得心应手，自信可借重这一资本和依托广西老巢，与解放军决一雌雄。除做好迎战解放军精心准备外，在广西全境又推行“总体战”的部署，在全省、市、县、乡、镇实行“一甲一兵一枪”。同时也为自己准备了退路，万一广西不保，将分两路撤退。一为由陆路退往越南，伺机再回广西；二为渡海撤入海南岛，与退入那里的粤籍军人联合，作为粤桂军人的“台湾”。
　　然而，这一切只不过是白崇禧的一厢情愿，为了在广西战役全歼白崇禧集团，中共中央毛主席制定了远距离包围迂回的歼击作战方案，在广西地下党、各地游击队武装和广大群众支持与配合下，我人民解放军兵分西、南、中三路对白崇禧实施大围歼，白崇禧的“王牌军”鲁道源、张淦、徐启明兵团，均在逃跑中被包围、歼灭。仅黄杰兵团和少数零散部队遁入越南。在此期间，白崇禧仓皇飞窜海南岛，调集所有能动用的船只，企图把可能突围到钦防的部队接应到海南岛。在龙门港等了4天4夜，也未接到一兵一卒。
　　白崇禧集团被歼灭后，白崇禧没了本钱，但蒋介石对这位输得精光的“小诸葛”没有忘记。1949年12月30日，在老蒋“恳切邀请”下，白崇禧去了台湾，给他安了个“战略顾问委员会副主任委员”的虚衔。从此，白崇禧郁郁不展，一方面以打猎、下棋、打太极拳消磨时光，似乎与世无争，宁静淡泊名利；一方面又大、小活动都去参加，不当一回事的小组会也从不缺席，在炎热的天气里，也把礼服穿戴得整整齐齐，口称：“在一天职，拿国家一分薪，就要尽一天职！”表现出不甘寂寞的心态。
　　上世纪60年代，美国打着联合国旗号发动侵越战争，当时台湾仍列联合国席位，美国认为理应出兵参战，于是派蒋经国去征求白崇禧的意见，白崇禧轻松地说：“这有何难，就说我们刚刚百废待举，出兵赴越，在财力、物力、军械、运输舰等方面需要美国大力援助才行。”并列出一大堆要求，美方觉得被倒打一耙，只好说：“罢了！不劳你们的神了。”后来在越战期间，美国在台搞多种军需加工，又设立不少渡假场所，活跃了台湾经济，财政收入大增，为此台湾上下赞佩白精明多谋，对白的秘密监视亦相对放松。
　　白崇禧在台湾不过充当蒋介石的“电钮”而已，凡是李宗仁在美国发出对蒋介石父子统治不利的言论，蒋介石只须把这个“电钮”轻轻一按，他就会作出永不失误的反应。1966年12月2日，白崇禧因患急病在台北松江路第一二七号住所骤逝，时年73岁。