徐州是津浦和陇海两条铁路线的中枢，战略地位极其重要。1927年，在北伐战争的徐州战役中，蒋介石指挥国民革命军与北方军阀张宗昌、孙传芳的直鲁联军作战。6月2日，北伐军攻占徐州。但在“宁汉分裂”后，因蒋介石从徐州前线抽调精锐部队抵抗武汉国民政府的“东征”，直鲁联军乘机反扑，7月24日徐州失陷。蒋介石亲自到徐州前线指挥反攻，却因中了直鲁军诱敌深入之计而败退，最终于8月14日下野。

1938年初，南京陷落后，蒋介石渴望在徐州给日军一次重创以巩固自身军事和政治地位。他对徐州会战的战略方针、战役部署作了一系列指示，确定了持久消耗、攻势防御的运动战以及在敌后发动游击作战配合正面作战等战略，并几次亲赴前方督导。徐州会战吸引了日军主力，为武汉的备战争取了时间。徐州会战在整体战略上并非完全的失败，虽然最终徐州被日军占领，但会战取得了一定的战略成果，台儿庄战役是徐州会战的重要组成部分，中国军队在此取得了重大胜利，歼灭日军一万余人，极大地鼓舞了全国军民的抗战信心，打破了日军“不可战胜”的神话。在整个徐州会战过程中，中国军队与日军进行了多次激烈战斗，使日军遭受了较大的人员伤亡和物资消耗，迟滞了日军的进攻步伐。

抗日战争胜利后，徐州成为蒋介石发动反革命内战的重要军事基地，他在徐州部署了大量军队，并设立“徐州绥靖公署”等内战指挥机构。1948年的淮海战役，蒋介石孤注一掷，在徐州地区集结了80万国民党军主力与人民解放军进行决战，最终国民党军队惨败，从根本上动摇了国民党的统治基础。