1928年4月，国民革命军开始二次北伐，张宗昌的直鲁联军不敌北伐军节节败退，率残部被迫退出山东。随着张宗昌的败退，原本依附于张宗昌的军队立即树倒猢狲散，散布在鲁东地区。

由于北伐军一路北上，无暇顾及这里的直鲁联军部队，刘珍年正是利用这一时期的混乱局面，站稳脚跟发展了起来。

当时在鲁东地区主要有这么几支部队，分别是方永昌的第4军、刘志陆的第13军以及孙殿英的第14军，其中刘珍年为第13军参谋长并兼任旅长。张宗昌在撤离山东前，曾委任资历最深的刘志陆为胶东防御总司令，以图东山再起，方永昌见张宗昌大势已去就把部队交给刘珍年管理，自己则去了大连。

但刘志陆早就和南京方面扯上了关系，决定率部挂上青天白日旗参加“革命”，于是就以召开军事会议的名义计划把方永昌部的4个旅长通通拿下。刘珍年事先已经察觉出这是个阴谋，拒绝参加会议，果不其然参会的3个旅长都被刘志陆软禁了起来。

此时方永昌部群龙无首，只有刘珍年的官最大，在刘珍年的鼓动下，对刘志陆的部队发起了进攻。刘志陆被刘珍年打败，残部退守平度，刘志陆以去南京找蒋介石寻求援军的名义离开了部队。刘志陆走后，刘珍年把部队从4个旅扩编成了5个师，随着刘珍年势力发展了起来，到了1928年9月，蒋介石就把刘珍年所部改编为暂编第1军。

刘珍年毕竟资历浅，手下的嫡系部队也不多，除刘亲自兼任的第1师外，只有第3师师长何益三支持他，另外的3个师根本不服刘珍年。其中的第4师刘选来和第5师师长施中诚更是经常派人与已经下野的张宗昌和褚玉璞联络，希望张、褚二人来胶东主持大局。

张宗昌

1929年初，流亡在大连的张宗昌、褚玉璞在日本人的支持下，与孙殿英、刘选来、施中诚联合起来组成了所谓的同盟军第2方面军，由张宗昌担任总司令。同年3月，张宗昌集结大军向驻守在烟台地区的刘珍年部发起了进攻，当时刘珍年名义上虽有第1师和第3师及其他零散部队，但实际人数不足6000人，面对兵力强大的张宗昌，刘珍年率部退入事先已经存放有大量武器弹药和粮食的牟平城内。

为了守住牟平城，刘珍年把部队合并成1个师，编成4个旅分别防守东西南北四门，骑兵团、教导团作为预备队待机而动。而来势汹汹的张宗昌部，番号又多又杂，实际兵员并不充实，且各部队还互相勾心斗角。

刘珍年鼓励部队说：“我军人数虽少，但是百战百胜之师，像一个铁蛋，张、褚之辈，虽然人数众多，但却是乌合之众，向一篮鸡蛋，我师以铁蛋必将粉碎敌人之鸡蛋。”空有口号当然是不够的，刘珍年还准备了几十万元奖励守城的部下，根据战功大小拿钱，功劳大的几千、几百，少的也有几十块。

张宗昌和刘珍年的牟平之战在1929年3月28日正式打响，张宗昌知道自己新拼凑部队的水平并不想强攻，决定先用大炮轰城。在开炮前，张宗昌亲自劝降说：“儒席（刘珍年的字）老弟，快出城吧，自己人打什么仗，北方人快没饭吃了，快出城合作吧！我以前不知道我的部下还有你这样的人才，老弟你出城后我就把部队交给你指挥！”

但刘珍年根本不慌，张宗昌有大炮，他刘珍年也有大炮，而且刘珍年早年就是以玩炮出名的，对于使用迫击炮、山炮颇有心得。张宗昌的大炮虽然很多，但是命中率很低、炮弹质量差，对刘军的威胁并不大，而刘珍年的大炮射击非常精准。在一次炮战，刘珍年通过望远镜发现了张宗昌的指挥部，亲自操作大炮一炮命中，张宗昌当时差点就被炸死。

张宗昌见刘珍年不怕他的大炮，一计不成再生一计，于是命令部下挖地道攻城。刘珍年与士兵同吃同住，每天晚上都要亲自绕城一周，因此张宗昌的坑道一开始便已经被刘珍年发现了。每当坑道挖到城墙附近时，刘珍年就命令迫击炮轰击坑道，炸死炸伤不少张宗昌部队的工兵。

双方就这样一直相持了二十多天，张宗昌的部队围城时间一长，就松懈了下来。刘珍年于是组织梁立柱的第3旅和教导团共2000多人趁此机会伪装成国民革命军出城，事先已经贿赂了张宗昌部一个营长提前在战线上开一个口子。

第二天，这2000多人出其不意出现在张宗昌后方，被张宗昌的部队误以为是来增援刘珍年的国民革命军，一时间军心大乱。此时刘珍年又亲自率部出城发动反击，张宗昌部瞬间作鸟兽散，全线溃散，在刘军的围追堵截下大部缴械投降。

牟平一战，刘珍年以数千大败张宗昌的数万大军，一战成名奠定了其统治胶东的基础。1929年5月，国民革命军进行统一编遣，刘珍年部被缩编为新编第3师，刘珍年担任师长，何益三担任副师长，原部被合编为第1旅、第2旅、第3旅，第1旅由刘珍年兼任旅长；第2旅由梁立柱任旅长；第3旅由张銮基任旅长，这就是刘珍年的班底。