下攻打洛阳。洛阳附近的小城在尔朱荣重压之下，又纷纷反叛。陈庆之在元颢看来虽然功劳盖世，但一开始就没想把答应南梁的条件当回事情的元颢是不可能重用他的。陈庆之自己也清楚得很，主动要求到黄河以北去防守洛阳的门户北中郎城。尔朱荣也执意要和陈庆之分个高下，于是一股劲地攻打陈庆之，三天打了十一仗，七千人的陈庆之部队把上百万的尔朱荣部队打得死伤惨重，尔朱荣简直都绝望了，下令退兵。
这时有个随军的星相学家刘助劝尔朱荣不要退兵。尔朱荣也想通了，他拿陈庆之没办法，就去抄元颢的老窝。尔很快洛阳被攻陷，元颢也被杀。陈庆之在北方完全失去了根据地，只得东撤准备回建康。尔朱荣亲自率领大军随后追赶，但这追也追得过于搞笑：追远了等于没追，追近了他又不敢，两支军队就这么拖着一直走到大概是河南边界一带，陈庆之准备指挥军队过河，但突如其来的山洪无情地冲走了他百战百胜的部队。
这是陈庆之一辈子唯一一次有可能死在战场上的机会，但陈庆之装成和尚秘密潜回建康。陈庆之南归后，特尊重北人，朱异觉得奇怪，便问他，陈庆之说：“吾始以为大江以北皆戎狄之乡，比至洛阳，乃知衣冠人物尽在中原，非江东所及也，奈何轻之”(《资治通鉴·卷第一百五十三》)
镇守东南
十二月，梁武帝以陈庆之为持节、都督缘淮诸军事、奋武将军、北兖州刺史。时有妖僧僧强自称天子，土豪蔡伯龙也起兵与之相应，众至3万，攻陷北徐州。济阴太守杨起文弃城而逃，钟离太守单希宝被害。梁武帝诏令陈庆之前去征讨，并亲自临白下城为其饯行。梁武帝对陈庆之说：“江、淮兵劲，其锋难当，卿可以策制之，不宜决战”(《梁书·陈庆之列传》)。陈庆之受命而行，未到十二天，便斩蔡伯龙、僧强，传首建康。中大通二年(公元530年)，梁武帝以陈庆之为都督南、北司、西豫、豫四州诸军事、南、北司二州刺史，其余如故。陈庆之到任后，遂围悬瓠(今河南汝南)，破魏颍州刺史娄起、扬州刺史是云宝于溱水，又破行台孙腾、大都督侯进、豫州刺史尧雄、梁州刺史司马恭于楚城。陈庆之这时又显示出他为政治家的卓越才能，陈庆之随即减免了义阳镇的兵役，停止水运补给，使江湘诸州得以休养生息。并开田六千顷，二年之后，粮食充实。梁武帝为此经常嘉奖陈庆之。同时又陈庆之又表请精简南司州为安陆郡，置上明郡。大同元年(公元535年)二月，陈庆之攻东魏，与东魏豫州刺史尧雄交战，因不利而还。
大同二年(公元536年)十月，东魏定州刺史侯景率7万人寇楚州，俘楚州刺史桓和，侯景乘胜进军淮上，并写了信劝陈庆之投降。陈庆之迎来了他一生之中最后一战。陈庆之手下当时不到万人，梁帝紧张之至，急调侯退、夏侯夔率所部驰援。刚刚出发不久，军至黎浆，前线传来消息：侯景队已经被歼灭，侯景抛下辎重，只身逃跑。，陈庆之已击破侯景。时值大寒雪，侯景弃辎重而逃，陈庆之则收其辎重而还。
同年，豫州闹饥荒，陈庆之开仓放粮济灾民，使大部分灾民得以度过饥荒。以李升为首的800多名豫州百姓请求为陈庆之树碑颂德，梁武帝下诏批准。大同五年(公元539年)十月，陈庆之去世，时年五十六岁。梁武帝以其忠于职守，战功卓著，政绩斐然，追赠他为散骑常侍、左卫将军，鼓吹一部，谥曰“武”，还诏令义兴郡发500人为其会丧。
战功赫赫
公元525年萧衍任命陈庆之为宣猛将军、文德主帅领兵两千护送豫章王萧综接管徐州。北魏派两位宗室元延明、元x领兵二万，在陟口一带扎下营寨准备进兵，陈庆之得到消息之后，逼近敌人营垒挥师直击。一比十，这很可能是他所有战斗中实力比例与敌人最接近的一仗。战斗的结果，二元的两万人马不过在一通鼓之间被陈庆之的两千人马击溃败逃
梁大通元年(527），与寻阳太守韦放合攻魏之涡阳（今安徽蒙城）。魏遣征南将军元昭率数万步骑来救，陈庆之乘魏军远来新至，仅指挥100人击破其前锋。
后又与诸将连营而进,背涡阳城与魏军相持。自春至冬，交战频繁，将士疲惫。有的将领建议退兵，他力主决战。魏军筑就13垒以控制梁军，他领兵夜出，破其四垒，涡阳城主王纬乞降。梁军乘胜强攻，俘斩甚多，其余九垒皆溃。
中大通元年(529年)四月，陈庆之领兵乘北魏征讨邢杲起义军之际，乘虚攻占荥城(今河南商丘东)，进逼梁国(今河南商丘)。魏将丘大千率众7万分筑九城，以抵御梁
