段韶在高欢生前，曾随高欢参与广阿之战、邺城之战、韩陵之战，消灭尔朱兆，后在邙山之战、玉璧之战中亦发挥作用。
高欢临终时，令段韶随次子高洋镇守邺城，并嘱咐长子高澄加以重用。高澄掌权后，段韶奉命继续镇守晋阳。
高澄回到邺城后，赐给段韶女乐十几人，黄金十斤，还有缯帛，封长乐郡公。
当高澄准备出征讨颍川时，他写信给段韶，要他留守晋阳，又封他为真定县男爵，并行使并州刺史事。
同年十二月，段韶跟随尚书左仆射慕容绍宗讨伐侯景，段韶于涡水两岸暗中顺着风向点燃干草纵火，打算阻止侯景撤退。
但侯景十分精明，他率领骑兵进入水中，然后跃出往后撤退，岸上的干草被水打湿以后，火便熄灭，让侯景侥幸逃出了生天。
在高洋代魏建齐的过程中，段韶曾代高洋试探斛律金对其簒魏的意见，可见段韶也颇得高洋的信任。
武定八年（550年）五月，高洋受禅即位，建立北齐，是为文宣帝。随后，段韶被另封为朝陵县公，又封霸城县侯，加位特进。
段韶上表请求归还朝陵县公，乞请封自己的继母梁氏为郡君。梁氏是在段韶的生母娄氏因病去世后入门的，她待段韶兄妹不错，故段韶与继母的感情融洽。
高洋嘉奖他，另封梁氏为安定郡君。段韶又将霸城县侯让给了自己继母所生的弟弟段孝言，其高尚的行为，因此受到当时舆论的普遍夸赞。
段韶与广武王高长弼不和。当高洋准备于天保元年（550年）底前往晋阳时，高长弼对高洋说：“段韶在晋阳拥有强大的兵力，恐怕他的行动会出人意料之外，岂可直接去他那里！”
高洋没有理会高长弼的劝告，继续向晋阳进发，等到抵达晋阳后，高洋就把高长弼的谗言告诉段韶，还说：
“像您这样忠诚的臣子，人们尚且有馋言，何况其他人呢！”
同年十月初九，段韶被加授为尚书右仆射。天保三年（552年），任冀州刺史、六州大都督，段昭任职期间，为地方百姓施行惠民政策，深得地方吏民的爱戴。
天保四年（553年）十二月，投降南梁的起义将领东方白额暗中抵达齐国边境宿预这个地方，他派人引诱边民，杀害长吏，致使淮、泗地区百姓骚动不安，地方局面混乱。
天保五年（554年）二月，高洋下诏段韶前去讨伐。段韶率军抵达后。适逢南梁叛将严超达带兵围攻进逼泾州城；
同时，南梁反将陈霸先又率众将要进攻广陵城，时任广陵刺史的王敬宝急忙遣使向朝廷告急；而另一名南梁叛将尹思令拥众万人，准备袭击盱眙这个城池。
一时间，整个淮、泗地区四面八方都是南梁反将的兵马，段韶的军队四面均被南梁国的叛军围困。
当时段韶所带的三军见到这种情形都十分恐惧。段韶对诸将说：
“自从梁氏丧乱，国无定主，人心离散，看谁势强就归附谁。陈霸先等人智小谋大，政令不一。表面上同心同德，内心早有分离自立的念头。诸位不必忧虑，本将已经有良谋计划应对，并已思虑周全，众将们只需听令即可，不必恐慌！”
段韶于是留下敬显俊、尧难宗等将领围守宿预城，自己率领数千步骑兵急行军赶赴泾州，路经盱眙城时，南梁叛将尹思令没有料到齐军会突然到来，他不敢应战，只得望风逃走。
段韶带兵继续向前进击，又大败严超达的军队，夺取了严超达军队所有的舟船器械。
段韶对诸将道：“吴人浮躁，本无大谋，今天我军打败严超达，陈霸先知道后肯定会逃走，诸位跟随本将回击陈霸先。”旋即率军回师广陵城。
陈霸先果然如段韶所料率军退走。段韶领兵追杀陈霸先，直至杨子栅这个地方，从这里已望见南梁国的扬州城时，才下令撤军回返，并且缴获了陈霸先军队许多的军资器物。
击败南梁严超达和陈霸先后，段韶马上回师宿预镇守。
同年六月，段韶派人去游说劝降南梁反将东方白额，东方白额因此开门请盟。
段韶与行台辛术等人议论，同意东方白额的请求，但在结盟完毕后又将其处死，将东方白额与其诸弟的首级送到邺城。
自此之后“江淮帖然，民皆安辑”。高洋嘉奖段韶的功劳，下诏赏赐他被俘的七十名吴人，进封平原郡王。
天保五年（554年），西魏入侵南梁国，当时南梁国因为已经向北齐国臣服，故向北齐求援。
