时而突袭，时而撤退，让敌军防不胜防。在唐军的不断骚扰下，宋金刚的粮草供应逐渐出现问题，士兵们的士气也受到了极大的影响。
为了进一步削弱敌军的补给线，李世民采取了分兵骚扰的策略。他分兵隰、汾，直捣敌军的要害，对刘武周漫长的补给线进行持续不断的骚扰。刘武周漫长的补给线上，最薄弱的地方是雀鼠谷，李世民就从隰、汾侧击这个狭窄的通道，破坏敌军的补给。而刘武周要保护自己的补给线困难得多，吕梁山为唐军所控制，在出吕梁山以前，唐军几乎没有危险。经过一番激烈的较量，唐军逐渐占据了上风，宋金刚军粮草匮乏，难以支撑。
在这段相持的日子里，李世民并没有闲着。他深知情报的重要性，于是派出大量的探子，深入敌军内部，收集情报。通过这些探子的努力，李世民对敌军的部署、兵力分布以及行动规律有了深入的了解。
与此同时，李世民还注重安抚当地百姓。他深知百姓是战争胜利的基础，只有得到百姓的支持，才能赢得这场战争。于是，他发布王教晓谕百姓，承诺会保护他们的安全，让他们过上安定的生活。百姓们听说李世民率军前来，无不前来归顺，由近及远，前来的人日益增加。在百姓的支持下，唐军逐渐征收粮食，军粮问题得到了缓解。
武德二年（619 年）十二月，唐高祖遣永安王李孝基攻打夏县的吕崇茂。吕崇茂不敌，急忙向宋金刚求援。宋金刚不敢怠慢，立即派尉迟恭、寻相前往救援。结果，唐军在尉迟恭和寻相的猛烈攻击下，全军溃败。
尉迟敬德、寻相击败唐军后，准备回浍州。秦王李世民得知这个消息后，决定抓住这个机会，打击敌军的士气。他派兵部尚书殷开山、总管秦叔宝等人在美良川设下埋伏。当尉迟恭、寻相的军队进入埋伏圈后，唐军突然杀出。一时间，喊杀声四起，火光冲天。尉迟恭虽然勇猛，但在唐军的突然袭击下，也陷入了困境。经过一场激烈的战斗，唐军大败尉迟敬德，杀了二千多人。
不久，尉迟敬德、寻相又秘密带精骑往蒲反援救王行本。李世民得知后，亲自率领三千步兵骑兵，从小路连夜赶到安邑。当尉迟敬德、寻相的军队到达安邑时，李世民的军队如神兵天降，对他们发起了突然袭击。尉迟敬德、寻相二人只身逃脱，部下全部被俘。李世民又回到柏壁，继续坚守。
武德三年（620 年）正月，唐将军秦武通击降王行本。二、三月，唐将王行敏、李仲文分别在潞州、浩州击退刘武周军的进攻。唐将张德政袭斩护运粮饷的刘武周部将黄子英，占领张难堡，成功切断了汾水东侧的宋金刚军粮道。
经过半年左右的相持，宋金刚所部粮草消耗殆尽，士气大不如从前。看着日益疲惫、士气低落的士兵，宋金刚知道，继续这样下去，只有死路一条。于是，他决定向北撤退。
李世民一直密切关注着敌军的动向，当他得知宋金刚开始撤退时，心中大喜。他知道，期待已久的战机终于到来了。李世民当机立断，当即率全军追击。
唐军如猛虎下山一般，沿着敌军撤退的路线，穷追不舍。在吕州，唐军追上了宋金刚所部的后卫部队。这是一场激烈的战斗，唐军士气高昂，而敌军则无心恋战。在唐军的猛烈攻击下，宋金刚的后卫部队全军覆没。
随后，李世民马不停蹄，一昼夜急行军 200 余里，在鼠雀谷追上了宋金刚。此时的宋金刚军队，已经疲惫不堪，士气低落。而唐军则士气高昂，如同饿狼一般。李世民一声令下，唐军向宋金刚的军队发起了猛烈的攻击。
一天之内，唐军与宋金刚的军队交锋八次，每一次交锋，唐军都取得了胜利。战场上，喊杀声、兵器碰撞声交织在一起，鲜血染红了大地。唐军如秋风扫落叶一般，将宋金刚的军队打得落花流水。这一天，唐军杀死、俘虏了数万人，取得了辉煌的胜利。
当夜，唐军在雀鼠谷西原宿营。经过一天的激战，士兵们都疲惫不堪。李世民也已经两天没有吃东西，三天没有脱下盔甲了。全军只有一只羊，李世民与将士们分吃了这一只羊。在艰苦的环境中，李世民与士兵们同甘共苦，进一步凝聚了军心。
四月二十三日，李世民带兵赴介休。此时的宋金刚还有二万人，他在介休西门列阵，将军队列成了 7 里长的阵势。战场正面狭窄，不利迂回，且敌军背城列阵，不易溃散。
李世民深知这场战斗的艰难，但他并没有退缩。他冷静地分析着敌军的阵势，制定了详细的作战计划。李世民派出秦叔宝、程知节等为北路，翟长孙等在南，攻击宋金
