善于速战速决，不应该打持久战。乘势进军，我们所以能克敌制胜。”诸将都认为他们赶不上仲文。
，！
于仲文军进击曹州，活捉了尉迟迥所署的刺史李仲康和上仪同房劲。檀让率余部驻在城武，部将高士儒率万人驻扎在永昌。于仲文装模作样下公文到各州县说：“大将军来了，你们可以积集点粮食。”檀让还以为于仲文不可能马上到，正在那里杀牛犒赏人马。于仲文知道他太大意，挑选骑兵袭击他，一天便赶到了。于是，于仲文攻占了城武。
尉迟迥的部将席毗罗，拥众十万，驻扎在沛县，将要攻打徐州。他的妻子儿女在金乡。于仲文派人假装是席毗罗的使者，对金乡城的守主徐善净说：“檀让明天午时到达金乡，将要宣布蜀公的命令，犒赏将士。”金乡人信以为真，都很喜欢。于仲文挑选精兵，打起尉迟迥的旗帜，加速前进。徐善净远远望见于仲文军将到，还以为是檀让来了，于是出城迎接。于仲文活捉了他，于是占领金乡城。诸将大多劝于仲文屠城，于仲文说：“这里是席毗罗起兵的地方，我们应宽待他们的妻子儿女，那么，他的部下会自动回来。如果屠城，他们就绝望了。”众人都说好。
于是席毗罗仗着人多势众，来逼近官军。于仲文背城布阵，在离阵几里远的地方，在麻田里设下埋伏。两下里刚刚交手，于仲文的伏兵就动手了，他们都扌曳着柴，鼓噪呐喊，尘埃飞扬得很高。席毗罗的部队溃逃了，于仲文乘机追杀，贼人都投洙水而淹死，洙水因此而断流。于仲文活捉了檀让，用囚车把他送到京师。黄河以南地区全部平定，席毗罗藏在荥阳一户民家，被捉来杀了，把他的首级传到京师。朝廷为于仲文刻石纪功，碑就树立在泗水之滨。于仲文，回到京师朝见杨坚，杨坚引他到内室，一起饮宴，极尽欢乐，赐他杂采一千多段，女乐十人，又授他柱国、河南道大行台。
杨坚篡周建隋，他就留在了京师，不久，他的叔父、太尉于翼因罪下狱，于仲文也被有关官吏抓到牢里去了，他在狱中上书杨坚，说：“我听说春生夏长，是天地平分之功；子孝臣忠，是人伦不易之道。过去尉迟迥作乱，所在之处，如影随物地都追随他。我地处险要的函谷关和黄河之间，地方是要冲。我尝胆枕戈，誓死为国。尉迟迥当时收买我，用大将军的官位和万户侯的爵禄。我不顾妻子儿女，不爱惜自己的生命，冒着白刃，突破重围。我的三个儿子、一个女儿，相继惨死。我披肝沥胆，跑到京师。承蒙陛下授我高官，委我兵权。那时黄河以南的贼人，如狼似鸱。我以八千疲弱兵卒，扫除妖雾，在梁郡打败刘子宽，在蓼堤打败檀让，平定曹州，收复东郡、安城、武定、永昌，解了亳州之围，消灭了徐州的贼人。席毗罗的十万之众，一战便土崩瓦解；黄河南边的蚁聚之徒，我都按时消灭了。在群凶问鼎之时，百姓无主之日，我的二叔于翼先在幽州，总管燕赵，他南邻反贼，北防胡人。他内外安抚，辖区才得以免遭祸害。我的五叔于智，在黑水一带树起大旗，与反贼王谦为邻。五叔他遏制蛮人，镇守蜀道。我的兄长于顗，任州牧于淮南，受命杀敌，他乘机剿贼，传贼人首级到京师。王谦窃据二江，背叛于蜀。我的第三个叔父于翼，受命于朝廷，替天讨逆。我家此外的父叔兄弟，都受到文武重任，或受命于危难之际，或侍卫于战阵之前。我们于家全家忠诚，望能查明真相。请陛下垂泣辜之恩，降云雨之施，追草昧之始，录点滴小功。这样，那么就能死灰重燃，枯骨生肉，不胜感激之至，谨冒死上闻。”杨坚看了表章，将于仲文和于翼都放了，不久，杨坚下诏，让于仲文率兵屯扎在白狼塞，以防备突厥。
杨坚授他行军元帅，统帅十二总管，以进攻突厥，出兵服远镇，遇到突厥军，打败了他们，斩首一千多级，得到牲畜数以万计。于是，从金河出白道，派总管辛明瑾、元滂、贺兰志、吕楚、段谐等二万人出盛乐道，到那颉山去。隋军到了护军川北边，与胡人军相遇，可汗见于仲文的军队军容整肃，不战而退。于仲文率领精干的五千骑兵，越山追击，没追上而回还，杨坚因尚书省文书多而杂，官吏多行奸诈，让于仲文调查尚书省的事，他所揭发的尚书省的问题很多，杨坚嘉奖他的明断，厚加慰劳赏赐。
杨坚每每担心运输跟不上，于仲文请求挖掘疏通渭水，开通水运，杨坚深以为然，让仲文总管这件事。杨坚发动伐陈战争，授于仲文行军总管，率水军从章山出汉口。陈国的郢州刺史荀法尚、鲁山城主诞法澄、邓沙弥等请求投降，秦王杨俊都让于仲文率兵接受他们投降。高智慧等人在江南作乱，他又以行军总管身份讨伐他们，当时三军
