八月一日，云开雨霁，李渊率军直扑霍邑。李世民虑宋老生怯战不出，乃亲率数骑驰至城下，举鞭指点，作围城之势。宋老生果然中计，怒而出战，背城列阵。李渊与李建成列阵城东，李世民与柴绍阵于城南。战阵之间，宋老生猛攻李渊，李建成竟坠马于地，老生乘势进逼，李渊父子皆退。千钧一发之际，李世民率两千精骑从南原疾驰而下，如雷霆万钧，横断隋军。宋老生军大乱，弃甲奔逃。老生逃至城下，城门已闭，攀绳欲上，李世民追及，斩之于城下，遂平霍邑。
河东既定，关中豪杰闻风争附。李世民进策曰："请入关进取永丰仓，以赈穷困，收群盗，谋取大兴。"李渊深以为然。李世民以前军渡河，先定渭北。三辅吏民、豪杰绅士扶老携幼，日有千数来投，云集麾下大旗之下。李世民择其英杰，授以官职，远近闻之，归者益众。军至泾阳，精锐已集九万，击破胡贼刘鹞子，兼并其众。
旋即留殷开山、刘弘基屯驻大兴城，李世民自率轻骑赴司竹。贼酋李仲文、何潘仁、向善志等皆率部来会，屯兵阿城，众至十三万。大兴父老箪食壶浆，迎于道左，李世民慰劳而遣，一无所受。军令肃然，秋毫无犯。未几，与大军合平大兴城。
李渊入辅隋政，以李世民为唐国内史，改封秦国公，食邑万户。时薛举拥精兵十万，进逼渭滨。李世民亲率大军迎击，大破之，斩首万余级，追奔逐北至陇坻而还。
义宁元年十二月，李世民再拜右元帅，统兵十万攻东都洛阳。然洛阳城坚，隋军固守，久攻不克，遂引军而还。将退之际，李世民谓左右曰："敌见我退，必来追袭。"乃设三伏于三王陵以待之。果然，隋将段达率万余骑追来，伏兵齐发，段达大败。遂于宜阳、新安置熊、谷二州，留兵戍守而还。旋改封赵国公。
义宁二年五月，隋恭帝杨侑禅位于李渊。大唐立国，改元武德。李世民以开国元勋，拜尚书令、右武侯大将军，进封秦王，加授雍州牧。是年，他年仅二十岁。
武德元年（公元618年）七月，割据陇右的薛举率领大军悍然入侵泾州，一路烧杀劫掠，兵锋直指关中，局势骤然紧张。唐高祖李渊当即任命秦王李世民为统帅，调集关中各路大军前往讨伐。彼时薛举军队久居西北，士卒骁勇善战，加之准备充分，两军交锋之后，唐军遭遇失利，战事进展不顺，李世民无奈之下只得率领大军暂退，收拢残部，伺机再战。
同年九月，战局迎来转机，薛举在军中骤然病逝，其子薛仁杲承袭父位，继续统领薛氏大军。薛仁杲勇猛有余却生性残暴，不得军心，李渊再度任命李世民为元帅，统领大军征讨薛仁杲。大军开赴至折墌城一带，与薛仁杲主力部队正面相遇，双方当即摆开阵势，各自挖深沟、筑高垒，构筑坚固的防御工事，展开了长达六十余天的对峙。
当时薛仁杲麾下拥有十余万大军，兵力雄厚，士卒气势强盛，屡屡派人到唐军阵前叫阵挑战，试图逼迫唐军出战。李世民深知敌军锐气正盛，果断下令全军坚守不出，任凭敌军如何挑衅，始终按兵不动，以此消磨敌军的锐气，耗尽敌军的粮草。长时间的对峙之下，薛军粮草逐渐消耗殆尽，军心开始动摇，薛军将领牟君才、梁胡郎眼见大势将去，先后率领部下投奔唐军。
看着敌军士气低落、军心涣散，李世民知晓决战时机已到，召集麾下诸位将领，沉着分析道：“敌军锐气已然丧失，士气衰退殆尽，如今正是我军一举攻取敌军的绝佳时机。”商议既定，李世民率先派遣将军庞玉率领一支军队，在浅水原南部扎下营阵，故意示弱以引诱敌军出击。薛军大将宗罗睺果然中计，当即集中全部主力军队，向庞玉所部发起猛烈进攻。庞玉率领部下奋力抵抗，奈何敌军兵力占优，攻势愈发猛烈，唐军渐渐不支，阵营险些被敌军攻破，战况一度岌岌可危。
就在庞玉所部陷入苦战之际，李世民亲自率领主力大军，出其不意地从浅水原北部突袭敌后，对薛军形成合围之势。宗罗睺在阵前远远望见唐军主力突然出现，大惊失色，急忙下令军队调转方向，回头抵御唐军的突袭。李世民身先士卒，亲自率领数十名精锐骑兵，冲锋陷阵，径直攻入敌军阵营核心。唐军骑兵势如破竹，与前方庞玉所部里外配合、前后夹击，全军将士齐心协力，奋勇杀敌。薛军腹背受敌，瞬间溃不成军，宗罗睺的部队全线溃败，唐军斩杀敌军数千人，敌军士卒慌不择路，掉入山涧山谷之中摔死、溺死的不计其数，尸横遍野，血流成河。
战役大胜之后，李世民丝毫没有给敌军喘息之机，当即率领二十余名轻骑兵，一路马不停蹄，急速追赶溃败的敌军，直奔薛仁杲驻守的折墌城城下。薛仁杲看着唐军骑兵疾驰而来，心中惊惧不已，急忙下令军队紧闭城门，环城固守，企图凭借城池负隅顽抗。夜幕降临之时，唐军主力大军陆续赶至折墌城，迅速将城池四面合围，层层围困，断其外援与粮草，让薛仁杲陷入绝境。次日清晨，薛仁杲眼见军心涣散、突围无望，只得亲自打开城门，向李世民献城投降。此次战役，唐军大获全胜，李世民一举俘虏薛仁杲麾下精兵一万余人，男女百姓五万余口，彻底平定陇右之地。
战事结束后，唐军诸位将领纷纷前来向李世民祝贺，席间有人趁机提出心中疑惑，恭敬问道：“起初大王在野外战场大破敌军，彼时薛仁杲依旧占据着坚固的折墌城，我军没有大型攻城器具，大王仅率领轻骑兵辗转追击，不等步兵主力赶到，就直接兵临城下，我们众人都担忧无法攻克城池，可最终却顺利拿下折墌，这究竟是什么缘故？”