武德四年，李唐已有关中，北方劲敌，只剩洛阳王世充、河北窦建德可堪争锋。王世充在唐军全面打击下，势力日蹙，不得不全线退防，婴洛阳城固守。武德四年二月，李世民兵临洛阳城下，四面攻打，昼夜不息。但东都洛阳壁垒森严，城上架设巨弩，箭如车辐、镞如斧钺，射程五百步。唐军久攻不下，将士疲惫，李世民不得不暂缓攻势，开始死围其城。

值得一提的是，在洛阳之战中，段成式高祖，骠骑将军段志玄险些被俘。当时李世民移师青城宫，防御工事尚未完成，王世充孤注一掷，率两万人掩杀而来。李世民开启作死模式，仗着有无敌的主角光环，只带几十骑突入敌阵，直透敌背。这样以身犯险，只为了试试敌军阵的厚度和防御力。李世民后来自己解释这种疯狂行为时说：“朕自兴兵，每执金鼓，必自指挥，习观其阵，即知强弱。常以吾弱对其强，以吾强对其弱。敌犯吾弱，追奔不逾百数十步；吾击其弱，必突过其阵，自背返击之，无不溃。”（《通典》）可见李世民对敌之时经常这样作死冲锋，杀透敌阵，再反杀回来，则敌军溃矣。而段志玄就没有这样的好运气，他深入敌军腹地，马被砍死了，两个郑军骑兵抓着段志玄头发，就要把他拖回本阵。渡洛水时，因为要趟水过河，马匹行速变缓，两个骑兵不得不分心御马，段志玄踊身而起拖骑兵下水，夺马奔逃，追者数百骑，恃其威，始终不敢逼近，目送段志玄与己军会合。

王世充心胸狭隘用人不当，使上下离心，秦叔宝、程知节、李君羡、罗士信等一早即弃郑归唐。眼见唐军不断蚕食自己领地，洛阳孤城难支，王世充求救于窦建德，约定两面夹攻唐军。

窦建德谋士刘彬认为今北方局势，唐、郑（王世充）、夏（窦建德）三足鼎立，一旦郑破，李唐独大，对窦建德将极其不利。不如联郑击唐，唐军若败，则趁势讨取洛阳。若得郑地复与唐争锋，问鼎天下的机会将大增。窦建德以为然，乃拔十万大军来救王世充。

唐军高层震动，皆主张退兵，以免腹背受敌。李世民力排众议，他指出，王世充强弩之末，旦夕可破；窦建德倾巢远征，机会难得，正好一举灭之。只要抢占虎牢关，足以阻敌于关下，决不能使王、窦联兵，否则前功尽弃。

当时力主退兵暂避的将领们一定觉得李世民疯了，窦建德汹涌而来，能保全身而退就不错了，居然说什么“一举灭之”。只是此前李世民已多次创出力挽狂澜的奇迹，堪称逆转之王，军中威望无双。众将没有别的选择，只能跟着这位年轻的皇子一条道走到黑。

李世民留下唐军主力，由李元吉主持继续围困洛阳。自己只带三千五百人急行军，在内应的协助下，抢先进占咽喉隘口——虎牢关。

窦建德晚到一步，被唐军拒于关下，不得寸进，两军进入相持。

一天，李世民决定自己玩一把斥候，去瞧瞧窦建德的布防。他带五百人出关二十里，令李世勣、程知节、秦叔宝将这五百人沿途埋伏，自己只同尉迟敬德等四骑径直前往窦建德军营，您的好友尉迟敬德又上线了。众人无不冷汗淋漓：“这货真是不要命啊，他死了我们也难逃保护不周之罪”李世民望着一脸狐疑的尉迟敬德，笑道：“吾执弓矢，公执槊相随，虽百万众若我何！”又说：“窦建德若是见了我，拔营退避才是他们的上策。”这不神经病吗，人家十万大军见到你秦王带着三个人过来，吓得撒腿就跑……亏你想得出来。来到离窦军营三里处，遇到窦外围警戒哨兵，哨兵们起先以为来的只是普通的唐军探马，不怎么以为意。突然，李世民大喊：“我是秦王李世民！”（尉迟敬德一脸黑线:“what the f… ”）李世民继续挥手高声招呼:“这里这里！看这里！我是李世民！”一箭射杀敌军一将。窦建德在帐中闻报，大惊，火速起五六千骑兵追逐。四人见对面尘头大起，乌压压一片席卷而来，世民又笑道：“你俩先撤，我与敬德殿后。”于是按辔徐行，追骑将至，则引弓射之，箭无虚发，当者立毙。追者惧而止，止而复来，如是再三，每来必有毙者，世民前后射杀数人，敬德杀十许人，追者不敢复逼。边杀边撤，如同游戏，一直将敌军引入伏击圈，李世勣等蜂拥而出，夏军大乱，被斩首三百，初到时的锐气挫杀殆尽。

窦建德就这样在虎牢关外呆了一个月，粮道屡遭唐军袭击，士气沮丧。而唐军粮草供应也并非万全，窦建德侦知此事，决定一旦唐军马匹饲料用尽，就总攻虎牢。不想窦建德这番计划，又反而被李世民探听到了。李世民遂将计就计，放马于黄河边，表示“我们草料已尽，要让马匹出来找草吃”。窦建德果然信以为真，倾力来攻，但纪律涣散，见唐军只在虎牢关上，并不出来，都以为唐军的战马吃不饱，骑兵无法出击，所以放松警惕，有的找水喝，有的下马休息，乱七八糟。忽然，一片骚动，只见李世民率玄甲铁骑，如利箭般长驱直入，杀透夏军，在其背后竖起唐军旗帜。夏军见自己后方出现唐军旗号，以为被包围，迅速溃散。乱战中，窦建德受伤遭唐军生擒，械送洛阳城下。可怜王世充还日日在城头望眼欲穿，盼来的却是身陷桎梏的窦建德，军心溃裂，开城投降。