高祖杀了窦建德之后，紧接着又给窦建德旧部传诏，要求他们尽快投诚归附。
窦旧部范愿、董康买、曹湛、高雅贤、王小胡等人既愤窦建德被杀，又见王世充降后，部将同样不能保全，心头十分恼怒李唐的行事作风，哪里肯听从诏令。
李渊派过去颁诏的人直接被他们给宰了，紧接着他们就在河北竖起了反旗，公然对抗李唐。
他们先去找窦建德旧将刘雅，要求他出来带领窦建德余部继续与李唐对抗，刘雅比较怕事，不肯再出来打仗，范等怒斥刘雅不义，将他杀了，很快又找到刘黑闼。
刘黑闼骁勇善战，本就不是甘于平庸之人，当年跟随窦建德的时候，堪称其帐下第一勇将，再加上他与窦建德感情极深，听了范、董等人的来意后，二话不说，立即同意出山。
刘黑闼在窦部本就极有威望，现他站出来振臂一挥，窦建德许多旧部立即闻风而至，刘黑闼带着最先归来的一批人，以风雷不及迅耳之势攻破了漳南县城。
河北两岸的百姓听闻李唐杀了夏王窦建德，心头又悲又怒，窦建德被杀之日，河北无岸无数闻讯的百姓自动为其披孝，现听闻窦旧部反唐，民众欢呼雀跃，投奔者众。
借此民心，刘黑闼拿下漳南县城之后，立即向贝、魏两州发起了攻击，贝州刺史戴元详，魏州刺史权威纷纷身死败亡。
刘黑闼拿下这两州之后，将这两地兵将全部打散，重新编于麾下，八月下旬，刘黑闼在贝州漳南设坛，泣泪祭奠窦建德，自称大将军，正式大举反旗，向李唐宣战。
九月初，刘黑闼攻陷历亭，屯卫将军王行敏战死，窦建德故将旧吏纷纷倒戈相向，杀死唐朝官吏，响应起义。
九月中，深州人崔元逊杀其刺史裴晞，叛附于刘黑闼。九月底，唐兖州总管徐圆朗也起兵响应。
十月初，刘黑闼攻陷瀛州，抓获刺史卢士睿，又攻陷观州，至此，河北两岸原属于窦建德的势力大半都竖起了反旗。
刘黑闼行动的速度太快，等到八月底高祖收到奏报的时候，河北两岸已有一半地盘被他抢去，高祖和一众朝臣惊怒交集。再想起之前秦王在大殿上的激烈反对，大家只觉得这脸被打啪啪生痛。
尤其是裴寂，有几次他都发现高祖盯着他的眼神十分不善，心里不由直打鼓，生怕高祖一怒之下将他揪出来宰了。
好在他的担心没有发生，高祖不知是出于什么心里，并没有纠他出来当替罪羊的意思，李渊没有处理裴寂，可这个时候，让他派秦王出去平叛，他也开不了口。
为此，高祖第一时间派出去的是淮安王李神通、同时命令幽州总管罗艺协助李神通，让他们俩联手平叛，李神通受命之后很快率兵直奔河北定州。
来到定州之后，李神通并没有第一时间去找刘黑闼交战，他先命令定州总管李玄通和其麾下将领秦武通率兵出击，同时又命幽州总管罗艺，让他从后方出击，准备对刘黑闼形成前后夹击。
与此同时，唐高祖李渊为了确保万一，同时给邢、洺、相、魏、恒、赵等地州的领兵总管下诏，让他们配合李通神和罗艺，在城阳与刘黑闼决战。
李渊的想法虽好，奈何执行者李神通战术不到位，他倚仗人多势众，将战线足足拉出十几里，刘黑闼此时麾下兵马尚不算多，与李神通长耗他肯是耗不起。
为此，刘黑闼将麾下兵马汇于一处，以其中最精锐的部队，朝李神通的中军营帐发起了猛攻，战斗展开的时候正值风雪交加之际，而风向又正朝着李神通这一边。
就这样，刘黑闼趋着天时地利，只用了不到唐军五分之一的兵马，一举击溃了李神通，身在刘黑闼后方罗艺战力还不错，他一举击溃了刘黑闼的部将高雅贤。
正打算乘胜追击，扩大战果的时候，得知以李神通为主导的主力部队已被击溃，立即停止追究，退到了保藁县。
刘黑闼打败了李神通之后，立即转过头来对付他，罗艺虽也算善战，可和刘黑闼一交上手，差距立即就显出来了，他很快被打得溃败而逃，至此，以李神通和罗艺为首的，平剿刘黑闼之战彻底失败。
刘黑闼打败了李神通和罗艺之后，接下来的兵锋势如破竹，于十一月中攻陷定州，并杀死了定州总管李玄通，十一月二十七日，杞州人周文举杀其刺史王孝矩，投降刘黑闼。
十二月初三，刘黑闼攻陷冀州，杀死冀州总管麹棱，十二月十二日，刘黑闼在宋州击败左武候将军李世绩，生擒薛万钧、薜万彻兄弟，兵势大盛，至此，河北两岸，窦建德昔日的土地尽数落于刘黑闼手中。
直到这个时候，高祖李渊心头才真正惊悔交集，裴寂更是恐惧得不得了，生怕高祖一怒之下就将他拉出来给宰了以消秦王心头之气，太子李建成也变得分外沉默。
众臣的目光则下意识的落到了秦王身上，以秦王的本事，他若出马，想必能平刘黑闼吧？可大家很快想起数月前，秦王在朝堂之上和裴寂相争的情景。
当时，似乎大多数的人都附和裴寂，现让大家推荐秦王出征，似乎开不了口，一念至此，大家再去看裴寂的目光就愈发的不善了。
若非这个除了会拍马溜须，又最懂高祖心事的家伙一味的煽风点火，大家伙又怎会被他蒙蔽，一味的支持他？事情又怎会闹到眼前这般不可收拾的局面。
裴寂愈发恐惧，不过高祖对裴寂的恩宠确实非同一般，他此时此刻，仍无丝毫把裴寂推出来的意思，只是不言不语的把目光移到次子李世民身上。
李世民仿若没有察觉到父亲的目光，自刘黑闼在河北竖起反旗的事传回长安之后，他从始至终，未对此事置过一言，高祖见次子如此不给自己面子，心头颇为羞恼。