高祖殺了窦建德之後，緊接着又給窦建德舊部傳诏，要求他們盡快投誠歸附。
窦舊部範願、董康買、曹湛、高雅賢、王小胡等人既憤窦建德被殺，又見王世充降後，部将同樣不能保全，心頭十分惱怒李唐的行事作風，哪裡肯聽從诏令。
李淵派過去頒诏的人直接被他們給宰了，緊接着他們就在河北豎起了反旗，公然對抗李唐。
他們先去找窦建德舊将劉雅，要求他出來帶領窦建德餘部繼續與李唐對抗，劉雅比較怕事，不肯再出來打仗，範等怒斥劉雅不義，将他殺了，很快又找到劉黑闼。
劉黑闼骁勇善戰，本就不是甘于平庸之人，當年跟随窦建德的時候，堪稱其帳下第一勇将，再加上他與窦建德感情極深，聽了範、董等人的來意後，二話不說，立即同意出山。
劉黑闼在窦部本就極有威望，現他站出來振臂一揮，窦建德許多舊部立即聞風而至，劉黑闼帶着最先歸來的一批人，以風雷不及迅耳之勢攻破了漳南縣城。
河北兩岸的百姓聽聞李唐殺了夏王窦建德，心頭又悲又怒，窦建德被殺之日，河北無岸無數聞訊的百姓自動為其披孝，現聽聞窦舊部反唐，民衆歡呼雀躍，投奔者衆。
借此民心，劉黑闼拿下漳南縣城之後，立即向貝、魏兩發起了攻擊，貝州刺史戴元詳，魏州刺史權威紛紛身死敗亡。
劉黑闼拿下這兩州之後，将這兩地兵将全部打散，重新編于麾下，八月下旬，劉黑闼在貝州漳南設壇，泣淚祭奠窦建德，自稱大将軍，正式大舉反旗于漳南起兵，向李唐宣戰。
九月初，劉黑闼攻陷曆亭，屯衛将軍王行敏戰死，窦建德故将舊吏紛紛倒戈相向，殺死唐朝官吏，響應起義。
九月中，深州人崔元遜殺其刺史裴晞，叛附于劉黑闼。九月底，唐兖州總管徐圓朗也起兵響應。
十月初，劉黑闼攻陷瀛州，抓獲刺史盧士睿，又攻陷觀州，至此，河北兩岸原屬于窦建德的勢力大半都豎起了反旗。
劉黑闼行動的速度太快，等到八月底高祖收到奏報的時候，河北兩岸已有一半地盤被他搶去，高祖和一衆朝臣驚怒交集。再想起之前秦王在大殿上的激烈反對，大家隻覺得這臉被打啪啪生痛。
尤其是裴寂，有幾次他都發現高祖盯着他的眼神十分不善，心裡不由直打鼓，生怕高祖一怒之下将他揪出來宰了。
好在他的擔心沒有發生，高祖不知是出于什麼心裡，并沒有糾他出來當替罪羊的意思，李淵沒有處理裴寂，可這個時候，讓他派秦王出去平叛，他也開不了口。
為此，高祖第一時間派出去的是淮安王李神通、同時命令幽州總管羅藝協助李神通，讓他們倆聯手平叛，李神通受命之後很快率兵直奔河北定州。
來到定州之後，李神通并沒有第一時間去找劉黑闼交戰，他先命令定州總管李玄通和其麾下将領秦武通率兵出擊，同時又命幽州總管羅藝，讓他從後方出擊，準備對劉黑闼形成前後夾擊。
與此同時，唐高祖李淵為了确保萬一，同時給邢、洺、相、魏、恒、趙等地州的領兵總管下诏，讓他們配合李通神和羅藝，在城陽與劉黑闼決戰。
李淵的想法雖好，奈何執行者李神通戰術不到位，他倚仗人多勢衆，将戰線足足拉出十幾裡，劉黑闼此時麾下兵馬尚不算多，與李神通長耗他肯是耗不起。
為此，劉黑闼将麾下兵馬彙于一處，以其中最精銳的部隊，朝李神通的中軍營帳發起了猛攻，戰鬥展開的時候正值風雪交加之際，而風向又正朝着李神通這一邊。
就這樣，劉黑闼趨着天時地利，隻用了不到唐軍五分之一的兵馬，一舉擊潰了李神通，身在劉黑闼後方羅藝戰力還不錯，他一舉擊潰了劉黑闼的部将高雅賢。
正打算乘勝追擊，擴大戰果的時候，得知以李神通為主導的主力部隊已被擊潰，立即停止追究，退到了保藁縣。
劉黑闼打敗了李神通之後，立即轉過頭來對付他，羅藝雖也算善戰，可和劉黑闼一交上手，差距立即就顯出來了，他很快被打得潰敗而逃，至此，以李神通和羅藝為首的，平剿劉黑闼之戰徹底失敗。
劉黑闼打敗了李神通和羅藝之後，接下來的兵鋒勢如破竹，于十一月中攻陷定州，并殺死了定州總管李玄通，十一月二十七日，杞州人周文舉殺其刺史王孝矩，投降劉黑闼。
十二月初三，劉黑闼攻陷冀州，殺死冀州總管麹棱，十二月十二日，劉黑闼在宋州擊敗左武候将軍李世績，生擒薛萬鈞、薜萬徹兄弟，兵勢大盛，至此，河北兩岸，窦建德昔日的土地盡數落于劉黑闼手中。
直到這個時候，高祖李淵心頭才真正驚悔交集，裴寂更是恐懼得不得了，生怕高祖一怒之下就将他拉出來給宰了以消秦王心頭之氣，太子李建成也變得分外沉默。
衆臣的目光則下意識的落到了秦王身上，以秦王的本事，他若出馬，想必能平劉黑闼吧？可大家很快想起數月前，秦王在朝堂之上和裴寂相争的情景。
當時，似乎大多數的人都附和裴寂，現讓大家推薦秦王出征，似乎開不了口，一念至此，大家再去看裴寂的目光就愈發的不善了。
若非這個除了會拍馬溜須，又最懂高祖心事的家夥一味的煽風點火，大家夥又怎會被他蒙蔽，一味的支持他？事情又怎會鬧到眼前這般不可收拾的局面。
裴寂愈發恐懼，不過高祖對裴寂的恩寵确實非同一般，他此時此刻，仍無絲毫把裴寂推出來的意思，隻是不言不語的把目光移到次子李世民身上。
李世民仿若沒有察覺到父親的目光，自劉黑闼在河北豎起反旗的事傳回長安之後，他從始至終，未對此事置過一言，高祖見次子如此不給自己面子，心頭頗為羞惱。