張文遠在晉陽一面胡蘿蔔，一面大棒，誅殺數百人，安定住整個太原郡。李淵的妹夫王裕最後也被處死，而其妹李氏，則被送往信都。

佔領晉陽之後，張文遠一面封鎖攻佔晉陽城的訊息，一面準備繼續領兵南下。而太原郡太守，則有黃明遠的族叔黃沈擔任（提前任命）。

黃沈今年五十三歲，原為易縣令，黃明遠平定河北之後，又擔任趙郡郡丞，其女婿便是焦方威。

張文遠乃留副總管辛文禮留守太原，幫著黃沈經營太原郡。

太原郡乃是河東第一大郡，轄十五個縣，人口最盛時達十八萬戶。且此地在隋朝之後，直到北宋，都是叛亂興起之地，於是黃明遠聽到攻破晉陽的訊息之後，下令析太原郡東部七縣為樂平郡，治於石艾（今山西省陽泉市平定縣），以裴文肅為郡丞領郡事。

裴文肅乃是裴矩的侄子。

張文遠和劉雲芳則分兵兩路南下，張文遠率軍進擊西河郡，而劉雲芳則向西進入離石郡。

離石郡原太守是楊廣的族叔楊子崇。

楊子崇典衛出身，原來擔任右侯衛將軍，楊廣北巡安北城時，楊子崇屢次勸請楊廣早回京師。雁門之圍後，惱羞成怒的楊廣遷怒與楊子崇，於是以“子崇怯軟，妄有陳請，驚動我眾心，不可居爪牙之寄。”將他外放離石郡。

離石郡和旁邊的延安郡，素來是稽胡的聚居地。

這些稽胡是匈奴別種，又稱山胡、步落稽，源於南匈奴。史書記載這個民族貪而忍害，俗好淫穢。

稽胡自東漢時進入河東，已經成了河東、關北禍亂的重要源頭。其部兩次趁著中原王朝生亂建國，皆被攻滅。北周、北齊之時，更是多次生亂。包括名將韋孝寬、楊忠、豆盧寧、於謹、侯莫陳崇、李弼、宇文盛皆征討過其部。

其最近的一次作亂是稽胡人參與到楊諒之叛，後被黃明遠大肆屠殺。不過因為沒有觸及其根本，所以這些稽胡屢禁不止。歷史上直到唐高宗時期，綏州（今陝西綏德）步落稽白鐵餘煽動百姓造反，攻佔了城平縣（今陝西清澗），自稱光明聖皇帝，最後為王方翼（王裕之孫）剿滅，稽胡人才逐漸消失於歷史之中。

天下生亂之後，先有延安郡的稽胡人劉迦論自稱皇王，建元大世，與稽胡劉鷂子義軍呼應。後劉迦論為屈突通擊殺，屈突通斬殺胡軍萬餘人，並虜老弱數萬口，於上郡南山築京觀。而劉鷂子則潰逃入關中。

而在離石郡，劉龍兒自稱天子，以其弟劉六兒為永安王，部眾達數萬，潘長文率兵討伐，未能獲勝。

之後這些稽胡的叛亂更大，新上任的太守楊子崇不得不上表請兵鎮遏。楊廣於是命楊子崇率兵鎮壓，楊子崇前後捕斬數千人。

李淵叛亂之後，諸胡之勢更盛。楊子崇眼看郡內有稽胡，郡外又有李淵逆兵，難以抵禦，便準備以朝集的名義，帶著心腹數百人自孟門關（今山西省柳林縣城西北孟門古鎮）返回洛陽。

此時離石郡各縣紛紛投降李淵，楊子崇前路斷絕，難以前進，只得又返回郡治離石縣，其部也多叛逃。

李淵派遣的大將石州總管張綸率軍兵臨城下，城中守軍皆叛，而楊子崇也為亂兵所殺。

張綸佔領離石郡，改離石郡為石州，以王儉為石州刺史，自引兵南下龍泉郡。

龍泉郡都尉李慶陽率部北上抵禦，雙方在蒲川水（今山西城川河）相持。