就在各地沉浸在秋收的喜悦中时，平阳一支千人的军队突然北上，占领了五十里外的赵城。赵城身后的霍城立即闭城自守，同时飞报晋阳。
几天后，河东的大军源源北上，包围了霍城。他们的箭射得奇准，往往能够钻过垛口，射中城上的守军；而且箭多得似乎无穷无尽，一次齐射就几乎清空了城上的士卒，最后，无论官员如何威逼利诱，邑民就是不敢上城。只两天，霍城开城投降。
这时，晋阳周围的城邑还在忙于秋收，晋阳得到警报后，还来不及征集军队，界休、邬、祁等汾水东岸各大城邑就先后落入秦军手中。这些大邑中的能战之士都被征调，参加伐燕之战，所余士卒不过几百人，其余都是老弱，根本不是秦军的对手。晋阳为了防御秦军的进攻，只在赵城和霍城保留了完整的军力，赵城和霍城失守后，太原几乎无可用之兵。等到祁城失守，晋阳守已知城池难保，连夜率领家小、官吏出逃，到霍人据险而守。
榆次是太原仅次于晋阳的大城，与晋阳夹汾水而立，背靠太行山。这里是所谓井陉的进出口，占领了榆次，就控制了井陉道，切断了赵国的东西交通。晋阳守逃离后，榆次依然闭城自守。秦人一路攻城拔寨，诸城邑望风而降，那些城邑中的头面人物纷纷率领自己的家眷出逃。由于有汾水的阻隔，他们通常逃往榆次而不是晋阳。这些豪门大族通常都拥有自己的私人武装，看家护院，甚至相互攻伐，有一定的战斗力。分散开来不是秦军的对手，但现在集中到榆次城中，成为一股不可忽视的力量。
榆次城东、北有山，西有河，只有南边一个方向可以接近，所以专门在城南部修建起一座郭城，要想打破榆次的防御，相当于连续攻打两座城池。蒙骜率军一万来到榆次城下，尝试用弩箭对射了几次，榆次城较高，弩箭射击的效果并不令人满意；而城上居高临下射下箭来，还有相当的杀伤力。蒙骜遂将部队屯驻于城下，就近取粮，同时命令河东再增派一万人；同时，将身后祁城、阳邑等大邑的所有男丁全部征发，命令他们在城外筑垒，似乎要做长期的围困。
从平阳到榆次有将近五百里，援军到达大约需要十多天的时间。这段时间里，蒙骜