经过几天无望的进攻后，赵军终于知道自己无力阻止秦军夯筑土山。榆次守将终于派使者出城，谈判开城。蒙骜大度地表示，只要开城，榆次官员愿意留下的可以留任原职，愿意离开的，可以带着自己的家财离开。官吏民一律不加杀害，逃往榆次的其他城邑的大户，允许其回原籍居住，但家财充府库，不许带走。
虽然有满心的不愿意，但看着一天比一天高的土山，榆次官民还是无奈地选择了开城投降。
围攻榆次的战斗持续了一个多月，终于以榆次开城而告终。而这个过程中，晋阳一直没有派兵过河来增援。
榆次开城后，蒙骜与榆次守将进行了表面友好的交谈，问起为何晋阳见死不救？榆次守将回答道：“晋阳官吏弃城往霍人多日矣，晋阳乃自守也。”
蒙骜大张旗鼓地送走了愿意离开的榆次官员，然后派军使过河通知晋阳立即开城。晋阳与榆次相距约五六十里，他们每天都会派人到汾水河边观望榆次的战况。当得知榆次屡战屡败，死伤惨重的消息，晋阳也失去了抵抗的信心。在接待蒙骜的使者时，他们提出晋阳愿意开城投降，但希望秦军不要入城，只委派官吏管理。最终双方议定，秦官员可率领五百卫士入城，但要在晋阳推行秦律！