腊月十八，庞玉、皇甫无逸两人站在城下，向尧君素陈述利害，劝尧君素投降。
庞玉他高声喊道：“尧将军，隋朝已亡，天下大势已定，何必再作无谓的抵抗？若肯归顺，李渊陛下必不会亏待于你！”
尧君素站在城楼上，冷冷地看着庞玉，眼中没有丝毫动摇。他沉声道：“庞玉，你曾是隋朝之臣，如今却背主求荣，有何面目来劝我？天下大义，岂是你这等小人能懂的？”
话音未落，城头箭雨骤发，皇甫无逸冠缨中箭，踉跄跌坐泥中，庞玉两人被尧君素一番话噎得无言以对，只得悻悻退下。
李渊听说尧君素如此忠义，又派使臣前去赐给尧君素金券，承诺不杀他。然而，尧君素依然不为所动。因尧君素家眷尚在长安城中，李渊便命人将他的妻子带到蒲坂城下。
尧君素的妻子在城下抬头望着城楼上的丈夫，眼中满是泪水：“夫君，隋朝已亡，你何必再自讨苦吃？投降吧，我们还能过安稳日子。”
尧君素看着妻子，心中一阵酸楚。他知道，妻子是为了他好，但他无法放弃心中的信念。他深吸一口气，沉声道：“天下大义，不是你们妇人能懂的！”
话音未落，尧君素已拉弓搭箭，箭矢如流星般射出，妻子应声倒地，城下一片哗然。
尧君素握弓的手青筋暴起，箭矢穿透妻子左肩。崔氏嘶声道：\"你守的究竟是大隋，还是自己的执念？\"
尧君素却再无表情。他自知大势已去，已无退路，但他志在坚守至死，几日来，每次谈到国家，都不禁流泪。他对将士们说：“我从前在藩邸侍奉主上，大义所在，不得不以死相报。如果隋朝的国运真的终结，天命已有所属，我自然会砍下自己的头交给你们，任凭你们去换取富贵。但现在城池坚固，粮草充足，天下大势尚未可知，你们不可心生异志！”
尧君素为人严明，善于统御部下，部下无人敢