曹操时代，当时汉阳本地官吏深受凉州刺史韦康厚恩，韦康为了保护全城百姓，出城投降马超，反被马超所害。
杨阜与姜叙等人带领自己的宗族起兵反抗马超，杨阜宗族七位兄弟在与马超的交战中，皆战死。
杨阜身上受到五处创伤，侥幸活了下来。
击败马超，陇右平定后，曹操封赏讨伐马超的功臣。
封侯者多达十一人，杨阜也因功被封为关内侯。
杨阜立刻推辞道：“我作为凉州下属的官员，没能保护好刺史大人的性命。他们死后，还未来得及尽节报孝。
在道义上，我应该被免官罢黜；在国家的律法上，我应当被处死。
如今既没能杀死马超，为凉州刺史韦康报仇雪恨，朝廷却要封赏于我，下官实在没有脸面接受这样的封赏啊！”
曹操被杨阜忠贞正直的节操所感动，深情的说道：“没想到在凉州，还有义山（杨阜）这样的名士，真是让孤肃然起敬啊！
诸君反对马超的暴政，逐马超于陇右，不但为国家守护住了西北大地，亦保护了本地的黎民百姓。
即使到了今日，凉州百姓仍然将你们的大功挂在嘴边，作为生活之中的美谈。
如此大功，为什么不值得封赏呢？
当初子贡辞让封赏，孔子认为不妥，现在义山辞让封赏，我与孔子的想法相同。
你们尽心报国忠勇可嘉，连姜叙年老的母亲，同样知道为国效力，劝其子早日起兵，对抗马超，亦是大功一件。
朝廷有良史记录忠义，永远不会忘记为国付出之人的功劳啊！”
曹操出征汉中时，因为杨阜熟悉地形，辟为随军参军。
张飞、马超等从沮道逼近下辩县，氐帅雷定率七个部落响应马超，共同进攻曹操的军队。
曹操派曹洪督自家的二代将领曹休、曹真等于下辩县，狙击对方。
曹休、曹真率领的乃是曹操麾下最精锐的虎豹骑，张飞、马超虽然勇猛，却仍然不敌曹休、曹真。
曹洪得知自己的两个子侄辈立下如此大功，非常欣慰，大