很薄的衣服踏鼓，在场的人大笑，杨阜严厉斥责曹洪说：“男女有别，这是国家的大节，怎么能在大庭广众面前，让女人裸露形体，即使夏桀、商纣的败乱，也不及如此。”于是愤然辞出，曹洪马上下令女伎停演，又请杨阜还座，在场的无不肃然起敬。
刘备攻取汉中，逼近下辩，曹操考虑到武都距敌人太近，想把百姓迁移至内地，但又怕当地官兵眷恋故土，杨阜很有威望，迁移工作极为顺利，迁居到京兆、扶风、天水等界内的，多达万余户，治所移到小槐里，百姓扶老携幼相随而行，杨阜做太守仅抓大事，下属也不忍心欺骗他。魏文帝曹丕问侍中刘晔等人：“武都太守怎么样啊？”大家都一致称赞他是德才兼备的人，还未来得及重用，曹丕就死了，杨阜在郡职呆了十几年，才被召任为城门校尉。
后来杨阜经常看见魏明帝戴着绣帽，穿着半袖的缥绫衣服，他就问明帝：“这是行的什么礼仪呢？”明帝默不作答，但是后来不按礼法穿朝服，就不敢再见杨阜。明帝大兴土木，选美女以充后宫，还不断出宫到禁囿中巡猎，这年秋天，一场大雨，加上罕见的雷电，竟劈死很多鸟雀。杨阜上书说：“我听说君主圣明，群臣都敢直言不讳，唐尧、虞舜都是圣明的君主，他们公开叫群臣提意见，征听劝谏，大禹多创功业，而自己的宫室却很窄小，成汤王遇上旱灾，把责任归在自己身上周文王用礼法感化妻子，汉文帝崇尚节约，着布衣，所有这些，都是能听取好的建议，为子孙后代谋虑的举动。臣愿陛下能奉行武皇帝开拓的伟业，恪守文皇帝始终如一的传统，向古代圣贤的善政看齐，力避末代帝王放荡亡国的恶政，所谓善政，即指崇尚节约，重视百姓的生产，所谓恶政，即指随心所欲，任意而为。臣愿陛下细心考察古代治世所以明达、古代末世所以衰弱以至灭亡的历史原因，对于近代如汉末的巨大变故有所省悟，就可以引起警惕了，假使汉桓帝和汉灵帝不废弃汉高祖的法则以及文帝、景帝的恭俭品节，那么即使我太祖曹操再英明伟大，也无施展才能的机会。而陛下哪还有机会位居帝王呢？当今吴、蜀还未平定，在外还有大军，愿您要三思而后行，进宫出宫要慎重，以古代的成败，来作为治理朝政的借鉴，说来容易，但确实关系到成败大事，刚刚下过大雨，暴死的生灵很多，雷电如此厉害，以致击死麻雀，天地神明，把帝王作为它的儿子，凡是政治有所失当的，它就会降灾谴责，应该深刻反省自己，这是圣人的教导。愿陛下在事前就早做思考，在事情初露端倪时就谨慎对待，效法汉孝文帝让汉惠帝的后宫佳丽出去嫁