乾祐年间，武行德加同平章事，调任真定尹、成德军节度使。广顺初年，改任忠武军节度使，升任河南尹、西京留守。升了官的武行德还能秉公判案，丝毫不爽。当时朝廷禁止运盐入城，违反者按照法律可处死，告发的人给予厚赏。百姓家一个老妇人进城贩卖蔬菜，不久，一个僧人走过来，向老太太打听蔬菜的价格，还翻看老太太的竹筐，并没有买就走了。老太太拿着竹筐进城，守门人收到盐，捉住她送到官府。武行德是河南尹，就要审案。他看看盐包袱，不像是村中老太太所有的东西，就起了疑心，追问老太太。老太太说：“刚才有个僧人在城外要买我的菜，拿起来看了很久才离开。”武行德当即派人逮捕那个僧人，进行审讯。僧人全部承认了错误，原来他与守门官吏沟通，一起来诬陷老太太，然后举报，要求得赏赐。武行德知道后释放了老太太，杀掉僧人和数名守门小吏。

武行德本是樵夫出身，因勇力过人而得到赏识，才位至富贵。辨狱听讼，本不是他的长处。通过此事，众人才发现，他竟如此明辨事理，时人都深感惊异。此事一过，人们畏惧他就像敬畏神明，部下肃然。

后周期间，武行德被封为谯国公、中书令、邢国公、武宁军节度使、濠州行营都部署。曾经带领一万余人修复缺损的洛阳城，率领青壮年民夫在古堤疏导汴水，在濠州打败淮军二千多人，又带部队屯兵定远，可惜被南唐将领郭廷谓袭败。这场战役中后周军阵亡数百人，武行德也仅以身免。七月，世宗降授其为右卫上将军，以示惩戒，

但很快他又被提升，升为保大军节度使兼中书令，出镇鄜州，周恭帝即位后，封他为宋国公。

北宋建立之后，宋太祖加拜武行德为中书令，进封他为韩国公。其后再授忠武军节度使，改封魏国公。乾德二年冬，移镇安州，为安远军节度使，并加开府仪同三司。开宝二年，宋太祖赵匡胤为维持赵氏政权，避免重蹈五代灭亡之覆辙，接受了枢密使赵普的建议，采取劝谕和胁逼并用手段，迫使武将们主动交出兵权，这就是著名的“杯酒释兵权”事件。可惜武行德当时认不清形式，还要据理力争，好悬没因此获罪。

赵匡胤召时任安远军节度使的武行德与凤翔节度使王彦超、护国军节度使郭从义、定国军节度使白重赞、保大军节度使杨廷璋等同时入朝，在皇宫后苑设宴。席间，赵匡胤举杯对赴宴的武行德等人说：“卿等均国家旧臣，随朕鞍前马后，南征北战，戎马倥偬，至今尚无休养安乐的时候，这实非礼待贤臣的本意。”其中的王彦超马上领会了赵匡胤的意图，当即离席跪请辞官告老，受到赵匡胤的称赞。然而武行德等人却不明白其用意，历陈平昔的战功及履历艰辛，赵匡胤听后说：“这是前朝的事，不值得再提了。”次日，武行德等人被收回兵权，改授闲散官衔。也就是说，不管当时的武行德是不是主动交出兵权，朝廷都要收回兵权。后来武行德因为与太子太师王溥、左金吾卫上将军王彦超等都因“醉酒失仪”遭到御史弹劾，被太祖下诏赦免。不然，他很可能要被治罪了。

武行德生得相貌奇异魁伟，力大无穷，能打仗，能断狱，只是也吃过败仗，甚至投降之后再反叛，历仕四朝，始终做官。最后面对“杯酒释兵权”有点脑子转不过弯来，不过不能以此治他的罪，也不能以此来判定他就是一个纯粹的武夫，而是一个为将之才————出奇的相貌，出奇的力气，一定会有出奇的本事。