云台二十八将之一的马武，虽然是最后一个归顺到刘秀麾下的，但是所立功劳也不亚于其他27人。因为他战功显赫，后来民间在新桃换旧符的时候，总是把他当作门神，镇压小鬼。

马武自幼骨骼惊奇，而且勤奋好学，练就了一身好武艺。年轻的时候，马武血气方刚，因为行事鲁莽，一不小心与人结了仇，对方势力强大，为了躲避仇家，马武好离开家乡，客居于江夏地区，平日里靠给富人做保镖和街头卖艺维持生计。天生我材必有用，王莽末年，南方发生了严重的饥荒，官府的人又贪污赈灾钱款，很多灾民因为填不饱肚子只好落草为寇，因为队伍的大本营在绿林山中，所以此这支队伍又称“绿林军”。马武听说了绿林军的大名之后就前去投奔。因为他骁勇善战，不久就得到升迁。刘玄称帝之后，年号为更始，更始初年，马武因为军功累累，被擢升为侍郎。

马武曾经和刘秀并肩作战，在昆阳打败了王寻，因为刘秀在黄河以北屡战屡胜，威名大振，他的声望甚至超过了刘玄，生性多疑的刘玄对刘秀产生了怀疑，于是就派遣使者前去下达命令，封刘秀为萧王以作奖励，但是却不肯让他继续打仗，而是让他班师回朝。

刘秀也是皇室血脉，志在天下，刘玄派尚书令谢躬前去接替刘秀的职位，但是刘秀岂肯轻易拱手相让权柄，把自己辛苦打下的大好战果送给他人，秉着周亚夫“将在外，君命有所不受”的先例，他先行攻克邯郸，举行了盛大的庆功宴，同时也邀请谢躬以及马武，给他们接风洗尘。古有鸿门宴上的“项庄舞剑，意在沛公”，而此时的刘秀想要借机诛杀谢躬，但是谢躬很是机警，所以他没有成功。宴会结束之后，刘秀与马武暗地交谈，从容的对马武说：”我要到渔阳去突击骑兵，你做我的统帅怎么样？“马武看到刘秀的试探，没有直接应下，而是回答说道：”我是一个粗人，没有什么方略，怎能做得了统帅？“刘秀说：”马将军实在太谦虚了，您在行伍之中时日已久，又打了不少胜仗，刘秀心中对您很是敬佩。“因为谢躬还在身旁，马武担心授人以柄，不便给刘秀明确答复，只是在心下思量。他虽然是个武将，但是粗中有细，换工作可不是说换就换的，他当然要好好对比以后再行跳槽。刘玄做了皇帝之后，看到全国各地都他马首是瞻，于是就放松下来，不再励精图治，而是整日里和自己的宠姬们饮酒作乐，纵情声色，他的手下向他报告政务，他总是喝得铭酊大醉，不理不睬，后来甚至还怀疑曾经为自己立下汗马功劳的将士们，反观刘秀，他始终兢兢业业，而且对手下将领很是宽厚，且赏罚分明，深得军心，大家都拧成一股绳一起干。

最终马武决定投奔刘秀。刘秀看到马武前来投奔自己，心中也很是高兴，他想让马武前往邺城独自统领军队，但是马武却不肯，他心中还尚且有疑虑，担心刘秀会像刘玄一样看到将领们军功赫赫，就想要压制，所以他说：”臣下甘愿跟随在主公身边，为主公冲锋陷阵。“

马武本就骁勇善战，所以经常立下军功，在庆功宴的时候，他也是一个真性情的人，从来不和刘秀玩什么虚礼，直接到刘秀面前，和刘秀一起大碗喝酒，大口吃肉，刘秀也喜欢他这样豪爽的性子。

刘秀在慎水遭遇失败之后，马武不顾个人安危帮助刘秀断后，因为他作战英勇，竟然又一路打了回去，攻破了敌军的阵地，所以敌军不敢再追杀刘秀，慎水一役，马武救了刘秀的命，于是刘秀更加信任马武。后来刘秀登上帝位，史称汉光武帝，马武因为功大，做了侍中，兼任骑都尉，刘秀还封他为山都侯。

建武年间，马武为刘秀四处征战，稳定了新建的汉朝江山。

建武13年，各地基本已经归服新建的东汉王朝，而马武继续发光发热，北上曲阳，防备匈奴，但是暴脾气的他，一时不慎杀了军中小吏，犯了军法，刘秀不忍心，这样一个功臣被重罚，就下诏令让他带着自己的妻子儿女前往封地。马武为了谢罪，直接前往洛阳，呈上自己的将军印绶，又请汉武帝削减自己的户食邑，最终留在了京师。一方面，他放心不下边塞的战事，预计将来还会用到自己，另一方面，自己在军中威望甚高，倘若回到自己的封地，不知道有些小人会如何在背后造谣，说他心怀不满，想要谋反，他索性就留在京师当成人质，在刘秀的眼皮子底下，这样就不会无故的遭人陷害，当真是高明。

刘秀经常在宴会之上和功臣们饮酒畅谈，有一次，刘秀问他们：”如果诸位爱卿没有遇到这样的机遇，你们估计自己能做多大的官呢？“高密侯邓禹十分谦虚，说自己可以做郡里的文学博士，而马武则毫不谦虚的说道：”微臣勇武，可以做军尉讨伐盗贼。”刘秀笑着说：“只要你别做盗贼就成了。”

俗话说，酒后吐真言，马武这人没啥别的爱好，就喜欢喝酒，喝醉了之后就会在刘秀面前公开评论功臣诸侯们的长短，毫不避讳，刘秀不仅不以为意，而且还觉得很好玩，就让他畅所欲言。

建武二十五年，马武作为中郎将前去讨伐武陵的蛮夷，凯旋归来之后就又立马交上了将印，也正因为他的激流勇退，从来不拥兵自重，所以光武帝刘秀对他很是信任。显宗初年，西羌军队侵犯陇右，朝廷就再次拜马武为捕虏将军，年时已高的马武宝刀未老，果然不负众望，打败了侵扰大汉国土的羌人。