公元前221年，秦始皇建立统一的封建中央集权国家后，在今广东、广西、福建一带划郡而治。秦亡后，形成东瓯(治东瓯，今浙江温州市)、闽越、南越三个割据政权。西汉初，汉对该地采用安抚之策。高帝五年(前202年)，刘邦复立秦时被废为君长，楚汉战争中助汉击楚的原闽越王无诸为闽越王。十一年(前196年)，刘邦册封于南越自立的赵佗为南越王。惠帝三年(前192年)，惠帝复立原东海王摇为东海王(俗称东瓯王)。至此，南越、闽越、东瓯（ōu）分别为汉藩臣。高后五年，西汉关闭对南越国关市，禁止输出铁器、母牛，造成南越农业生产困难，与南越关系恶化。赵佗自号南越武帝。赵佗以为禁止关市乃长沙王离间所致，遂发兵袭击长沙国边境。高后命隆虑侯周灶率军击南越，因士卒不服南方水土，劳师无功。高后死，汉军罢兵。

文帝继位，遣太中大夫陆贾赐书赵佗，劝其内附。赵佗奉诏，恢复南越王号。景帝三年(前154年)，吴、楚七国叛乱，东瓯参与反叛。吴、楚军战败，吴王刘濞逃至东瓯，东瓯王受汉廷收买，杀刘濞。逃至闽越的刘濞子刘驹，痛恨东瓯。为报父仇，刘驹于武帝建元三年(前138年)，与闽越共谋，发兵围攻东瓯。东瓯王告急于汉。武帝刘彻命严助率军由海路救之，未至，闽越退去。东瓯奏请，举众内迁至今长江、淮河间，东瓯亡。建元六年，闽越再次兴兵，进犯南越边境郡县。武帝以大行王恢、大农令韩安国分别率军南征闽越。汉军未至，闽越王弟余善与宗族大臣共杀闽越王降汉。武帝封原闽越王无诸之孙为越繇王。后因余善威行国内，繇无力制服，再封余善为东越王，与繇王并立。

汉武帝时期，因平息内乱，开疆拓土以及对内对外征战中，时常遇到江河湖泊阻挡军队的进军速度，之前的舟师船队已不能满足汉帝国庞大的军需物资运输保障及其水战需要。汉武帝刘彻不但建立了一支威震欧亚，打败了匈奴铁骑的陆上大军，他也很重视海军的建设。汉帝国在这一时期首开了海军作为独立军种的建制，在江淮一带创建了一只拥有10多万常备兵员，且训练有素、装备精良的大型海军舰队——楼船水师。它是我国自轩辕黄帝开国以来，第一个独立的海军军种，而以往的大型舟师船队都只是陆军的辅助性水上武装力量。

为便于运输和转运大量的作战兵员和物资，也为了应对江河及近海水战之需，西汉王朝在上林苑内，开凿成一个巨大的人工湖，方圆四五十里（20公里左右），称为昆明池，用来训练从北方、中原一带征招来的士卒。上林苑是秦时修建的皇家旅游狩猎场，经过汉武帝的扩建，占地达三百里（华里）。苑内除了建造有离宫别馆、亭台廊榭七十所外，更重要的是有山谷、森林、水泉，八水分流、流进流出。这八水是发源于陕西省境内和甘肃省境内之水，即发源于陕西的紫渊、灞水、潦水，发源于甘肃的泾水、渭水，是专业化水兵士卒训练的理想之地。训练到一定熟练程度后，这些士卒便调入楼船水师。

楼船水师中还装备着一些大中型的戈船，即船前部吃水线以上，配置有几个尖锐的大型刀戈类钢铁利器，用于在水战时增加对敌船的攻击威力和破坏力。在当时的历史条件下，有如此装备，可称得上是当时世界上最庞大、最专业化、最先进的大型海军江防、近海海防舰队。

南越国是今天的广东、广西大部、越南南部沿海地区。南越王赵佗，秦时任南海郡（广州市）龙川县令。南海郡尉任器病重将死，召请赵佗代行郡尉之职。秦灭亡后，赵佗就自立为南越王。公元前196年，汉高祖刘邦派大夫陆贾追立赵佗为南越王。到高后时，他便自称南越武帝，要与汉天子平起平坐，还发兵攻打汉朝的边境。汉文帝时，任陆贾为太中大夫，出使南越国，责问他自立为帝为何不报朝廷，赵佗请罪，废去帝号称臣，派人按时朝见天子。但在国内窃用帝号如故；赵佗于建元四年死去。

赵建德接任南越王，此时三代老臣南越国丞相吕嘉，率心腹作乱对抗汉朝，还攻打东越国。汉武帝颁布特赦诏书说：“天子衰微，诸侯互相攻伐，《春秋》记之以讥刺人臣不为君讨贼。现在吕嘉、赵建德等反叛，心安理得自立自封。兹令巴郡、蜀郡犯罪被赦之人，编入步骑兵，遣江淮以南楼船水师十万兵员前往讨伐他们。”元鼎五年秋，以卫尉路博德为伏波将军，主爵都尉杨仆为楼船将军，下柯江（有北盘江、都江、乌江等说）；几路水陆兵马都到广州城外会师。

第二年冬，楼船将军杨仆率精锐楼船水师首先攻陷广东韶州的寻峡，又击破广州西北的石门，缴获一些南越国船只和粮食，挫败了南越军的先头水师，并以数万水师等候伏波将军的步骑兵来会师。伏波将军统领的步骑兵，多为犯罪被赦之人，征途遥远，大多数人体力不支误了军期，与楼船水师会师者，才到达1000多人，于是水陆并进。楼船水师在前面攻打广州城，吕嘉、南越王赵建德据城防守。杨仆自择有利地形，驻兵广州城东南面；伏波将军的陆军驻兵西北面。天黑时，楼船水师打败南越军，便放火烧城。因天黑不知汉兵有多少，大火反将南越败军驱入伏波将军营中。黎明时，城中败军向伏波将军投降。吕嘉、赵建德率心腹逃往海上，被汉军士兵抓获。

平定南越之战，楼船水师冲锋陷阵，攻城略地在前，在水战中大显神威，对战争的胜利起到了决定性作用，加快了取胜的进程。