西晋灭亡后，北方一些少数民族（主要有匈奴、鲜卑、羯、氐、羌）和一些汉族豪强，纷纷建立割据政权，彼此混战，进入十六国时期。

在南方则以建康（江苏南京）为中心，出现了司马睿建立的政权。

西晋的都城先后在洛阳和长安（陕西西安），后人依方位划分，将晋朝在洛阳和长安的统治称为西晋，将都城在建康后的统治称为东晋。

东晋是在北方和南方的世家大族支持下建立的。

司马睿是司马懿的曾孙，十五岁继承父亲的爵位为琅琊王以后，结交了琅琊郡的大世族王导。王导见到西晋的天下大乱，有可能侥幸建立王家当权的小朝廷，于是，对司马睿“倾心推奉”，特别注意拉拢。

晋元帝司马睿

晋怀帝永嘉元年（公元307年）七月十一日，朝廷任命司马睿为安东将军、都督扬州江南诸军事，持符节，镇守建康。九月，司马睿便让安东司马王导作为主要谋士，“推心亲信，每事咨焉”。

司马睿名望声誉一直很轻，当地的人们都不附从，在建康居住了很久，士大夫没有一个来拜访的，王导感到很忧虑。正赶上司马睿出去观看禊祭（到水边祈福祛灾），王导就导演司马睿乘上抬轿，并安排了威严的仪仗。王导和其他的一些名士们都骑马簇拥在后面侍从，以炫耀司马睿的尊贵和威严。

这一招果然有效，江南的名门望族纪瞻、顾荣、贺循等人见了这个“阵容”以后，非常惊讶和震动，赶忙跑出来一个跟着一个地在道路旁边行拜礼，拜见司马睿。司马睿也乘机让王导亲自拜访贺循、顾荣等最具名望的江南大族，还任命贺循担任吴国内史，顾荣担任军司马，加授散骑常侍。军政事务，都与他们商量。

王导

于是，在他们的带动下，江南的名望大族都纷纷起来拥护和响应司马睿。紧接着，司马睿又让纪瞻担任军咨祭酒，让其他一些人各自担任相应的官职。一时，吴郡、会稽郡的人都归心于司马睿。

这时候，北方大乱，江东则较为安定，中原世族惧怕战乱而大量南逃。王导因而又劝谏司马睿收其贤俊，与之共事，努力争取北方世族的支持和拥戴。司马睿把这些人中有名望的一百多人征为属官。

司马睿由于得到了南方和北方南迁的两部分名门望族的拥护，就在江南站稳了脚跟。

晋愍帝建兴四年（公元316年）十一月十一日，晋愍帝向汉国投降。得知此消息，晋元帝建武元年（公元317年）三月初九，司马睿依照魏、晋即有成例，即晋王位。

晋元帝建武元年（公元317年）十二月二十日，晋愍帝被汉帝刘聪杀死。得知此消息，司马睿便于晋元帝太兴元年（公元318年）三月初十，由晋王即皇帝位，正式称帝，是为晋元帝。东晋从此建立。