劉聰攻下長安后，南方還在晉朝官員手里。晉愍帝在被俘前留下詔書，要鎮(zhèn)守在建康（原名建業(yè)，今江蘇南京市）的瑯琊（音ｌáｎｇｙá）王司馬睿（音ｒｕì）繼承皇位。

　　司馬睿在西晉皇族中，地位和名望并不高。晉懷帝的時候，他被派到江南去鎮(zhèn)守。他帶去了一批北方的士族官員，其中最有名望的是王導(dǎo)。司馬睿對王導(dǎo)言聽計從，把他看作知心朋友。

　　司馬睿剛到建康的時候，江南的一些大士族地主嫌他地位低，不怎么看得起他，也不來拜見他。為了這個，司馬睿心里不踏實，要王導(dǎo)想個辦法。

　　王導(dǎo)有個堂哥王敦，當(dāng)時在揚州做刺史，很有點勢力。王導(dǎo)把王敦請到建康，兩個一商量，想出一個主意來。這年三月初三，按照當(dāng)?shù)氐娘L(fēng)俗是禊（音ｘì）節(jié)，百姓和官員都要到江邊去“求福消災(zāi)”。這一天，王導(dǎo)讓司馬睿坐上華麗的轎子到江邊去，前面有儀仗隊鳴鑼開道，王導(dǎo)、王敦和從北方來的大官、名士，一個個騎著高頭大馬跟在后面，排成一支十分威武的隊伍。

　　這一天，在建康江邊看熱鬧的人本來很多。大家看到這種從來沒見到過的大排場，都轟動了。

　　江南有名的士族地主顧榮等聽到這個消息，從門縫里偷偷張望。他們一看王導(dǎo)、王敦這些有聲望的人對司馬睿這樣尊敬，大吃一驚，怕自己怠慢了司馬睿，一個接一個地出來排在路旁，拜見司馬睿。

　　這一來，提高了司馬睿在江南士族地主中的威望。王導(dǎo)接著就勸司馬睿說：“顧榮、賀循是這一帶的名士。只要把這兩人拉過來，就不怕別人不跟著我們走。”

　　司馬睿派王導(dǎo)上門請顧榮、賀循出來做官，兩個人都高興地來拜見司馬睿。司馬睿殷勤地接見了他們，封他們做官。

　　打那以后，江南大族紛紛擁護(hù)司馬睿，司馬睿在建康就站穩(wěn)了腳跟。

　　北方發(fā)生大亂以后，北方的士族地主紛紛逃到江南來避難。王導(dǎo)又勸說司馬睿把他們中間有名望的人都吸收到王府來。司馬睿聽從王導(dǎo)的意見，前前后后吸收了一百零六個人，在王府里做官。

　　司馬睿聽從王導(dǎo)的安排，拉攏了江南的士族，又吸收了北方的人才，鞏固了地位，心里十分感激王導(dǎo)。他對王導(dǎo)說：

　　“你真是我的蕭何��！”

　　公元317年，司馬睿在建康即位，重建晉朝。這就是晉元帝。在這以后，晉朝的國都在建康。為了和司馬炎建立的晉朝（西晉）相區(qū)別，歷史上把這個朝代稱為東晉。

　　晉元帝登基的那天，王導(dǎo)和文武官員都進(jìn)宮來朝見。

　　晉元帝見到王導(dǎo)，從御座站了起來，把王導(dǎo)拉住，要他一起坐在御座上接受百官朝拜。

　　這個意外的舉動，使王導(dǎo)大為吃驚。因為在封建時代，是絕對不允許有這樣的事的。王導(dǎo)忙不迭推辭，他說：“這怎么行。如果太陽跟普通的生物在一起，生物還怎么能得到陽光的照耀呢？”

　　王導(dǎo)這一番吹捧，使晉元帝十分高興。晉元帝也不再勉強(qiáng)。但是他總認(rèn)為他能夠得到這個皇位，全靠王導(dǎo)、王敦兄弟的力量，所以，對他們特別尊重。他封王導(dǎo)擔(dān)任尚書，掌管朝內(nèi)的大權(quán)；又讓王敦總管軍事。王家的子弟中，很多人都封了重要官職。

　　當(dāng)時，民間流傳著一句話，叫做“王與馬，共天下”。意思就是王氏同皇族司馬氏共同掌握了東晉的大權(quán)。

　　王敦掌握軍權(quán)，自以為了不起，把晉元帝不放在眼里。晉元帝也看出了王敦的驕橫，另外重用了大巨劉隗和刁協(xié)，對王氏兄弟漸漸疏遠(yuǎn)起來。這樣，剛剛建立的東晉王朝內(nèi)部就出現(xiàn)了裂痕。