不久，阿骨打的父親烏雅束死去，阿骨打繼任完顏部首領，他建筑城堡，修理武器，訓練人馬，逐步統一了女真各部，準備反遼。

　　遼天祚帝得知阿骨打備戰，一面派使者到阿骨打那里去責問，一面調動河北幾路人馬到東北威脅。

　　阿骨打對部下說：“現在遼人快要動手了，我們要先發制人，免得被動。”他集中女真各部騎兵二千五百人，親自率領襲擊遼朝。遼將沒有準備，狼狽奔逃。遼天祚帝得知消息，立刻派大軍鎮壓，在混同江邊，遭到阿骨打騎兵的痛擊。女真兵乘勝追擊，兵力發展到一萬人。

　　公元１１１５年，阿骨打在會寧（今黑龍江阿城南）正式稱帝，國號大金。他就是金太祖。

　　金太祖即位后，攻打遼朝東北重鎮黃龍府（今吉林農安縣）。遼天祚帝派了二十多萬步兵、騎兵到東北去防守，被金兵打得大敗，連武器、耕具都丟得精光。遼天祚帝想跟金朝講和，金太祖可不答應，指名道姓要遼天祚帝投降。

　　遼天柞帝惱羞成怒，組織兵力七十萬，親自帶領到黃龍府去。

　　金太祖命令將士筑好營壘，挖掘壕溝，準備抵抗。正在這個時候，遼朝發生內亂，遼天祚帝下令撤兵。金太祖趁機追擊，幾十萬遼軍一下就垮了下來。遼天祚帝一天一夜逃了幾百里，才算保住了一條命。

　　這時候，遼朝兵力大部喪失，北方人民不滿遼朝貴族的統治，紛紛起義。

　　有人向宋徽宗提議，遼朝快要滅亡，收復北方燕云失地，這可是個好機會。宋徽宗派人從山東渡海，前往金朝會見金太祖，表示愿意夾攻遼朝。雙方約定滅掉遼朝之后，北宋收回后晉時期割讓給遼朝的燕云十六州失地，北宋把每年送給遼朝的銀、絹，如數轉送給金朝，歷史上把這件事稱作“海上之盟”。

　　金兵向南進攻，接連攻下了遼朝四座京城。還留下一個燕京，按照雙方約定，應該由宋軍攻打。

　　童貫剛剛鎮壓了方臘起義軍，就帶領十五萬大軍趕到北方，攻打燕京。他滿以為遼兵的主力已經被金軍消滅，打下燕京可以不費多大勁兒。哪知道遼兵雖然虛弱，比宋軍還強得多。童貫一連打了兩次敗仗，不但燕京沒有收復，而且損兵折將，把多年以來積存的糧草、武器全都丟光。

　　童貫為了逃避失敗的責任，暗地派人請金軍攻燕京。金軍一舉拿下了燕京，不肯還給北宋。童貫只好答應把燕京的租稅每年一百萬貫錢獻給金朝，才把燕京贖了回來。這一來，北宋王朝的腐朽可讓金朝看穿了。公元１１２５年，金太祖的弟弟金太宗完顏晟（音ｓｈèｎｇ）派遼將追殺遼天祚帝，滅了遼朝。接著發兵南下，把進攻矛頭轉向北宋王朝。