公元２２年，王莽派太師王匡（和綠林軍中的王匡是兩個人）和將軍廉丹率領十萬大軍去鎮壓樊崇起義軍。樊崇作好準備，跟官兵大戰。為了避免起義兵士跟王莽的兵士混雜，樊崇叫他的部下都在自己的眉毛上涂上紅顏色，作為識別的記號。這樣，樊崇的起義軍得了一個別名，叫“赤眉軍”。

　　王莽的軍隊和赤眉軍打了一仗。結果，官兵打了敗仗，逃散了一大半。太師王匡的大腿被樊崇扎了一槍，逃了回去；將軍廉丹在亂軍之中被殺了。赤眉軍越打越強，發展到了十多萬人。

　　綠林、赤眉兩支起義大軍分別在南方和東方打敗王莽軍的消息一傳開，別地方的農民也都活躍起來。黃河兩岸的大平原上大大小小起義軍有幾十路。有一批沒落的貴族和地主、豪強也趁機起兵，反對王莽。

　　南陽郡舂陵（今湖南寧遠北）鄉的豪強劉縯（音ｙǐｎ）、劉秀兄弟兩人，因為王莽廢除漢朝宗室的封號，不許劉姓人做官，心里怨恨，發動族人和賓客七八千人在舂陵鄉起兵。他們和綠林軍三路人馬聯合起來，接連打敗了幾名王莽的大將，聲勢就強大起來了。

　　綠林軍的幾支隊伍沒有統一的指揮。將士們認為人馬多了，必須有個首領，才能統一號令。一些貴族地主出身的將軍，利用當時有些人的正統觀念，認為一定要找一個姓劉的人當首領，才能符合人心。

　　綠林軍里姓劉的人很多，該推誰做首領呢？舂陵兵想推劉縯，可是新市和平林兵的將領怕劉縯勢力太大，一定要立一個破落的貴族劉玄做皇帝。劉縯又提出等消滅了王莽、收服赤眉軍以后，再立皇帝，也遭到反對。劉縯覺得自己力量不夠，也只好同意了。

　　公元２３年，綠林軍各路將士就正式立劉玄做皇帝，恢復漢朝國號，年號“更始”，所以劉玄又稱更始帝。更始帝拜王匡、王鳳為上公，劉縯為大司徒，劉秀為太常偏將軍，其他將領也各有各的封號。打那時候起，綠林軍又稱為漢軍。