參孫死后，希伯來人仍舊生活在動蕩之中。由于當時的希伯來人還分成了許多小部落。其中較大的部落，一個叫以色列，一個叫猶太。由于一直沒有能夠使所有希伯來人佩服的人出現，有很長時間希伯來人的各個部落沒有統一的領袖。正當希伯來人處于分裂狀態時，來自地中海沿岸島嶼的一個叫做腓力斯丁人的強大部落，向希伯來人發動了進攻。希伯來人沒能抵擋住腓力斯丁人的進攻。連本族的圣物“約柜”，也讓腓力斯人搶走了。

　　就在猶太民族四分五裂的時候，有一個名叫掃羅的勇敢的年輕人，在一次迎擊敵人的進攻中表現得十分勇猛、機智和果斷，成了全體希伯來人尊敬的英雄。全體希伯來人一致推選他為希伯來的新王，為他舉行了希伯來人最隆重的涂油圣禮，把油涂在掃羅者的身上，承認他為希伯來人的最高首領。后來，掃羅王因為在一次戰斗中失敗而自殺了。

　　掃羅死后，一個有勇有謀，名字叫大衛的青年登上了王位。他曾經是一個強盜頭，后來被掃羅收服，成了掃羅的帶兵官。大約在公元前１０００年，大衛率領猶太人將腓力斯丁打敗，并從腓力斯丁人手中奪回了圣物“約柜”。不久，大衛的軍隊又攻下迦南人的一個叫耶路撒冷（意思是“和平之城”）的小城市。因為大衛出身猶太部落，他就把他建立的國家稱為猶太王國，并把首都建在耶路撒冷，將圣物“約柜”供奉在耶路撒冷的神殿中。大衛還在在耶路撒冷大興土木，修建宮殿和神殿，自己也過上豪華的帝王生活。

　　大衛死后，他的兒子所羅門繼承了王位。所羅門是一個很聰明的國王。一天，一名官員帶著兩個婦女和一個孩子到所羅門那里。他對所羅門說，這兩個婦女都說孩子是自己的，他無法判定，因此他只好將她們帶到這里。所羅門稍想了一下，就對手下人說，既然無法判定誰是孩子的母親，那就用劍將孩子劈成兩半，兩人各得一半。這時，其中的一個婦女大哭起來，向所羅門請求，她不要孩子了，只求不要傷害孩子，另一個婦女卻無動于衷。所羅門哈哈一笑，對那個官員說：“現在你該知道，誰是那個孩子的真正的母親了吧。任何一個母親都不會讓別人傷害自己的孩子的。所羅門時代是猶太人歷史上最繁榮的時代。

　　所羅門同時也是一個比他父親更加追求享受的國王。他下令繼續修建許多的宮殿和神殿，其中最宏偉的是位于耶路撒冷小山上的宮殿和猶太教圣殿。耶和華的“約柜”也被送到新落成的圣殿中。在許多世紀中，這個圣殿成了團結猶太人的象征。公元前５８６年（中國春秋的時候），猶太國被巴比倫滅亡，耶路撒冷全城的猶太人都成了俘虜，被稱為“巴比倫之囚”。６０年以后，巴比倫又被波斯征服了。波斯王居魯士釋放了囚禁在巴比倫的猶太人。

　　但是，猶太人在回到耶路撒冷之后，并沒有過上和平的生活，不時的遭到外族的侵犯。猶太人在絕望中，只好把希望寄托于“彌賽亞”（救世主）的來臨。在“巴比倫之囚”５個世紀之后的公元６６年，羅馬總督提圖斯掠奪耶路撒冷神殿和宮殿里的寶物，遭到猶太人的堅決反抗。

　　斗爭繼續了４年，到公元７０年，整個耶路撒冷被提圖斯淹沒在血泊中，他屠殺了全城的猶太人，另外有９．７萬人被變賣為奴隸，有的送到礦山采礦，有的成了羅馬斗獸場的角斗士。此后，猶太人便離開了耶路撒冷，散落到世界各地。有的甚至來到中國，居住在開封等地。一直到第二次大戰之前，猶太民族仍然是一個沒國家的民族。