Kanaanéerna levde länge kvar vid sidan av judarna men assimilerades till slut och försvann ur historien. På 1200-talet f Kr bosatte sig filistéerna, som talade ett indoeuropeiskt språk, längs kusten i söder. Namnet Palestina är avlett av filisté (pelishitim på hebreiska, Filastin på arabiska).
Till skillnad från grannfolken tillämpade judarna strikt monoteism (tro på en enda gud). Den religiösa lagen, Torah, som profeten Moses enligt Bibeln mottagit direkt av Gud, skulle genom årtusenden hjälpa judarna att bevara sin särart (se judendomen). Sedan forntidens judiska stammar enats under kung Saul intog hans efterträdare David Jerusalem omkring år 1000 f Kr. På jebuséernas heliga berg uppförde Davids son, Salomo, det första judiska templet.
Det judiska riket splittrades 930 f Kr i två, Israel i norr och Juda rike i söder. Sedan Nordriket, Israel, på 700-talet f Kr erövrats av assyrier kallades området där det hade legat för Samarien. Drygt hundra år senare intogs Juda rike av babylonierna. Templet förstördes, och judarnas ledande skikt tvångsförflyttades till Babylonien åren 586–539 f Kr (”babyloniska fångenskapen”); andra judar flydde till bland annat Egypten.
Sedan perserna krossat Babylonien fick judarna där återvända hem. Stora grupper, den så kallade diasporan (judarna i ”förskingringen”), bodde dock från denna tid utanför det judiska kärnland som nu var en tempelstat inom perserriket. Templet i Jerusalem återuppbyggdes till år 515 f Kr.
Alexander den store erövrade området 331 f Kr. Seleukiderna, som var efterföljare till en av Alexanders generaler, plundrade templet 166 f Kr. Judarna svarade med ett uppror, lett av Judas Mackabeus och hans bröder, och behöll sitt oberoende tills Rom tog över.
Romarna invaderar Jerusalem
År 64 f Kr intog romarna Jerusalem. Sedan romarnas judiske lydkung Herodes dött blev hans rike år 6 efter Kristi födelse en romersk provins, Iudaea, underställd provinsen Syria men styrd av prokuratorer. En av dessa var Pontius Pilatus (26–36 e Kr).
Då judarna försökte frigöra sig förstörde romarna som straff templet i Jerusalem år 70 e Kr. Endast Västra muren blev kvar. Man tror att det vid denna tid fanns ca åtta miljoner judar i världen, av vilka drygt två miljoner bodde i Iudaea. Många judar i förskingringen var proselyter, det vill säga de var inte födda judar men hade antagit judendomen som sin religion. En judisk sekt, som erkände Jesus från Nasaret som Messias (Kristus), avskilde sig efter hand från judenheten och började kalla sig kristna.
Efter ett nytt judiskt uppror 132–135 fördrevs nästan alla judar från Iudaea, som romarna från och med nu kallade Syria Palaestina eller enbart Palestina. För att ersätta judarna införde romarna icke-judiska kolonister.
Från 330-talet e Kr styrdes Palestina från det kristna Östrom (Bysans). Kejsar Konstantin lät uppföra Heliga gravens kyrka, där Jesus grav och Golgata enligt traditionen legat. Från Europa gick kristna pilgrimsfärder till ”det heliga landet”.