Der Vorgänger der Haganah war die 1909 gegründete Gruppe Ha-Shomer . Es war eine kleine Vereinigung jüdischer Immigranten, die nie mehr als 100 Mitglieder umfasste.

Nach den arabischen Unruhen von 1920 und 1921 wollte sich die zionistische Führung bei der Verteidigung der Siedlungen nicht länger auf die britischen Kolonialtruppen verlassen. Ha-Shomer reichte nicht mehr aus, weshalb man sie in dem Juni 1920 auflöste und die zentralisierte und besser organisierte Haganah gründete.

Während der relativ ruhigen ersten neun Jahre war die Haganah dennoch eine eher lose Organisation örtlicher Verteidigungsgruppen in größeren Orten und wenigen Siedlungen. Die von Jisrael Galili geführte Organisation unterstand der zivilen Führung der Gewerkschaft Histadrut und war ihrem starken Einfluss unterworfen.

Infolge der Unruhen des Jahres 1929, die zu 133 Toten auf jüdischer Seite führten, änderte sich die Rolle der Haganah dramatisch. Sie wurde zu einer wesentlich größeren Organisation und umfasste beinahe alle Jugendlichen und Erwachsenen in den ländlichen Siedlungen und hatte tausende Mitglieder in den Städten. Sie begann, ausländische Waffen zu besorgen und einfaches militärisches Gerät sowie Handgranaten herzustellen. Gleichzeitig wandelte sie sich von einer untrainierten Miliz zu einer ernst zu nehmenden paramilitärischen Vereinigung.

1936 bestand die Haganah aus 10, Tausend aktiven Soldaten und 40, Tausend Reservisten. Während der großen Unruhen der Jahre 1936-1939 kämpfte sie aktiv zu Gunsten britischer Kolonialinteressen. Obwohl die britische Regierung die Haganah nicht öffentlich anerkannte, kooperierten britische Sicherheitseinheiten mit Teilen der Haganah. Die Kriegserfahrung dieser Jahre erwies sich später in dem Palästinakrieg 1947-1949 für die jüdische Seite als nützlich.

Aus Unzufriedenheit mit der insgesamt eher moderaten Haltung der Haganah spalteten sich 1937 die meisten Mitglieder der rechten Flügel ab und bildeten den Irgun. Die Untergrundorganisation Irgun und ihre Abspaltung, die Stern-Gruppe , wurden durch ihre geheimen, meist terroristischen Missionen bekannt.

Um die Lage zu beruhigen, wurde die jüdische Einwanderung nach Palästina 1939 von den Briten eingeschränkt, worauf die Haganah die illegale Einwanderung und Demonstrationen gegen die Briten organisierte. Sie gründete außerdem die "Organisation für illegale Einwanderung" - Alijah Bet , die über Basen in der Schweiz und der Türkei operierte. Die Haganah führte auch Terroranschläge gegen die britische Kolonialverwaltung, z.T. auch gegen palästinensische Dörfer aus.

Trotz des Weißbuchs von 1939, das die Einwanderungsbeschränkungen für Juden festschrieb und damit die jüdische Führung in Palästina tief verärgerte, stellte sich David Ben-Gurion als Vorsitzender der Jewish Agency nach Kriegsausbruch an die Seite der Briten: "Wir werden Hitler bekämpfen, als ob es kein Weißbuch gäbe, und wir werden das Weißbuch bekämpfen, als ob es keinen Krieg gäbe". Der Irgun nahm allerdings eine extremere Position ein und begann britische Einrichtungen anzugreifen.

Im ersten Jahr des Zweiten Weltkriegs ersuchte die britische Armee die Haganah aus Angst vor einem deutschen Durchbruch in Nord-Afrika um Unterstützung. Nachdem Rommel allerdings 1942 in El Alamein besiegt worden war, beendeten die Briten ihre uneingeschränkte Unterstützung der Haganah. Nach langen Verhandlungen wurde 1943 eine Jüdische Brigade innerhalb der britischen Armee gegründet. Zwar war den palästinensischen Juden schon seit 1940 der Eintritt in die britische Armee gestattet, die Jüdische Brigade war jedoch die erste ausschließlich jüdische Militäreinheit, die in einem Krieg diente; sie bestand aus 5 Tausend Soldaten und wurde in dem September 1944 in Italien eingesetzt. Die Auflösung erfolgte 1946.

Insgesamt dienten während des Krieges mehr als 30 Tausend palästinensische Juden in der britischen Armee.

Im Frühjahr 1941 gründete die Haganah die Palmach (Akronym für Plugot Mahatz— Einsatztruppen), eine militärartige Einrichtung, die sich auf das Training von Jugendlichen konzentrierte. Sie war vergleichsweise klein - bis 1947 umfasste sie ca. fünf Batallione (ca. 2 Tausend Mann), spielte aber eine wichtige Rolle, da ihre Mitglieder grundlegende militärische Fähigkeiten und auch Führungsfähigkeiten erhalten hatten, die sie für Führungsfunktionen in der späteren israelischen Armee qualifizierten.

Nach dem Krieg führte die Haganah anti-britische Operationen in Palästina aus, z.B. die Befreiung internierter Immigranten aus dem Atlit Camp , Bombenanschläge auf das Eisenbahnnetz sowie Sabotageakte auf Radarstationen und Polizeistationen der Briten. Außerdem organisierte sie zusätzlich die illegale Einwanderung von Juden.

Am 28. Mai 1948, weniger als zwei Wochen nach der Gründung des Staates Israel (am 15. Mai), gründete die provisorische israelische Regierung die neue israelische Armee Zahal (IDF). Zeitgleich wurden alle anderen bewaffneten Gruppen verboten. Der Irgun akzeptierte die Entscheidung nach einem kurzen Zusammenstoß zwischen Haganah und Irgun. Schließlich legte der Irgun die Waffen nieder und Menachem Begin transformierte seine Miliz in eine politische Partei, die Herut .

Berühmte Mitglieder der Haganah: Yitzhak Rabin, Ariel Scharon, Rehavam Zeevi , Mosche Dajan