La communauté juive yéménite est ancienne. Des preuves attestant la présence des Juifs au Yémen dès la période du Premier Temple et les découvertes archéologiques des dernières années viennent renforcer cette thèse.
La vie dans l’ombre de l’Islam était loin d’être facile. De nombreux décrets furent imposés aux Juifs tout au long de leur exil. Et malgré les vicissitudes, les Juifs yéménites conservèrent leur foi et leur religion.
La communauté produisit des érudits qui écrivirent des ouvrages de premier plan. Par exemple, rabbi David Adani compila le Midrash Hagadol et rabbi Yihyiah Salah (Maharitz), dirigeant et juge, écrivit un commentaire complet sur le Sidur Tefila (Arbre de vie).
Avant toute autre chose, les Juifs yéménites s’intéressaient à la poésie. De grands poètes virent le jour parmi les Juifs du Yémen, et à leur tête, rabbi Zechariah al-Dahiri au VIe siècle ou des poètes comme rabbi Yosef Ben Israël et le plus illustre d’entre eux, rabbi Shalom Shabazi.
Il y eut dans le passé des immigrations individuelles et de petits groupes en Eretz Israël. Mais la première alyah significative eut lieu en 1881, connue sous le nom d’« Ealeh beTamar » qui initia l’implantation des Yéménites dans le pays. Après la création de l’Etat, entre les années 1949 et 1950, la majorité des Juifs du Yémen arrivèrent en Eretz Israël lors de l’opération Tapis volant.
Depuis le début de leur immigration à la fin du XIXe siècle, les Juifs yéménites contribuèrent à l’implantation dans le pays, construisirent de nouveaux quartiers dans les villes et établirent des villages et des moshavim. A Jérusalem, avec l’aide de bienfaiteurs, ils érigèrent Kfar Shiloah (Silwan), présenté aujourd’hui dans le cadre du renouveau de « Kfar HaTeymanim », le village des Yéménites, ainsi que Batei Goral ou les quartiers yéménites Nahalat Zvi, Shaarei Pina, Nahalat Ahim. Mahanayim et Beit Salam (Shalom) qui favorisèrent la création d’autres quartiers comme Nahalat Zion.
Les immigrants du Yémen, tout en conservant leur modestie, sont des partenaires à part entière de la sécurité du pays, l’éducation, la culture et la gastronomie. Le patrimoine culturel de la communauté n’a eu de cesse de se développer en Israël dans l’art, la joaillerie et la musique et leur contribution, dans le respect de la tradition, leur réserve une place très particulière et pleine d’estime dans la mosaïque israélienne.