Le professeur Halivni est né David Weiss à Kobyletska Poliana, aujourd’hui en Ukraine. (Il a ensuite adopté le nom de famille hébreu Halivni, qui, comme Weiss, signifie essentiellement blanc, car le nom Weiss appartenait également aux officiers SS qu’il a rencontrés.) Bien que son passeport ait donné son anniversaire au 21 décembre 1928, son fils a déclaré que son véritable anniversaire était 27 septembre 1927, et que la date a très probablement été modifiée afin qu’il puisse se qualifier pour l’immigration aux États-Unis dans le cadre d’un programme spécial pour les orphelins de guerre.
Quand il avait 4 ans, son père, Ephraim Bezalel Viderman, et sa mère, Feige Weiss, se sont séparés et il est allé avec sa mère vivre avec son grand-père hassidique, Shaye Weiss, un érudit estimé du Talmud, dans la ville de Sighet, alors en Roumanie. . Là, il était parfois un camarade de classe à l’école religieuse d’Elie Wiesel, futur lauréat du prix Nobel de la paix.
Son grand-père s’est rendu compte que David était un enfant prodige, doté d’une mémoire phénoménale capable de se rappeler des pages entières de texte, et l’a fait plonger dans le Talmud à l’âge de 5 ans. À l’âge de 10 ans, il avait cessé d’aller à l’école pour étudier à plein temps. propre, et à 15 ans, il a été ordonné rabbin.
En mars 1944, les Allemands ont marché sur Sighet et ont déporté ses résidents juifs à Auschwitz, où la mère, la sœur et le grand-père de David ont été tués. Son père a également été tué par les Allemands, le laissant à 16 ans le seul survivant de sa famille. Après une semaine à Auschwitz, il est transféré dans des camps de travaux forcés à Gross-Rosen, Wolfsberg et enfin Mauthausen, où il travaille dans une usine souterraine de munitions.
Plus tard, il a dit à ses fils qu’à une occasion, il avait remarqué un garde allemand en train de manger un sandwich enveloppé dans une page déchirée du Shulchan Aruch, le code de la loi juive, et avait osé demander au garde de lui donner l’emballage. Le gardien a consenti et la page est devenue un objet de discussion pendant plusieurs mois.
Après la défaite des Alliés contre les Allemands, il retourna à Sighet pour constater que la communauté juive y avait été anéantie et séjourna à Budapest, où il passa ses journées à étudier avec un rabbin. Il a dit à ses fils, a déclaré Baruch Weiss, que « la seule chose qui l’a fait continuer après la guerre était d’apprendre ».