Lahir dengan nama Yisrael Idelson di Konotop, Kegubernuran Chernigov, Kekaisaran Rusia (sekarang Oblast Sumy, Ukraina) pada 1895,[1] Bar-Yehuda masuk Perguruan Tinggi Akademi dan Institut Teknik Pertambangan di Ekaterinoslav. Pada masa itu, ia adalah guru matematika dari kelak Lubavitcher Rebbe, saat masih berusia 17 tahun.
