Еврейская община присутствовала в Харбине с его первых дней основания. В лучшие времена она насчитывала по разным оценкам от 10 тысяч до 25 тысяч человек. Наиболее известными храмовыми сооружениями еврейской общины Харбина являются Главная (Старая) синагога и Новая Синагога.

Но первая синагога (молельный дом) была построена еще в 1903 году на Саманной улице (позже была перенесена на Артиллерийскую, дом 6). С началом Русско-Японской войны получила название «Солдатская синагога».

Имеются свидетельства об открытии в 1920 году в Модягоу  на Сербской улице в доме №179 Харбинской синагоги Модягоу (молельного дома).