Церковь располагалась на Садовой улице, дом 18, на углу Ляоянской улицы. Участок был предоставлен Управлением КВЖД в 1918 году бесплатно. Снабжением, строительством храма и подсобных построек, а также надзором над строительством занимался архитектор Микаел Тер-Овакимян. Участок был освящен 5 сентября 1923 г., церковь открылась 18 ноября 1923 г.
В 1925 году китайские власти официально признали ее, но уже как Армяно-григорианскую церковь.
С 1932 года (по другим данным с 1933 года) по 1937 год церковь не работала, а помещения храма были в аренде у лютеранской церкви. В эти годы религиозные нужды харбинских армян справлялись в русской православной церкви.
После 1938 года Армяно-Григорианская церковь Харбина претерпела значительную реконструкцию: в храме и подсобных постройках был проводен ремонт, переоборудование и расширение помещений.