哈尔滨文庙座落在哈尔滨市南岗区东端文庙街北侧，坐北朝南，地势南高北低。19世纪末20世纪初，哈尔滨的政治、经济、文化特权被俄、日、英、法、德、意、美、丹等十几个国家的殖民者控制，新兴城市哈尔滨成了殖民者的乐园，这使得一些爱国的有识之士深感忧虑。张学良将军在 《哈尔滨文庙碑记》中写到：“民德即离，势必至于家邦陵替，本实先拨，而求枝叶之无伤，胡可得也。”为此，由政府投资和社会捐款73万银元，于1926年至1929年修建了这座东北地区面积最大，建筑等级最高、保存最完好的一座孔庙。