1952年，哈尔滨师范学校开设了2个幼师班，这就是哈尔滨市幼儿师范学校的前身。幼师班首届的80位毕业生都成了哈市幼教战线上的生力军。

1953年，简易师范学校更名为哈尔滨市师范学校，幼师专业走上正轨。

1955年，国家教育部在全国重点装备了十所师范学校，哈尔滨市师范学校是其中之一。

1958年，幼师班从哈尔滨市师范学校中分出，以哈尔滨市林业工人疗养院为校址，独立办学。从此，哈尔滨市有史以来第一次有了独立培养幼儿师资的学校——哈尔滨市幼儿师范学校。

1960年，学校已经具备14个教学班。同时开设幼师班、园长班、视导员班、短训班，成为黑龙江省幼师培养培训基地。

1963年，在国家“调整、巩固、充实、提高”的方针指导下，哈幼师再次并入位于哈平路上的哈尔滨市师范学校，成立哈师校幼师部。

文革开始至1973年的八年里，哈尔滨市师范学校幼师部被禁止招生，这是哈尔滨幼教发展史上的空白期。1974年学校恢复办学，迁入位于和兴路69号的校址。

1975年，哈尔滨市师范学校幼师部迁入金山堡农场。1979年，幼师部迁回师范学校本部办学。

1980年，哈尔滨市师范学校幼师部被联合国儿童基金会、国家教育部确定为联合国儿童基金会受援单位。

1983年，哈尔滨市幼儿师范学校再次正式独立挂牌，与哈尔滨师范学校共用一处校舍，一套领导班子。

1986年，哈尔滨市幼儿师范学校从哈尔滨市师范学校中分离，再次独立建校，新校舍坐落于和兴路58号。

1986年起，面向全省范围招生，同时开设培训班、业余班、函授班，并在宁安、大庆、阿城等地设立了培训点。

1990年，哈尔滨市幼儿师范学校增设了音乐、美术、英语教育等专业，拓展了办学规模，同年被评为“全国办学先进单位”、“省师范类学校一类学校”，实现了幼师办学的标准化、规范化，形成了幼师教育的独特体系，进入了全国幼儿师范学校的先进行列。

新世纪以来，为适应幼儿教育发展对高层次人才的需求，实现国家“由三级师范教育向两级师范教育过渡”的总体目标，根据省教育厅的部署，学校从2000年开始招收初中起点三二连读的五年制大专班，由单一的三年制中专发展为五年制大专和三年制成人中专两种学制。进一步提升了办学层次和人才培养水平。同时，学校大力提升教师队伍建设力度，加强教学科研实力，整体实力飞速提升。

为了进一步优化职业技术和师范教育结构布局，提升幼教人才培养水平，满足人民群众对优质学前教育的需要，2009年11月26日，哈尔滨市人民政府决定，整合幼教资源，以哈尔滨市幼儿师范学校为依托，合并哈尔滨市幼儿师范学校、妇联幼师学校、民进幼儿师范学校和哈尔滨艺术职业学校四所学校，异地建设新校区，筹建哈尔滨幼儿师范高等专科学校。

2011年10月28日，学校隆重举办了新校区奠基仪式。

2012年5月2日，黑龙省人民政府下发批复，同意在哈尔滨市幼儿师范学校的基础上建立哈尔滨幼儿师范高等专科学校。

2012年5月28日，哈尔滨幼儿师范高等专科学校正式挂牌。

2013年2月，教育部网站正式公布，哈尔滨幼儿师范高等专科学校通过了教育部年度专业设置备案，可以面向全国招生。

2014年3月1日，学校新校区正式投入使用。

2014年9月1日，学校整体搬迁到位于香坊区香东街9号的新校区。

历经70余年的洗礼，学校正大力加强内涵建设，加强教学管理，推进教学改革，提高教学质量，全面贯彻党的教育方针，发挥学校在人才培养、科学研究和社会服务三方面的职能，向着全国一流幼儿师范专科学校迈出了新的步伐。