截至清朝嘉庆皇帝在位时期，东北地区的总人口只有100余万人。清朝在东北地区并没有推行行省制度，而是让辖地将军负责管理各地的军政事务。东北地区设立了黑龙江将军、吉林将军和盛京将军，三大辖地将军各自管理大片的区域。由于没有地方官员和各级区划，朝廷对东北地区的掌控能力很低。例如东北地区的耕地、矿产、人口等情况，清朝并不完全清楚。
清朝统治的前期，依靠强盛国力的支撑，上述一系列问题并不明显。进入清朝统治的后期，西方列强对清朝发动了一系列的战争，例如鸦片战争、甲午战争等等，清朝一败再败、不得不割地赔款，同时开放了大量的通商口岸。西方列强开始染指资源丰富、土地肥沃、地理位置重要的东北地区。尤其是沙俄和日本，为了争夺东北地区，1905年，爆发了日俄战争。
为了加强对东北地区的管理，1908年，清朝在东北地区组建了奉天省、吉林省、黑龙江省。与此同时，为了扩大东北地区的人口，清朝放开了原来的政策，华北各省的百姓，开始大批量进入东北地区，直接刺激了东北地区的经济发展。东北地区的人口总量，开始大批量增加。
在这一段时间，哈尔滨市迅速崛起。东清铁路和松花江航运线的交汇点就是哈尔滨，于是哈尔滨就有了十分方便的水陆交通线，成为东北物资和资金交流的核心枢纽。1912年，已经统治了200多年的清朝灭亡，我国进入了军阀混战的阶段。在二三十年代，哈尔滨市正在迅速崛起，成为了东北地区的重要大城市之一。在哈尔滨市的外国客商，络绎不绝。
1931年9月，日本军队发动了九一八事变。在半年多时间内，日本军队逐步占领了东北全境。为了加强对东北地区的控制，日本扶持了伪政权。同时，面对抗联的奋勇抵抗，日本军队疲于应对。出于各方面的考虑，日本军队调整了东北地区的区划框架。
1934年，东北地区被拆分为2个特别市、14个省，分别是：长春特别市、哈尔滨特别市、安东省、奉天省、锦州省、吉林省、热河省、间岛省、黑河省、三江省、龙江省、滨江省、兴安东省、兴安西省、兴安南省、兴安北省。这一阶段，哈尔滨市成为了特别市，由此可见，哈尔滨市的重要性。
1939年，日本军队进一步调整了东北地区的区划框架，东北地区调整为1个特别市、19个省，分别是：长春特别市、奉天省、锦州省、吉林省、热河省、间岛省、黑河省、三江省、龙江省、滨江省、兴安东省、兴安西省、兴安南省、兴安北省、牡丹江省、通化省、东安省、北安省、四平省。当时，每个省的管理范围都不大，大约相当于当代的两三个地级市。
1939年，哈尔滨特别市被降级，成为了滨江省的省会城市。滨江省的管理范围并不大，总计下辖了16个县、1个旗。1945年，日本战败投降以后，当时的政权调整了东北地区的区划，出现了东北9省、3个直辖市的区划框架。
