西汉，初属苍海郡，后为乐浪郡。

东汉至唐朝初年，属中国东北地方少数民族政权高句丽，后属满族先祖靺鞨建立的渤海国西京鸭绿府丰州。

辽代，先属东丹国，后属定安国东京道渌州长白山部，鸭绿江女真大王府。

金代，属上京路会宁府曷懒路。

元代，属辽阳中书行省开元路。

明代，属努尔干都司建洲卫地。因县内长白山为女真发祥地，故清朝统治者将此地列为封禁之地，后属兴京府。

清康熙十六年（1677年）后200年时间里，这里被划为封禁区。境内山高林密，万木丛生，道路梗塞，人烟稀少，居民点多是三五家的小聚落。清光绪三年（1877年），设通化县，领属该境。清光绪二十八年（1902年），设临江县，该境转属临江县。清光绪三十三年（1907年），奉天巡抚唐绍仪委派李廷玉、付疆前往长白调查，绘制地图。清光绪三十四年八月二十日（1908年9月15日），添设长白府，治十八道沟、十九道沟之间的塔甸地方（今长白镇），隶于奉天府。清宣统元年（1909年），宣布正式办公。此后，安图、抚松两县也先后设治，归长白府治公所管辖。清宣统三年（1911年），长白府由试办改为署理。

民国二年（1913年），民国政府改长白府为长白县，直接隶属奉天省。

民国十八年（1929年），属辽宁省。

民国二十年（1931年），长白县沦为日本的殖民地。

民国三十四年（1945年）9月，长白县划归冀热辽区辽吉办事处第四专区。12月25日，长白县解放，改属安东省。

民国三十五年（1946年）1月23日，改归吉辽省通化分省管辖。春，长白县成立人民政府，划归安东省通化专区管辖，驻长白镇。7月，划归辽宁省通化专区，又改为辽宁省第一专区。11月，国民党占领通化，辽宁省仅辖临江、长白等4个县。

民国三十六年（1947年）1月，长白县改为辽宁省直辖县。6月，复归辽宁省第一专区。

民国三十七年（1948年）2月11日，撤销第一专区，长白县改为省辖县。6月21日，撤销辽宁省。长白县划归安东省管辖。7月，划归安东省通化专区。