玉林原名为鬰林，是一座具有两千多年历史的文化古城。被世人誉为“ 岭南美玉，胜景如林”的玉林，自古享有“岭南都会”之美誉。
玉林原是百越民族居住之地。先秦时期，处在原始社会末期，是百越民族分布的地区之一，居住着西瓯、骆越等部族。战国后期，出现西瓯君和骆候，瓯骆人开始出现阶级分化。秦始皇统一岭南后，在岭南设置南海郡、桂林郡和象郡。市境开始政建制，隶属象郡、桂林郡。秦二世，继任南海慰秦将赵佗兼并桂林郡、象郡,辖据岭南，汉初建立南越国，市境隶属南越国。公元前112年，汉武帝平定南越，次年在岭南设置南海、苍梧、郁林、合浦、交趾、九真、日南、珠崖、儋耳9郡，其中在今天广西地区境内有苍梧、郁林、合浦3郡（当时属于交州）。今玉林市兴业县属郁林郡；玉州区、福绵管理区、容县、北流市、陆川县、博白县属合浦郡。
汉代设立郁林郡。西汉元鼎六年（公元前111年）始置郁林郡，郡治布山县（今贵港市）
，王莽新朝（9–23年）改郁林郡为郁平郡（后复置），隋开皇年间（581–600年）废郁林郡，大业初（605–618年）复置。原治所一说在今贵港市港北区贵城镇，一说在今桂平市蒙圩镇新德古城村，隋朝徙今贵港市港南区东津镇郁江南岸。汉元封五年（前106年）属交趾刺史部，建安八年（203年）属交州刺史部。
东汉末，交趾部改为交州，今广东包括交州辖下的整个南海郡，还包括苍梧郡、和浦郡、荆州贵阳郡和扬州豫章郡的一部。217年（建安二十二年），步骘把交州州治从广信东迁番禺。
三国吴黄武五年（226年）隶属广州，俄时复旧，元兴元年（264年）复属广州，晋至南朝宋齐因之，梁属定州，又改属南定州。初领布山、安广、阿林、广郁、中留、桂林、潭中、临尘、定周，增食、领方、雍鸡12县，274年析地置桂林郡；晋领布山、阿林、新邑、晋平、始建、郁平、领方、武熙、安广9县。大兴元年（318年）析地置晋兴郡。
隋开皇年间（581—600年）晋兴郡废，大业（605–618年）初其地方仍属郁林郡。统属广州，隋领郁林、郁平、领方、阿林、石南、桂平、马度、安成、宁浦、乐山、岭山、宣化12县。唐初废。天宝元年（742年）改郁林郡。治所兴业县蒲塘镇、洛阳乡一带。属岭南道。领石南、兴德、郁平、兴业、潭栗5县。乾元元年（758年）复置郁林州。
从郁林州到玉林市。唐贞观（627–649年）始置郁林州，天宝元年（742年）改置郁林郡，乾元元年（758年）复置郁林州。治所原在今兴业县蒲塘镇、洛阳乡一带，五代十国徙今贵港市港南区东津镇郁江南岸，宋初徙今兴业县石南镇（古州肚），至道二年（996年）徙南流县（今玉州区），建州城于南流江畔。始属岭南道，咸通三年（ 862年）属岭南西道。五代十国属南汉。宋至道三年（997年）属广南路，元丰元年（1078年）属广南西路，大观三年（1109年）属广西黔南路，次年复属广南西路，宋南渡后属广西路。
元代、明代续设郁林州。元至元十三年（1276年）属广西道，元贞元年（1295年）属广西两江道，至正二十三年（1363年）仍属广西。明洪武二年（1369年）十月属梧州府。初领石南、兴德两县，后郁平县来属。唐麟德二年（665年）析石南县设置兴业县，又领潭栗县。复置领石南、兴德、郁平、兴业、潭栗5县，建中二年（781年）省石南县入兴业县，后省潭栗县。宋开宝中（968–975年）废郁平、兴德两县入兴业县，南流县来属。公元1110年，郁林州辖南流县和兴业县；容州辖普宁、陆川和北流县；白州辖博白县。
政和元年（年 ）博白县来属，三年博白县往属白州，南渡后来属。元朝领南流、兴业、博白3县。明洪武元年（1368年），博白县属梧州府郁林州。明洪武二年九月南流县入郁林州，废普宁县入容州；十年（1377年）五月，容州降为容县，隶属梧州府；北流、陆川县归属郁林州。清顺治，郁林州从梧州府分出，隶属桂平梧郁道；雍正三年（1725年）升置郁林直隶州。光绪十三年（1887年）隶属左江道。清嘉庆初至
，辖博白、北流、陆川、兴业4个县。
玉林近现代历史
1912年（民国元年）升州为府，次年废府为县。
1914年至1947年，本地区先后隶属郁江道、苍梧道、郁林民团区、梧州民团区、郁林区、第六区、第三区、郁林专区、第九区（郁林区）。
1941–1951年，容县属梧州行政督察区、梧州专区。解放后，1949年12月–1951年6月，郁林、博白、北流、陆川、兴业5县隶属郁林专区，1951年7月郁林专区、梧州专区合并成立容县专区，辖郁林、兴业、博白、北流、陆川、容县、苍梧、藤县、岑溪、平南、桂平；贵县划归宾阳专区。
1952年，贵县由宾阳专区划入容县专区，撤销兴业县，大部分并入郁林县，一部并入贵县，博白县划入钦州专区，次年划入容县专区。
1956年3月，郁林县更名玉林县。
1958年7月，撤销容县专区，分设玉林专区和梧州专区，玉林专区辖玉林县、贵县、桂平县、平南县、容县、北流县、陆川县、博白县，1971年11月就改称玉林地区。
1983年10月8日，国务院批准（国函[1983]215号）：撤销玉林县，设立玉林市，以原玉林县的行政区域为玉林市的行政区域。
1994年4月18日，民政部批复（民行批[1994]60号）：撤销北流县，设立北流市。
1997年4月22日，国务院批复（国函[1997]26号）：（1）撤销玉林地区和县级玉林市，设立地级玉林市，市人民政府驻新设立的玉州区玉林镇东门路。（2）玉林市设立玉州区和兴业县。玉州区辖玉林、福绵、南江、城西、名山、仁东、樟木、成均、新桥、城北、茂林、沙田12个镇和石和、仁厚、大塘3个乡。区人民政府驻玉林镇民主路。兴业县辖原县级玉林市的石南、城隍、大平山、蒲塘、北市、葵阳、沙塘、山心8个镇和龙安、铁联、博爱、高峰、洛阳、小平山、卖酒7个乡。县人民政府驻石南镇。（3）玉林市辖原玉林地区的容县、陆川县、博白县和新设立的兴业县、玉州区，原玉林地区的北流市由广西壮族自治区直辖。
2009年12月，玉林新增设玉东新区规划用地面积112.53平方公里，现状人口为7.76万，规划人口42万。
2013年6月，国务院批复同意设立玉林市福绵区。
玉林名称来源
宋开宝五年（公元972年），今市境废郁平、兴德、 潭栗入兴业县管辖，又废善劳、抚康、容山、怀义、定川、宕川六县入南流县辖地。兴业、南流二县属广南路郁林州。宋至道二年（公元996年），郁林州治设于南流县，建州于现今的玉林市区中心，迄今已有1004年，后人称玉林为“千年郁林“。新中国成立后，设郁林专区，专署驻郁林县，共管辖郁林、兴业、博白、陆川、北流、贵县等六县，1958年7 月设立玉林专区，辖玉林、贵县、桂平、平南、容县、陆川、北流、博白八县，专署驻玉林县，名称为广西壮族自治区玉林地区，玉林由此而得名，并一直沿用至今。