九江郡,辖合肥等县。东汉光武帝建武元年(25年),改合肥县为合肥侯国。汉献帝建安五年(200年),废合肥侯国,复改为合肥县,扬州治合肥。东晋咸和五年(330年)在合肥侨置汝阴郡、县及陈郡。后赵建武十一年(345年),合肥县属扬州淮南郡。东晋永和六年(350年)复属东晋豫州汝阴郡、合肥同治。南朝宋永初三年(422年),合肥县为侨置的汝阴县所取代,直至隋开皇三年(583年)恢复合肥县,属庐州,为州治。此后至
,合肥一直为庐州、府、路治所,故合肥又别称为“庐州”。清咸丰三年至十一年(1853~1861年),安徽巡抚治于合肥。
民国元年(1912年),庐州府废,合肥县直属安徽省。
民国34年(1945年),抗日战争胜利后,安徽省省会由立煌县(今金寨县)迁至合肥。
1949年1月21日,合肥解放。2月1日,根据江淮区党委的决定,将合肥县分为合肥市、肥东县和肥西县,合肥市人民政府成立,合肥市为江淮解放区直辖市。4月,皖北行署驻地设合肥,合肥为皖北行署直辖市。
1952年8月17日,中央人民政府批准合肥市为省辖市和安徽省省会。自东汉末年以来,合肥数为州郡治所,一直是江淮地区重要的行政中心和军事重镇,素以“淮右襟喉、江南唇齿”“江淮首郡、吴楚要冲”著称,历来是重要商埠和兵家必争之地。西汉时,合肥是全国除长安外十八大商贸市场之一。三国时,合肥成为“恩化大行”“官民有畜”的江淮“巨镇”。隋唐时期,合肥社会繁荣,百姓殷富。宋元时期,合肥为江淮之间首屈一指的政治军事重镇。南宋筑斗梁城,城中“百货骈集,千樯鳞次”,金斗河(南淝河流经城区的一段)两岸“悉列货肆,商贾喧阗”。直到鸦片战争前,合肥的经济社会发展水平和全国大部分地区相比,仍毫不逊色。近现代合肥发生过许多重大而有影响的历史事件。清咸丰八年(1858年),太平天国将领陈玉成、李秀成率部在三河(春秋战国时期吴楚相争的“鹊岸之战”发生地,今肥西县境内)合围李续宾的湘军悍旅,鏖战5天5夜,取得了近代史上有名的“三河大捷”。
1949年4月,渡江战役总前委进驻瑶岗(今肥东县境内),在这里指挥了“百万雄师过大江”的渡江战役。
1978年,肥西县山南地区在全国率先实行包产到户责任制,由此揭开了中国农村改革的序幕,山南的改革探索得到邓小平充分肯定。勤劳勇敢的合肥人民用智慧和汗水建设着人类的文明。在合肥这块土地上,诞生了世界第一台VCD、第一台仿生搓洗式全自动洗衣机、第一个超导核聚变人造太阳和中国第一台微型计算机、第一台窗式空调、第一台万亿次高性能计算机、第一台激光大气污染检测雷达、第一台直写式光刻机等,对推动人类科技领域革命产生了重大影响。