唐尧虞舜时期，约公元前26世纪初至公元前21世纪初，今高州境属南交。
夏、商、周至秦时期约公元前21世纪初至公元前256年，今高州境属百越。公元前214年（秦始皇三十三年）平定南越，置南海、桂林、象郡，今高州境属桂林郡。秦亡后，南海郡尉赵佗取桂林、象郡，称南越武王，及至西汉前期，今高州境属南越国。
公元前111年（西汉元鼎六年）汉灭南越国，分其地为南海、苍梧、郁林、合浦、交趾、九真、日南、珠崖、儋耳九郡，今高州境属合浦郡高凉县。
公元147年（东汉建和元年）合浦郡分立高兴郡；168年（东汉，建宁元年）改高兴郡为高凉郡，旋废；220年（建安二十五年）分高凉县立高凉郡治思平县，吴又立高兴郡治广化县，俱属广州，今高州境属广州高兴郡地（高兴郡领广化、莫阳、海安、西平、化平五县；参照《中国历史地图集》（右下见图册），广化在今阳西境，莫阳在今阳春境，海安在今恩平或台山境，西平、化平均未知所在；今高州不知具体属高兴郡何县）。
280年（西晋，太康元年）灭吴，高凉、高兴二郡仍吴制。太康中，撤高兴郡并入高凉郡。
南朝、隋、唐、五代十国时期宋，今高州境大部属高凉郡（当时高凉郡领思平、安宁、莫阳、罗州、西巩、平定、禽乡七县；思平在今恩平境，安宁在今阳江境，莫阳在今阳春境，罗州在今化州境，西巩疑在今阳春境，平定、禽乡未知所在；今高州尚未知具体属何县，疑西部、西南部属罗州县）；东北部属海昌郡。
齐，除西南隅属越州高兴或永宁郡外，其余同宋制。
梁大通中（公元528年），梁平俚洞置高州，州治在今阳西县。南朝梁大通中（公元530年），置电白郡，郡治在今高州长坡旧城，属高州；同时在今化州升罗州县为罗州，今高州市西部、西南部属罗州高兴郡；北部属泷州梁德郡；中部、东部属高州电白郡及海昌郡，南部属高州南巴郡。
陈永定二年（558），置务德县（隋改称良德），县治今高州东岸镇良德墟旁，辖今高州北部，隶泷州梁德郡。至此，今高州中部、东部属高州电白郡，南部属高州南巴郡，西南部、西部属罗州石龙郡，北部及东北部属泷州梁德郡务德县及高州海昌郡。
隋开皇九年（589），废电白郡、海昌二郡置电白县，废
连江、南巴二郡置连江县、南巴县，隶高州，高州治所仍在高凉县（今阳江西）。开皇十年（590），废高兴郡置石龙、吴川、茂名三县（一说开皇十八年增设茂名县），三县均隶罗州。今高州市中部、东部属电白县、南部属南巴县、西部属茂名县、北部良德县。隋大业三年（607）高州、罗州被废，复置高凉郡，治所在高凉县（今阳江西），废泷州为永熙郡。当时电白县（今高州中部、东部属之）、南巴县（今高州南部属之）、茂名县（今高州西部属之）属高凉郡，良德县（今高州北部属之）属永熙郡。
唐初属高州，贞观八年（634年）分置潘州治茂名，二十二年（648年）又陡置高州始治高凉移治良德。天宝初（742年）改高州曰高凉郡，潘州曰南潘郡。
后梁开平元年（907）茂名县更名为越裳县，龙德三年（923）复茂名县，属南汉。
宋开宝五年（872年）州废，以县属高州。景德元年（1004年）属窦州。三年（1006年）还属高州。
元复属高州，大德八年（1304年）徒高州路来治（茂名县）。
清代沿明制此时高州府辖有化州、茂名、信宜、电白、吴川、廉江（时称石城）等一州五县，属高阳雷道，府治茂名县。由于高州辖地较大，地理位置又处于战略要冲地带，因此便把高州府称为广东下四府之首府，茂名县为粤西地区经济、政治和文化中心。（注：高州府不等同于今高州市。）
民国时期，撤府（高州府）留县（茂名县），茂名县即现今高州市的主体。茂名县先后隶属广东省高雷道、南路行政区、第七行政区、第十三行政区。
新中国成立后，茂名县先后隶属南路专区、高雷专区、粤西行政区、湛江专区。
1958年9～10月，将茂名县南部的原公馆乡和袂花乡、鳌头乡的部分地域划入茂名市；将原小良乡划入电白县；将原石鼓乡的南盛、鳌头乡的兰石和龙首乡划入化州县。同年11月，茂名县与信宜县合并为茂信县，12月茂信县定名称高州县。
1961年4月，高州县分高州、信宜两县，高州县隶属湛江专区。
1983年，实行市带县制，高州县隶属茂名市。
1993年6月，撤县设市，高州县改为高州市，由茂名市代管。同年12月正式举行撤县建市挂牌仪式。