西汉初为匈奴左地，武帝后为塞地，境内有白狼等县，为境内设县之始。

东汉属幽州，为乌桓地。建安十二年（207），曹操北征乌桓，八月，登白狼山（今白塔子乡大阳山），斩乌桓首领蹋顿。

魏、晋时属鲜卑地。十六国时属于前燕、前秦、后燕和北燕地。

南北朝时为北魏、北齐地。北魏时属营州地。

隋初为建德郡龙城县地，后为辽西柳城县地。

唐属营州柳城县地，后与库莫奚、契丹杂居。辽属中京道大定府地。统和四年（982年）置阜俗县。统和十六年（998年）置利州。南境为潭州龙山县，北境为富庶县。

金属北京路利州。

元属大宁路利州龙山县。 金属北京路。

明属大宁都指挥使司的营州中卫地，后改属诺音卫地。

后金天聪九年（1635年）置喀喇沁左翼旗（治所初在官大海，后迁至南公营子）。

清乾隆三年(1738)，在旗境内置塔子沟厅。乾隆四十三年(1778)，改塔子沟厅为建昌县，开始实行蒙汉分治：汉族归县管辖，蒙古族归旗管辖。一抉儿土地上有两套行政建制，旗县并立。

民国三年（1914年）将建昌县又改为凌源县。

民国二十年（1931年）分设凌南县。

民国二十六年（1937年）凌源、凌南二县合并为建昌县。

民国二十九年（1940年）撤销县。将喀喇沁左翼旗改为喀喇沁左旗，统归喀喇沁左旗管辖。

民国三十五年（1946年）8月，成立喀喇沁左旗人民政府，从此结束了蒙汉分治的历史。

1949年，旗政府由南公营子迁至大城子。

1953年，设建制镇。

1957年10月，国务院58次会议通过撤消喀喇沁左旗建制。

1958年4月1日，成立喀喇沁左翼蒙古族自治县。