泰安因泰山而得名，“泰山安则四海皆安“，寓国泰民安之意。五万年前已有人类生息繁衍。六千至四千年前，位河两岸的氏族部落创造了繁盛的“大汶口文化“。夏商为青州、徐州之地。周代分属齐鲁。秦属济北郡、东郡。西汉初设泰山郡，隶兖州刺史部，北齐改为东平郡。隋初分属济北郡、鲁郡、琅琊郡。唐隶兖州、沂州。宋隶兖州袭庆府，隶京东西路。金天会十四年（1136年），设泰安军，泰安之名由此始。金大定二十二年（1182年）设泰安州，隶山东西路。元隶东平路、中书省。明代隶济南府。清雍正二年（1724年）改为泰安直隶州。后改设泰安府，隶山东行省。

1913年分属济南、济宁、东临3道。

1925年，设泰安道，后撤销。

1936年泰安、新泰隶第十二行政督察专署，肥城、东平、宁阳分隶第六、第二、第一行政督察专署；后泰安、新泰、宁阳、肥城改隶第十五行政督察专署；东平隶第二行政督察专署。

1939年，建立抗日民主政权，同年11月至次年3月，泰西行政督察专员公署、泰山行政专员公署相继诞生。

1941年9月成立泰西行政联合办事处，后改为泰南行政督察专员公署。

1950年5月，泰山、泰西合并成立泰安专区。

1967年，改称泰安地区。

1985年3月改泰安市并升为地级市，实行市管县体制。