秦始皇二十六年（前221），秦统一中国，推行郡、县制，分天下为三十六郡。缗邑即改名为东缗县（今金乡中东部，治所在今金乡县城），时东缗、昌邑（今金乡西北，治所在巨野县昌邑集）、爰戚（今嘉祥东南，治所在今嘉祥县阿城铺）三县鼎立，隶属于砀郡管辖。
西汉汉高祖推行郡国制度，设州、郡、县三级政权，今金乡境仍为当时的东缗县地。初属梁国（国王彭越）的兖州山阳郡管辖。
西汉平帝九年，王莽篡汉，建国为新朝。王莽称爰戚为戚亭。西汉时期，爰戚尚存，未改置金乡县。东汉建武元年（25），改爰戚县为金乡县。
三国时期，行州郡县三级政区，东缗、昌邑、金乡三县仍然并存，均属兖州的山阳郡，昌邑城仍为山阳郡的郡级机关所在地。东汉、三国时期，东缗县城都在今金乡县城。
西晋行郡国制，晋武帝泰始元年（265），改山阳郡为高平国，仍以昌邑城为国都，金乡县隶属之。东缗县在西晋时期尽管没有出现，是属于更名，并未分置。此时，东缗县已改称南平郡。
东晋金乡县曾改为郡，但为时不久，金乡被北魏占领，郡即被废。金乡置郡，仍在故城阿城铺，而不在今金乡治所。
南北朝的北魏时期，金乡县属兖州高平郡，刘宋、北齐、北周因之。在北魏和刘宋时期，昌邑、东缗两县均未再现，昌邑、东缗、金乡三县统一，自有史以来，这还是第一次。但这时的金乡县城仍在故城阿城铺。金乡县从故城阿城铺迁入今城址，应在北魏的末期。
隋开皇十六年（596），金乡县分置昌邑县；大业二年（606），隋朝政区更动，罢州置郡，郡置太守，昌邑县复并入金乡县，金乡县归属济阴郡（郡治曹州，即今曹县西北）。金乡县这时的政区面积大小，应为北魏三县统一时的面积大致相等。
唐朝武德元年（618），金乡县属河南道兖州鲁郡管辖。武德四年（621），金乡、方与（今鱼台县）置金州（州治于今县治所），金乡、方与两县隶属于金州。武德五年（622），复置昌邑县，金州改称为戴州，今金乡县城既为县级机关所在地，又为戴州的州级机关驻地。
武德八年（625），昌邑县复并入金乡县。贞观元年（627），废除戴州，金乡县归属兖州鲁郡管辖；贞观四年（630），建文峰塔，亦称光善寺塔。
五代后周时期，金乡县隶属济州（州治巨野）。
金乡在隶属济州之前，是属于单州管辖。
宋金元明清时期。宋朝，金乡县属京东西路济州济阳郡管辖。宋度宗咸淳元年（1265），鱼台县并入金乡县，第二年复置鱼台县。
金，金乡县隶属山东西路济州管辖。
元朝，金乡县隶属济宁路。元顺帝至元二年（1336），鱼台县并入金乡县。至元三年（1337）复置鱼台县。
明朝初年，金乡县则属济宁府。洪武十八年（1385），金乡县隶属山东布政司兖州府。明神宗万历七年（1579），知县杨楫初修县志。
清朝，顺治初年（1644），金乡县为兖州府领地。清康熙四十八年（1709），知县沈渊奏准开挖东沟河，疏浚展宽万福河，引泄上游客水，除金乡积水。乾隆二十六年（1761），建山阳书院。乾隆四十一年（1776），金乡县从兖州府析出归属济宁直隶州。
1912年(民国元年)，属兖沂曹济道；1913年改属岱南道；1914年属济宁道；1928年直属山东省；1934年属济宁行政督察区；1936年属山东省第二行政督察区；1938年属山东省第十一专区。
1938年5月，金乡县沦陷。日本侵略军操纵汉成立伪金乡县公署，属伪鲁西道。
1940年始，属伪兖济道。
1940年3月24日，金乡县抗日民主政府成立，金乡县属湖西专区。
1941年，西北部划归巨南五县联合办事处辖区。
1942年，属晋冀鲁豫边区第二十一专区。
1943年6月，县西部、西北部地区与巨野县东南部地区合并建立金巨县，7月，城南地区与单县的东北及北部地区合并建立金曹县，二县同属晋冀鲁豫边区第二十一专区，金乡县抗日民主政府建制撤销。
1944年1月，原金乡县的东北部地区划归为金济鱼联合办事处的辖区(县级)。8月，晋冀鲁豫边区第二十一行政督察专署改称冀鲁豫第十一行政督察专员公署，金曹县、金巨县、金济鱼办事处均属之。
1944年10月，撤销金济鱼边区联合办事处。
1945年8月，日本投降，伪金乡县政权解体。
1945年9月，撤销金曹县，恢复金乡县建制，属冀鲁豫第三专区。
1946年2月，撤销金巨县，原金乡辖区划归金乡县。
1946年，金乡县国民党政府随其返回县城，属国民党山东省第十一行政区。金乡县民主政府转移到农村活动。
1947年9月，重建金巨县，同属冀鲁豫第三专区。
1948年8月，国民党县政府溃逃，金乡解放。同年，撤销金巨县，金乡县恢复原建制，仍属冀鲁豫第三专区。
1949年8月，属平原省湖西专区。
1952年11月，平原省撤销，随湖西专区归属山东省。
1953年7月，属济宁专区。
1956年2月，鱼台县并入，1964年7月，鱼台县析出。
1967年2月，济宁专区改为济宁地区，属济宁地区。
1983年8月，撤销济宁地区，改建为地专级济宁市，金乡县属济宁市，此后隶属关系一至延续。