前这里就有人类劳动生息。春秋时为郑国别狱，为狱官郑大夫尉氏采食之邑，故名尉氏，沿袭至今。秦始皇三年（前219年）置县，历经分并废置，隶属关系多变。

尉氏县于秦始皇三年置县。“古狱官曰尉氏”，今尉氏原为“郑之别狱”，并以这里为食邑，人们又称此邑为“尉氏”。据《汉书》：“郑大夫尉氏之邑，故遂以为邑。”

春秋时，为郑国别狱。大夫尉氏任狱官，地为采食之邑，邑袭狱官姓氏为名至今。战国时期，尉氏属梁地，秦置县。汉承秦制，尉氏属陈留郡，三国时属魏地，为兖州陈留郡所辖，西晋时归兖州陈留国，惠帝末年，改陈留郡为建昌郡，属洛州。

北魏属梁州陈留郡。文帝兴安初，尉氏并入苑陵（故城在今新郑东北）。太安三年（457年）析苑陵复置尉氏。东魏属梁州开封郡。后齐废尉氏入苑陵，隋开皇六年（586年）分苑陵再置尉氏

归颍川郡。

唐武德二年（619年）隋遗将王世充僭位称帝置尉州。唐武德四年（621年）平王世充改尉州为洧州，归河南道汴州陈留郡。五代、后梁都汴梁，尉氏均属东京开封府，后唐属汴州宣武军。后晋、后周均属东京开封府。

北宋属京畿路开封府，金袭宋制，属南京（今开封市）开封府。元属汴梁路总管府，明属河南承宣布政使司开封，清亦然。

民国初属河南省都督府豫东道，河南省长公署开封道，后直属河南省政府。

1928年省下设行政区，尉氏属第一行政区（治所在今郑州市）。

建国后，初属陈留专区，1952年并入郑州专区。

1954年，省会由汴迁往郑州，开封更为专区，尉氏归之。

1958年通许、尉氏两县合并称尉氏县；1962年尉氏、通许分置。

1983年8月撤开封专区，尉氏归属开封市。