早在新石器时期，就有人类在这里繁衍生息。
战国时属古车师人的活动范围。
东汉时期，为车师六国的一部分。
西汉时期，乌鲁木齐及周边地区分布着十余个游牧部落，史称“十三国之地”，西域都护府曾派兵屯田。
三国时期，车师后国在今乌鲁木齐南郊（现乌拉泊水库一带）建淤赖城，为乌鲁木齐第一城。
后经晋、隋两朝开辟丝绸之路新北道，乌鲁木齐处于新北道要冲之地。
公元640年，唐朝政府在天山北麓设置庭州，辖4县，今乌鲁木齐为轮台县。现乌鲁木齐市东南郊乌拉泊水库南侧的古城遗址，即为当时轮台县。
公元648年（贞观二十二年），唐朝政府在距现市区以南10公里处设置轮台城，隶属庭州（治所在今吉木萨尔）。唐代著名边塞诗人岑参曾在此留下“忽如一夜春风来，千树万树梨花开”等脍炙人口的诗句。
从663年开始，唐朝政府派军至乌鲁木齐河畔屯垦。
702年，在庭州设北庭都护府，轮台驻军增加。据《新唐书·吐蕃传》记载：“轮台、伊吾屯田，禾菽相望”。在轮台生活过3年的边塞诗人岑参，写过“戍楼西望烟尘黑，汉兵屯在轮台北”的诗句。
771年，唐朝政府又在轮台设置“静塞军”，驻守这一战略要地。此后，当中原王朝统治衰弱时，地方政权更迭频仍，战火屡至乌鲁木齐，给各族人民带来了沉重灾难。
1755年（乾隆二十年），乌鲁木齐开始大规模开发。乌鲁木齐筑土驻军，清政府鼓励屯垦，减轻粮赋，乌鲁木齐农业、商业、手工业一度有较快的发展，成为“繁华富庶，甲于关外”的地方。清政府平定准噶尔叛乱，在现乌鲁木齐九家湾一带筑垒屯兵，并将此地定名为“乌鲁木齐”。
1758年（乾隆二十三年），为适应人口增长、屯垦及商业贸易的需要，清军先于在今南门外修筑一座土城，城“周一里五分，高一丈二尺”，此为乌鲁木齐城池的雏形。
1763年（乾隆二十八年），又将旧土城向北扩展，达到周长五里四分。竣工时，乾隆帝将扩展后的城池命名为“迪化”。
1772年（乾隆三十七年），在迪化城西另筑新城巩宁城（即老满城），驻满营官兵。
1773年（乾隆三十八年），乌鲁木齐同知改为迪化州知州，改乌鲁木齐参赞大臣为乌鲁木齐都统，陕甘总督奏准将马里坤道移驻迪化州巩宁城。于是巩宁城也就成为当时清王朝在乌鲁木齐的军政统治中心。
1864年（同治三年），巩宁城毁于战火。
1880年（光绪六年），在迪化城东筑“新满城”，原迪化城由民商居住，俗称“汉城”。
1884年（光绪十年），新疆设置行省，以迪化为省会。从此迪化成为新疆的政治中心。翌年，升迪化直隶州为迪化府，增设迪化县为附郭首县。
民国2年（1913年），将镇迪道尹改为观察使，并同时撤销迪化府，保留迪化县。
民国29年（1940年）成立迪化市政府委员会。
民国34年（1945年）11月1日，迪化正式设市并成立市政府；同时将市区划分为一、二、三、四、五区，迪化县隶属迪化专员公署，辖6个乡，2个牧区及达坂城镇。区以下设保甲组织。
1949年，新疆和平解放。12月17日，迪化市人民政府成立。重新划分建立7个区，54个街公所。在郊区建立农民协会，并在土地改革的基础上成立3个乡，至此，城乡各级人民政府初步建立。
1954年2月1日，迪化正式恢复使用原名乌鲁木齐。
1999年8月10日，国务院批准将乌鲁木齐市南山矿区更名为南泉区。
2002年3月9日，国务院批准调整乌鲁木齐市南泉区行政区划：（1）将乌鲁木齐市天山区的乌拉泊街道和乌鲁木齐县的达坂城镇、东沟乡、西沟乡、阿克苏乡、柴窝堡乡归乌鲁木齐市南泉区管辖。（2）南泉区更名为乌鲁木齐市达坂城区，区政府驻地由鱼尔沟迁至达坂城镇。
2007年8月1日国务院批复同意将昌吉回族自治州米泉市并入乌鲁木齐市，撤销米泉市和乌鲁木齐市东山区，
设立乌鲁木齐市米东区。行政区划调整后，乌鲁木齐市行政区域面积由10900.77平方公里增至14216.3平方公里，米东区行政区域为原米泉市和乌鲁木齐市东山区的行政区域，面积3407.42平方公里；乌鲁木齐市米东区与昌吉回族自治州、阿勒泰地区福海县、五家渠市行政区域界线走向仍按原米泉市行政区域界线保持不变。
全市辖七区一县，总面积14216.3平方公里，建城区面积412.26平方公里，2014年末全市常住人口353万人，流动人口大约470万，居住着汉、维吾尔、哈萨克，锡伯等52个民族。