春秋战国时，栖霞地区先属吴，继属越，后属楚。秦始皇三十七年（前210），置江乘（后讹为嵊）县，为栖霞区域最早的县级行政建制，治所设在江乘村（今摄山镇西湖村）。其时，县境辽阔，西起石头城、白石垒沿江而东，至今句容市下蜀镇，再转向南达江宁县淳化镇一带。连同今南京市鼓楼区、下关区、建邺区、白下区、秦淮区、雨花台区统在其领属之下。隶属会稽郡。今栖霞区地域皆在古江乘县境内。
汉高祖五年（前202），刘邦平西楚霸王项羽，“以项羽所分楚地王韩信”，江乘县属之。高祖六年，刘邦韩信，立刘贾为荆王，自会稽郡析置鄣郡，江乘县归属鄣郡，隶于荆。汉元朔元年（前128），割江乘县东境分设句容、胡孰（后汉时期改为湖熟）两县，今区境东部归句容县。
汉元封二年（前109），改鄣郡为丹阳郡，郡治设在宛陵（今安徽宣城），江乘县改属丹阳郡。新莽天凤元年（14），改丹阳郡为宣亭郡，江乘县改为相武县，属宣亭郡。至淮阳王刘玄更始元年（23），始恢复丹阳郡、江乘县旧称。
汉建安十七年（212），孙吴废江乘县改设典农都尉。西晋太康元年（280），恢复江乘县，至南北朝时仍沿袭县的建制。东晋元帝大（太）兴三年（320），始在江乘县金陵乡置琅琊侨郡和怀德侨县。咸和六年（331），在江乘县境内先后置东海、兰陵、东平等侨郡；咸康元年（335），析江乘县西境侨立临沂县，隶属琅琊侨郡。咸康六年，割江乘县西界侨立即丘、阳都等县。
至隋开皇九年（589），废临沂等侨县及江乘县，均并入江宁县（详见附录）。唐上元二年（761），江宁县更为上元县。
五代十国时期，于杨吴天十四年（917），析上元置江宁、上元两县，今栖霞区域分属上元、句容两县，至宋、元、明、清，区境大体属上元县石步镇（后称石埠）和钟山、慈仁、开宁、北城、清风、宣义、长宁诸乡及句容县琅琊乡。
民国元年（1912），废上元、江宁两县，改设南京府，次年，废南京府重置江宁、句容两县，今区境大部遂为江宁县域，东隅为句容县域。
民国16年（1927），国民政府定都南京，6月1日，成立南京市政府，今区境内燕子矶、迈皋桥、尧化等镇与八卦洲乡属南京市，其他地域仍属江宁、句容县。
民国23年9月，江宁县燕子矶和孝陵卫地区划归南京市，10月，设南京市燕子矶（第九区）和孝陵（第十区）两个乡区，治所分别在燕子矶镇和孝陵卫镇苜蓿园。中山陵园则隶属国民党中央总理陵园管理委员会。区内其他地域仍属江宁、句容两县。
民国23年（1934）9月，南京市划定市界，今区境内燕子矶、孝陵卫地区从江宁县划归南京市。10月，在燕子矶地区设立第九区，区公所驻燕子矶镇，下辖乌龙、笆斗、太平、万山、和平、燕子矶、栅栏、金固、七里（包括八卦洲、尼滩洲）等乡镇；在孝陵卫地区设立第十区，区公所驻孝陵卫镇，下辖尧化、仙鹤、马群、孝陵、海新、谷秀等乡镇。区境内中山陵园区域，时属国民政府直接管辖。今区境栖霞、龙潭等其他地域，时仍属江宁、句容两县。
民国28年1月16日，日伪国民政府改第九区、第十区为燕子矶区和孝陵卫区，辖地不变。
民国31年（1942）4月，伪国民政府改燕子矶区为南京特别市乡区自治实验区，仍辖原1镇8乡，分为89保、765甲。孝陵卫区辖孝陵、牌楼、马群、仙鹤4镇及太平乡，分为53保、468甲。
民国34年9月，抗日战争胜利后，恢复第九区、第十区。
民国34年（1945），国民政府于抗日战争胜利后还都南京，废除汪伪区划，仍以燕子矶区为第九区，辖区扩大到下关车站、东台、煤炭港铁路线北侧，面积180.32平方公里，设25保、383甲；以孝陵卫区为第十区，辖区北扩以京沪铁路为界，面积71.31平方公里，设37保、355甲。
民国37年（1948）3月，江宁县之汤水（今汤山）、麒麟、古泉、东流4乡镇划归南京市，成立第十三区，为乡区，面积93.56平方公里，设10保、161甲。麒麟地区属今栖霞区。
民国38年（1949）1月22日，燕子矶区析出八卦洲，单设南京市第十四区。
民国38年（1949）4月23日，南京解放。5月，中共南京市委和市人民政府接管国民政府南京市第九区和第十区区公所。6月，成立第九区、第十区人民政府（1955年5月，改设区人民委员会，简称人委），治所未变。
民国38年（1949）4月23日，南京解放，仍沿用原第九、第十、第十三区、第十四区建制。6月2日，撤销第十四区，仍归第九区。
1950年6月15日，重新划片设区，第九区改称第八区，第十区改称中山陵园区。第八区以旧九区为基础，划出宝塔桥地带，增加旧六区一部分即中央门外地带，辖14乡1镇，即：上坝、中桥、下坝、巽离、七里、笆斗、兴武、藤子、吉祥、尧化、万寿、迈皋桥、大庙、小市14乡和燕子矶镇。中山陵园区以旧十区为基础，东自岔路口向南，至上五旗、下五旗、马群各乡村；南自五棵松沿枣园、棕园一线至后庄；西自明城墙至太平门外岗子村至沪宁铁路；北与第八区、江宁县毗连。辖蒋王庙、高桥门、马群、牌楼、沧波5乡和孝陵卫镇。
1953年7月7日，由从江宁县划归南京市的尧辰、石埠、衡阳、仙女、新合、栖霞6个乡镇，摄山乡二村至六村5个村，三阳乡便民村及句容县所辖的龙潭镇，新建南京市第九区。与此同时，第八区八卦洲七里、上坝、中桥、下坝、巽离5个乡划归六合县。
1953年7月，江苏省人民政府调整南京市与邻近三县地界，将句容县的龙潭镇和江宁县的尧辰、石埠、衡阳、仙女、新合、栖霞6个乡镇及摄山乡、三阳乡部份划入南京市，新建第九区，区人民政府驻栖霞镇。同年7月18日，南京市第八区的八卦洲划归六合县。
1955年8月初，第八区改称燕子矶区，第九区改称栖霞区。
1956年2月，江宁县牌楼、沧波2乡划归中山陵园区，江宁县龙永乡、三阳乡、句容县东阳乡划归栖霞区，六合县八卦洲区复归燕子矶区。
1956年2月，江宁县的牌楼、沧波两乡划归中山陵园区；江宁县龙泉乡、三阳乡、句容县东阳乡划归栖霞区；六合县八卦洲5个乡划归燕子矶区。
1958年11月，撤销燕子矶、栖霞、中山陵园三区建制，成立南京市郊委。
1960年9月，南京市郊委撤销，原辖地域分属鼓楼、玄武、下关等区。
1958年11月，撤销燕子矶、栖霞、中山陵园三区，原燕子矶区燕子矶、小市镇和迈皋桥乡划归下关区，其它12个乡合并为燕子矶、八卦洲、尧化3个公社，原栖霞区5个乡3个镇合并为十月、龙潭2个公社，原中山陵园区5个乡1个镇合并为紫金山公社，6公社统归同时成立的南京市郊委。
1959年12月，尧化公社撤销，尧化大队并入十月公社，兴武、笆斗、柳塘、万寿、下庙、兴卫等大队并入燕子矶公社。
1960年9月，南京市郊委撤销，十月、龙潭、紫金山3公社及龙潭、栖霞、孝陵卫三个镇划入玄武区，燕子矶公社划入鼓楼区，八卦洲公社划入下关区。
1961年6月，小市镇转划鼓楼区。
1962年7月，除小市镇仍归鼓楼区外，原划入城区的公社和镇，划归南京市郊办。
1963年4月，南京市郊办撤销，燕子矶区、陵园区（7月复称中山陵园区）和栖霞区三区建制恢复，治所未变。7月，将所属5个公社划小为34个公社和栖霞、孝陵卫、龙潭、迈皋桥、燕子矶5个镇。燕子矶、八卦洲两公社划为上坝、中桥、巽离、下坝、七里、下庙、迈皋桥、藤子、燕子矶、柳塘、笆斗山、兴武12个公社；十月、龙潭两公社划为三阳、东阳、东花、龙泉、摄山、十月、长林、衡阳、乌龙、尧辰10个公社；紫金山公社划为蒋王庙、孝陵卫、石门坎、高桥门、牌楼、沧波门、马群、百水桥、仙鹤门、岔路口10个公社。
1965年5月28日，燕子矶、栖霞、中山陵园三区合并，成立栖霞区人民委员会，治所在栖霞镇（1968年迁至板仓镇，1971年5月迁至尧化门）。
1965年3月，鼓楼区小市镇重新划归栖霞区，中山陵园区孝陵卫镇石门坎居委会划归雨花台区七里镇。
1965年5月28日，燕子矶区、中山陵园区、栖霞区合并成立栖霞区，下辖燕子矶、迈皋桥、紫金山、玄武湖、马群、尧化、十月、摄山、便民河、八卦洲10个公社及小市、迈皋桥、燕子矶、栖霞、龙潭、孝陵卫6个镇。
1967年4月19日，成立南京市军事管制委员会（简称军管会）栖霞区分会。
1968年3月9日，区军管会撤销，成立栖霞区革命委员会（简称区革委会）。
1970年1月22日，南京市革委会决定将栖霞区所辖马群、紫金山、玄武湖三公社和孝陵卫镇划出，加上中山陵园管理处，成立南京市钟山区，治所在灵谷寺（1973年4月，迁至孝陵卫镇）。
1974年3月13日，便民河公社并归摄山公社。
1975年4月30日，钟山区建制撤销，除中山陵园管理处划归市城建局领导外，其地域社镇划归栖霞区。
1980年10月11日，恢复栖霞区人民政府建制。一直到1999年底，区人民政府建制及治所均未变变动。
1981年12月，成立尧化镇。
1983年4月，十月公社并入栖霞镇，栖霞区下辖燕子矶、迈皋桥、紫金山、玄武湖、马群、尧化、摄山、八卦洲8个公社和小市、迈皋桥、燕子矶、栖霞、龙潭、孝陵卫、尧化7个镇。
1983年9月中旬，栖霞区撤销8个人民公社，改设8个乡人民政府。
1984年6月29日，小市镇建宁路、大庙、水关桥、金陵村4个居委会和迈皋桥乡的大庙等村划入下关区，7月，玄武湖乡玄武湖村、锁金村和小市镇韶山路居委会以及火车站、新庄、岗子村、板仓一线划入玄武区。此时，栖霞区下辖迈皋桥、燕子矶、玄武湖、紫金山、马群、尧化、摄山、八卦洲8个乡和栖霞、迈皋桥、燕子矶、孝陵卫、龙潭、小市、尧化7个镇。栖霞区总面积370.3平方公里，除长江水域外，陆地总面积306.65平方公里，与其他区县接壤界线总长为78.8公里。
1987年5月1日，江宁县的长江、营防和花园3个乡划入栖霞区。
1993年底，栖霞区对所辖乡镇进行撤乡并镇调整，撤紫金山乡并入孝陵卫镇，燕子矶乡并入燕子矶镇，迈皋桥乡并入迈皋桥镇，尧化乡并并入尧化镇，花园乡并入龙潭镇，撤销玄武湖乡、马群乡和摄山乡，建立玄武湖镇、马群镇和摄山镇。此时，区辖八卦洲、长江、营防3个乡及孝陵卫、马群、尧化、摄山、栖霞、龙潭、燕子矶、迈皋桥、玄武湖、小市10个镇，栖霞区总面积452.21平方公里，除长江水域外，陆地总面积386.13平方公里。
1995年4月，南京市行政区划调整，区辖小市镇（整建制）及迈皋桥镇五塘村划入下关区，玄武湖镇（整建制）及孝陵卫镇（各一部分）划入玄武区和白下区，迈皋桥镇小营、藤子、红山3个村划入玄武区。
1999年末，栖霞区辖马群、尧化、摄山、栖霞、龙潭、燕子矶、迈皋桥7个镇和长江、营防、八卦洲3个乡。
2000年5月，原营防乡和长江乡撤并成立靖安镇。
2000年5月30日，撤销迈皋桥、燕子矶、尧化和马群4镇，分别改为街道。撤销摄山镇，并入栖霞镇，组建新栖霞镇；撤销长江乡、营防乡，合并后组建靖安镇。
2001年12月14日，撤销栖霞镇，设立栖霞街道；撤销八卦洲乡，设立八卦洲镇。栖霞区乡的建制消亡。
2002年3月26日，经市政府批准，原属南京市奶业集团的南京仙林农牧场改列为栖霞区政府直属单位，更名为“南京市栖霞区仙林农牧场”。
2002年12月11日，市政府批复同意撤销龙潭镇，以其原辖区域设立龙潭街道，下辖5个居委会、7个村委会。
2004年2月6日，市政府批复同意,在仙林新市区规划范围内成立仙林街道,下辖1个社区委员会。
2005年5月16日，经省政府批准，撤销八卦洲镇和靖安镇分别设立街道，至此栖霞区镇的建制消亡。
2009年7月30日经南京市政府批准，设立西岗街道，下辖4个社区居委会。
2012年7月，撤销靖安街道，将其行政区域整建制划入龙潭街道。区划调整后，龙潭街道辖区面积107.63平方千米。