历史上南京既受益又罹祸于其得天独厚的地理位置和气度不凡的风水佳境，过去曾多次遭受兵燹之灾，但亦屡屡从瓦砾荒烟中重整繁华。且在中原被异族所占领，汉民族即将遭受灭顶之灾时，通常汉民族都会选择南京休养生息，立志北伐，恢复华夏。大明、民国二次北伐成功；东晋、萧梁、刘宋三番北伐功败垂成。南宋初立，群臣皆议以建康为都以显匡复中原之图，惜宋高宗无意北伐而定行在于杭州，但迫于舆论仍定金陵为行都。即使太平天国以南京为都，亦以驱除异族统治为动员基础和合法性之一。所以南京被视为汉族的复兴之地，在中国历史上具有特殊地位和价值。故朱偰先生在比较了长安、洛阳、金陵、燕京四大古都后，言“此四都之中，文学之昌盛，人物之俊彦，山川之灵秀，气象之宏伟，以及与民族患难相共，休戚相关之密切，尤以金陵为最。”

南京一带在100万年至120万年前就有古人类活动，35至60多万年前就有猿人在南京地域生活，汤山旧石器时代文化遗址出土了南京猿人化石，是截至2010年已发现最早的南京的人类生活遗迹。约7000-8000年前，出现了以北阴阳营文化为代表的新石器时代原始村落。在市中心的鼓楼岗北阴阳营、江宁区陶吴乡咎庙等地，发现200多处6000多年前新石器时代的遗址，出土大量的陶器和石、骨制成的生活用具。3000年前，相当于中原的商周之际，秦淮河流域出现了密集的原始聚落，被称为湖熟文化。春秋战国时，在这些聚落的基础上形成了南京地区最早的城邑。

3100年前，南京是西周周章的封地。周灵王元年（公元前571年），楚国在今六合区已设有棠邑，置棠邑大夫，为南京有历史记载的最早的地方建置。春秋末年，吴王夫差在今朝天宫一带筑冶城，开办冶铸铜器的手工业作坊。周元王四年，越国灭吴后，范蠡在今中华门外的长干里筑越城，距今已有2484年。公元前333年，楚威王熊商于石头城筑金陵邑，金陵之名源于此。

公元229年，吴大帝孙权在此建都，改秣陵为建业（后于公元282年改建邺）。吴都城以今太平路一带为中轴线，南拥秦淮，北倚后湖，周长20里19步（今8.5公里左右）。此后，东晋、南朝的宋、齐、梁、陈均相继在此建都，故南京有“六朝古都”之称，今南京图书馆保留有六朝建康城遗址。六朝时期的建康城是当时世界上最大的城市，人口达百万，是世界上第一个人口超过百万的城市，其经济发达，文化繁盛，在江南保存了华夏文化之正朔。六朝南京城和罗马城并称为“世界古典文明两大中心”，以建康为代表的南朝文化，在人类历史上产生了极其深远的影响。