劉裕，南朝宋帝國開國皇帝，公元420年，宋王劉裕迫使晉末代皇帝恭帝禪位，在南京建立宋帝國，號「武帝」。後世辛棄疾稱其為「金戈鐵馬，氣吞萬里如虎」。劉裕所建立的宋帝國與其後趙匡胤所建立的北宋帝國版圖基本相當。

       公元409年，劉裕北伐盤踞在山東的南燕鮮卑族慕容政權，將燕帝慕容超斬首于南京，光復山東全境，東晉聲威大震。

      羌族所建立的後秦政權是當時中國北方最強大的國家，公元407年，羌貴族封漢奸谯纵為蜀王，割據四川。413年，劉裕伐蜀，擊潰羌人援軍，攻佔成都，谯纵自縊。

      416年8月，晉軍在劉裕統帥下，兵分四路大舉北伐，10月，龙骧将军王镇恶攻佔洛陽，羌人膽寒。次年7月，劉裕率大軍自四川攻關中，王鎮惡由洛陽攻潼關，兩路皆捷，8月底，晉軍沖入長安，羌秦王室悉數被俘，除羌王姚泓獻俘斬首于南京外，其餘皆斬于長安。此時距離長安被遊牧民族匈奴佔領，恰巧過去了整整一百年。

      公元六世紀初，南京的人口達到一百四十餘萬，成為當時世界上的最大城市。日本學者稱當時的南京是「東方的太陽，照亮了周邊的國家和部族」。而佛教在南朝時亦得到極大發展，南京城內僅寺廟即有四百餘座，為後世留下了「南朝四百八十寺，多少樓臺煙雨中」的佳話。

      南朝梁武帝晚年，因侯景之亂令南朝元氣大傷，不能再與北朝鮮卑政權相抗衡。

      公元581年，鮮卑化的漢人楊堅統一北方中國，建立隋帝國。589年，隋軍五十二萬分三路攻陳，攻佔南京，俘陳朝末代皇帝陳叔寶。楊堅下令將南京房屋全部拆毀，人口全部外遷，南京城遂被隋軍完全摧毀。南京城的悲劇為後人留下了「煙籠寒水月籠沙，夜泊秦淮近酒家。商女不知亡國恨，隔江猶唱後庭花。」的悲涼絕句。