玄武湖古名桑泊，是一个直接通向长江的大湖。三国东吴时称为后湖，因为它位于钟山（今紫全山）的北麓，而在钟山的南麓还另有一座燕雀湖称为前湖。后湖是东吴建业城内小运河的主要水源，东通青溪，南接秦淮河。到东晋南朝时，它既是训练和检阅水军的中心基地，又是皇室贵族游宴射猎的重要场所。东晋时，因它位于建康都城之北，改称北湖。东晋还修筑了一条长堤，东起覆舟山（今太平门内九华山），西迄幕府山下的宣武城，使湖水不致侵袭都城和宫城，号称“十里长堤”。晚唐诗人韦庄在《金陵图》一诗中说的：“江雨霏霏江草齐，六朝如梦鸟空啼。无情最是台城柳，依旧烟笼十里堤。”所指就是这里。
玄武湖是一个江岸低地湖泊。唐代以前，这个湖和长江相通，后来由于江流迁徙，故道淤塞，江与湖联系中断。在南京成为六朝京都的时代，玄武湖得到修治和利用，鼎盛一时。随着其地位的加强，南朝各代皇帝曾多次在湖畔阅兵。其中规模最大的一次是在公元579年，即陈宣帝太建十一年，参加检阅的十万步兵列阵于湖岸、另有战船五百艘在湖中操练。
刘宋文帝曾经在湖里堆筑起三座神山，以模拟海上神仙所居的“方丈”、“蓬莱”、u赢洲”三山。这就是湖中最早的三座洲的来历。至于玄武湖的名称，则是由于湖中两次出现了黑龙，这种黑龙很可能就是现在的扬子江鳄鱼。玄为黑色之意，自改名玄武湖后，一直沿用至今。
南朝刘宋时期还在玄武湖北岸修建了一座皇家花园，叫作“上林苑”。后来南齐皇帝常到那一带去打猎。梁代昭明太子更在湖中洲上广建楼台亭阁，开辟果园，经常同文人学士在那里游宴赋诗。据说，昭明太子就是由于夜间游湖落水得病而死的。在梁代末年侯景之乱的时候，叛军曾掘堤引湖水，浇灌宫城，最后梁武帝终于被饿死台城之中。
到了隋唐时期，由于州城在石头城一带，离玄武湖很远，湖中园林口渐荒芜，成为官府所设的放生地。宋代土安石在担任江宁知府期间，认为玄武湖是“空贮波涛，守之无用”，不如废湖为田，分给贫民耕种。从此，玄武湖便在金陵名胜的历史上消失了两百多年。直到元代末年，由于城北水患频繁，才又重新恢复。
明代重新疏浚玄武湖，但瑚面已缩小到六朝时的三分之一左右了。明代的玄武湖作为明朝政府贮全国户口赋役总册的库房禁地，是不许一般人随便进出的。所以，到了清代初年，玄武湖已经荒芜不堪。直到清末（公元1911年），玄武湖才辟为公园。后又开丰润门（今玄武门），筑翠虹堤以通湖上。这样，玄武湖才又逐渐得以恢复。
南京城背山临江，龙蟠虎踞，为东南形胜之地，也是重要的水陆交通枢纽。玄武湖位于南京城东北的玄武门外，东依钟山，西南两侧紧靠南京城墙，北连长江沿岸平原。这个湖和城西南的莫愁湖自古就是金陵风景名胜之地。
玄武湖略呈菱形，现在周长约10公里，商积约5平方公里。湖的水源主要来自钟山北麓，湖水通过金川河经下关泄入长江；另一支由武庙闸入域，经秦难河入江。平时，湖水富灌溉之利，在雨季，它可接受大量地面径流，因此又具有蓄洪防涝的功能。湖中水产资源丰富，盛产鱼类、菱藕等。玄武湖主要以风光特色吸引着大批的游客。湖水清澈如镜，碧波荡漾，湖面上分布着五块绿洲，形成五个风景点，因有“五洲公园”之称。
五洲中的环洲，旧名长洲，呈圆环形。进玄武湖正门，门内有宽阔的翠虹堤。堤的两岸绿树婆装，碧波傍岸。远山近水，景色怡人。过堤后，迎面就是环洲。洲上有假山亭台，可供玩赏。环洲是樱洲的外围，向东过小桥即抵樱洲。樱洲四周被环洲围着，其间隔一道湖水，因此是洲中之洲。洲上遍植樱桃，故名樱洲，又名莲警洲。春暖花开，云蒸霞蔚。洲上有喇嘛庙和古塔。莲花港畔的九级砖塔，是南京少见的一个八角砖塔，古朴庄重。这里湖光塔影，堪称风景佳处。长达一里多的樱洲长廊，沿莲花港婉蜒曲折，质朴淡雅，隐于绿荫花丛之中。出樱洲，经环洲向北，就能到梁洲。