玄武湖的历史名称十分有趣。初期它被称为“后湖”或“北湖”。后湖的名称是因为玄武湖位于钟山（紫金山）之阴，对南京城的居民来说，山背的湖泊自然称为后湖。而北湖名称的由来，则是因为它位于六朝京城之北，因此得名北湖。这两个名称虽然不同，但实际上意义相近。玄武湖之名与中国的神话故事紧密相连。“玄武”是中国神话故事中的四神之一，其形象为龟蛇结合体。青龙、白虎、朱雀和玄武分别代表东南西北四个方位。玄武湖因此实际上就是北湖的代称，反映了古代人们对方位和自然的理解。