零陵、永州是两个重要的古地名。永州在隋朝以前称零陵。隋朝以后，永州、零陵成为一地二名。

　　零陵得名于舜葬九疑。《史记·五帝本纪》载：舜“南巡狩，崩于苍梧之野，葬于江南九疑，是为零陵”。这里所说的零陵，实际上就是舜陵，或者说是舜陵的别称或美称。秦始皇统一中国后，设立零陵县，也有纪念舜帝之意。隋文帝统一中国后，按“存要去闲，并小为大”的原则，废除州、郡、县制，实行州、县制。因郡西南有“永山永水”，将零陵郡改置永州总管府。从置永州总管府到现在，永州这一地名和行政区划名称，已经存在1400多年了。

　　1949年10～11月，永州各县先后解放，永州专区于10月正式成立。1950年5月，永州专区改名零陵专区。1952年11月，衡阳、零陵、郴州三个专区合并为湘南行政区。1954年7月，湘南行政区撤销，原零陵专区所属各县，除新田划归郴县专区外，其余县全部划归衡阳专区。

　　1962年12月底，恢复零陵专区，专员公署设零陵县芝城镇（今芝山区），辖8县：零陵、东安、道县、宁远、江永、江华、新田、蓝山。原零陵专区的祁阳、祁东2县划归衡阳专区。1964年5月，划零陵、道县的12个公社和9个国营林场，设置潇水林区管理局。1968年9月，改零陵专区为零陵地区。

　　1979年，零陵县东风镇改名永州镇，由地区直接领导。1982年1月，改永州镇为县级永州市。1983年2月，祁阳县重新划归零陵地区管辖。1984年6月，撤销零陵县，恢复县级冷水滩市。至此，零陵地区辖永州、冷水滩2市和祁阳、东安、双牌、道县、宁远、江永、江华、新田、蓝山等9县。

　　1995年11月21日，国务院以国函[1995]110号函批复湖南省人民政府，同意撤销零陵地区和县级永州市、冷水滩市，设立地级永州市。原县级永州市改名芝山区，原冷水滩市改名冷水滩区。地级永州市辖原零陵地区的9县和芝山、冷水滩两区，市委、市人民政府驻芝山区。1997年7～8月，市委、市人民政府先后迁驻冷水滩区。