零陵，是古地名，据北京大学《中国古代史》教学参考地图集称：“零陵是我国夏以前出现的34处重要古地名之一。”秦始皇二十六年(前221年)统一实行郡县制，设长沙郡，并始置零陵县，县治所在全州西南39公里处咸水。

司马迁在《史记·五帝本纪》中写道：舜“南巡狩，崩于苍梧之野，葬于江南九疑，是为零陵。”这说明，零陵与舜葬九疑有关。根据古代文献及地方志的记载，零陵名称的原初含义就是舜陵。

对“零”的解释，众说纷纭。其中有两说比较有理：一是九疑山有泠水，古时“泠”“零”相通，零陵就是泠陵。二是零，指涕零，掉眼泪。相传舜帝南巡，崩葬九疑。娥皇、女英二妃千里寻夫，泪染九疑荆竹。后人感其诚，故将舜陵改称零陵。

当西汉武帝征服南越以后，为了打击地方割据势力，随即在这一带建立起西汉中央政府领导的地方政权。汉武帝元鼎六年（公元前111）汉武帝析长沙国置零陵郡，郡治首先便设在小零陵县（秦始皇公元前221年始设置的零陵县，在汉武帝元鼎六即前111年设为零陵郡的郡治，隋文帝开皇九年即589年撤消零陵县（现广西区）并入湘源县）。小零陵县共存在了810年(前221－589年)。

零陵郡辖今邵阳以南资水上游、衡阳与道县之间的湘江、潇水流域，以及广西桂林、永福以东与阳朔以北地。目前在建安司村后的田垌，还可以看到古城墙遗址，该遗址距湘江南岸233米，呈正方形，分内外城，内城南段长127米，北段长130米，东段长124.5米，西段长120，残存城墙高2～4米，西北角最高点5米，残存城墙基脚长19米。

光武帝建武元年即25年，零陵郡治从小零陵县迁至泉陵侯国，并改泉陵侯国为泉陵县。两汉时期零陵是一个大郡，辖7县4侯国，后增至13县。隋文帝开皇九年即589年将撤消的零陵县并入湘源县后，置永州总管府，将泉陵、永昌、祁阳、应阳4县合并，定名零陵县（亦称大零陵）。此后“零陵县”一直沿用到1984年6月，前后沿用了1395年。从东汉至建国前历代或称郡，或称路，或称府，永州、零陵之名，常交替使用。所以，今永州市零陵区已经有（前124—2014年）2138年的建城历史。

1949年--1966年零陵县县城叫芝城镇，1966年--1979年零陵县县城叫东风镇,1979年，零陵县东风镇改名永州镇。1982年1月，改零陵县永州镇为县级永州市。1984年6月，撤销零陵县，原零陵县的邮亭圩、菱角塘、富家桥、水口山、珠山、黄田铺等6区和楚江圩区接履桥乡划归永州市（县级）管辖。1995年11月21日，撤销零陵地区和永州市、冷水滩市，设立地级永州市，市人民政府驻新设立的芝山区。永州市新设立芝山区、冷水滩区。以原永州市为芝山区的行政区域，区人民政府驻南津路。2005年，芝山区更名为零陵区。

2000多年悠久灿烂的历史文化和文明，赋予了古郡零陵丰富的文化内涵，人文、自然资源得天独厚。在漫长的历史长河中，勤劳智慧的零陵人民在这块土地上繁衍生息、辛勤耕耘，创造了光辉灿烂的人类历史文明，为中华民族的崛起和社会进步做出了自己应有的贡献，使古郡零陵成为华夏文明发展中的一颗璀璨明珠和湖南省四大历史文化名城之一。