陈朝后期，掌领方镇大权的陈氏诸王专横跋扈，骄奢淫逸，给人民造成了极大的灾难。陈宣帝时，来长沙担任湘州刺史的始兴王陈叔陵，陈宣帝次子，是一个骄横残忍、贪虐成性的人物。太建四年（572），他受命为都督湘衡桂武四州军事、湘州刺史时，湘州“诸州镇闻其至，皆震恐股慄”，惊恐万状。陈叔陵来长沙后，专以杀戮、抢掠为事，“征伐夷、獠”，骚扰居民，滥征劳役，大肆掳抢财物；生活荒淫放荡，“夜常不卧”。当时，长沙的王府之内常常高烛燃烧，通宵达旦，他和一群妻妾宾客整夜地寻欢作乐，“说民间细事，戏谑无所不为”。在湘州几年，陈叔陵“昼伏夜游”，不理政事，下属官吏不得自行报告公事；犯事者不论轻重，一律关进牢狱，几年也不审理。在他的统治下，湘州几乎成为了人间地狱，即使“潇、湘以南，皆逼为左右，厘里殆无遗者”。百姓怨声载道，“州县无敢上言”。而陈宣帝向来宠爱叔陵，也不予惩罚，只是责备几句而已。

太建九年 (577)，陈叔陵调任扬州刺史，湘州刺史一职先后由其弟叔卿、叔文接任。他们虽不像其兄那么贪虐残暴，但才干平平，政绩不显，遍体鳞伤的湘州也未能因此而恢复元气。

这时，北方的形势发生了重大变化。北周灭亡北齐，重新统一了北方。太建十三年（581），北周外戚杨坚废周称帝，建立隋朝。杨坚即是隋文帝。隋开皇八年 (588) 冬，隋朝以52万大军分八路大举南下，展开了灭陈的战争。次年，隋军渡过长江，攻克建康，俘陈后主陈叔宝，陈朝灭亡。至此，自西晋灭亡以来持续了270多年的南北分裂局面宣告结束。

与此同时，隋军在上游的攻势也全面展开。隋秦王杨俊、清河公杨素、行军总管刘仁恩率领各路兵马，摧枯拉朽，大败陈军。陈朝在荆州的防线倾刻瓦解。紧接着，隋将领庞晖奉杨素之命，“将兵略地，南至湘州”，兵临长沙城下。一时“城内将士、莫有固志”，准备刻日请降。

目睹此情，时新任湘州刺史岳阳王陈叔慎，在长沙设置酒会，盛情款待文武僚属。酒酣之际，陈叔慎突然感叹道：“君臣之义，尽于此乎？”诸将闻言，为之感激。长史谢基跪地痛哭流涕，湘州助防遂兴侯陈正理则慷慨激昂地说：“主辱臣死，诸军独非陈国之臣乎？今天下有难，实致命之秋也。纵其无成，犹见臣节，青门之外，有死不能。今日之机，不可犹豫，后应者斩！”与会诸将，群情感愤，宰牲盟誓，决心死战。次日，陈叔慎即施以诈降之计，派人奉送降书于庞晖。庞信以为真，如期来到长沙，以数百人屯守城门，自率左右数十人进入城内刺史大堂。瞬间，陈伏兵跃出，将庞晖及其随从一一擒获后，处死示众。

随后，陈叔慎高坐射堂，“招合士众，数日之中，兵至五千人”，衡阳太守樊通、武州刺史邬居业皆请赴难。隋所派湘州刺史薛胄闻庞晖遇难，进兵至城北鹅羊山（今在开福区秀峰街道办事处辖境之内）。陈叔慎遣陈正理及樊通领兵拒之。两军在长沙城北展开大战，从清晨直到黄昏，隋军迭战迭息，陈军兵少不敌，于是大败。薛胄入城，生擒叔慎，长沙陷落。这时，邬居业率所部从武州来援，出横桥江，闻叔慎兵败，乃驻兵新康口。隋大将刘仁恩奉命援助薛胄，也到达横桥，据水置营，相持两日夜，击败陈军，邬居业被俘。不久，刘仁恩将陈叔慎、陈正理、邬居业等10余名起事将领押到汉口，献于秦王杨俊，将之全部处死。至此，陈叔慎领导的湘州拒隋之役彻底失败，长沙归入隋朝统治。

隋统一中国后，隋文帝时改地方州、郡、县三级制为州、县二级制，以长沙有昭潭，乃改湘州为潭州，设立潭州总管府。长沙郡废除，所辖的临湘县改为长沙县，并废浏阳、醴陵二县并入；建宁县亦被废除，并入衡州(原湘东郡)的湘潭县。隋炀帝时，“废诸州总管府”，裁并州县，又改州为郡。于是，潭州又改为长沙郡，辖长沙、衡山、益阳、邵阳4县，以长沙县为郡治。长沙县辖地包括今长沙、望城、浏阳、醴陵4县(市)地。区域大小与大致与今长沙市辖区相当。

湘州改制是古代长沙建置史上的一个重要变化。从此，辖境广阔的湘州不复存在。但是，由于长沙地理位置的重要，以及历史的原因，长沙作为地方一级行政区划的中心，其地位与作用却是巩固和加强了。自三国时代以来，长沙郡的行政范围基本上都局限于湘江以东的地带，隋朝的长沙郡则大大地跨越过湘江，达于整个湘中地区，从而基本上奠定了从此直到清代长沙建置的规模。长沙郡共有14275户。

隋朝的统一，使长沙又归于全国统一的中央政权的管辖之下，与全国其他地区的往来与联系不断加强，获得了一个广阔和相对安定的空间。长沙古代历史又进入了一个新的发展时期。