涼州，即漢元狩二年（前121年），驃騎大將軍霍去病遠征河西，擊敗匈奴，獲得的河西之地，并設立武威、張掖、酒泉、敦煌四郡。漢元封五年（前106年），漢武帝分天下郡縣為十三州及司隸校尉部，各置刺史（京兆為司隸校尉），“十三刺史部”，其中涼州刺史部，包含原河西四郡之地，及隴西、隴東諸地。涼，意為“地處西北，地常寒涼”。
涼州建部后，轄隴西、天水、安定、北地、酒泉、張掖、敦煌、武威、金城、西海十郡，治姑臧（今甘肅武威），約為今甘、寧、青海湟水流域，內蒙古西部，陜北等地。
東漢立國，涼州曾增置武都、永陽、南安三郡，及安定屬國、張掖屬國、居延屬國(西海郡)。漢末建安初，酒泉、張掖、敦煌、武威四郡，及居延屬國五郡國析出涼州，設置雍州刺史，治姑臧。漢建安十八年（213年），并涼州入雍州。
魏黃初元年（220年），魏文帝曹丕重置涼州，轄武威等七郡，治武威郡姑臧縣。晉泰始元年（266），晉武帝司馬炎取代曹魏而自立，建國號為晉，定都于洛陽，涼州歸入西晉。
晉永寧元年（301年），中原大亂，西晉將亡。此時涼州安定人張軌為護羌校尉、涼州刺史，討伐鮮卑反叛，剿滅盜匪，斬首萬余，威名大顯涼州。
張軌于姑臧之外增筑四城，并征召涼州九郡子弟，建立學校，設置崇文祭酒，舉行春秋兩季以射選士之禮儀。一時間涼州人文薈萃，經濟繁盛，大氣雄闊，為北方之最。姑臧城成為全國政治、經濟、文化的三大中心之一，于北方大動亂時期，力保華夏衣冠文化，時有人言：“天下將亂，避難之所唯有涼州。張刺史德行氣量不凡，天命莫非應此人？”
晉永嘉二年（308年），張軌因患中風而不能說話，以子張寔為中督護，代管涼州。涼州張氏堅守臣節，服從晉朝廷，數次出兵衛護晉帝，并不斷朝貢。晉授張軌侍中、太尉、涼州牧、西平公，張軌堅決辭謝。
晉建興二年（314年）五月，張軌病重去世，只以安西將軍、安樂鄉侯、護羌校尉、涼州刺史的名義下葬，以示身為晉臣。晉追贈張軌侍中，太尉，涼州牧，西平公。
此后，涼州張氏先后歷經張寔、張茂、張駿、張重華三代四任涼州刺史，一直使用晉愍帝建興年號，以晉臣自居，但實際上已是割據政權，史稱張氏政權為前涼。
前涼建興四十一年（353年），張重華死，庶兄張祚廢張重華子張曜靈，自立為涼王，不再尊奉晉為正朔。其后張氏宗室內亂不已，經歷十余年的奪位之爭，到前涼末代統治者張天錫登位時，前涼國勢已經大衰，并失去隴西。
東晉太元元年、前秦建元十二年（376年），前秦大軍步騎十三萬來攻前涼，張天錫不能抵擋，被迫出降，張氏前涼據有涼州七十年，歷五代，九主，至此滅亡。
東晉太元七年、前秦建元十八年（382年），前秦以呂光為將，率軍進擊西域，開拓疆土。呂光一路西征，下焉耆、龜茲、平定西域三十余國。次年，前秦南征東晉，大敗于淝水，無暇顧及西域獨軍，于是呂光率軍東返。
至涼州，被前秦涼州刺史梁熙阻擋，呂光擊敗梁熙入駐姑臧，自稱涼州刺史。因后秦姚萇叛前秦，占據關中及隴西隴東，所以呂光于前秦交通隔絕。
東晉太元十一年，前秦太安二年（386年），苻堅遇害消息傳到涼州，呂光呂光下令三軍縞素服喪，并自稱使持節、侍中、中外大都督、督隴右河西諸軍事、大將軍、涼州牧、酒泉公等，建年號為太安，后涼實際立國。
東晉太元二十一年，后涼龍飛元年（396年），呂光稱大涼天王。東晉隆安三年，后涼龍飛四年（399年），呂光臨死前將皇位禪位給太子呂紹，自稱太上皇，三天后去世。呂紹繼位后，其庶兄呂篡殺呂紹自立，呂光之弟呂寶子呂超又殺呂篡，迎立自己的兄長呂隆為帝。
呂隆繼位后，南涼禿發氏，北涼沮渠氏不斷進逼后涼，再者呂隆為建威名，多殺后涼豪族、名流、宗親，使得后涼人心惶惶，內外交困，百姓饑謹交迫，奔走流亡。姑臧城內人吃人屢見不鮮，餓死十余萬。后涼國內除都城姑臧外，僅剩二郡，處于崩潰邊緣。
后秦見后涼朝綱紊亂、國勢衰落，于是在東晉隆安五年、后秦弘始三年、后涼神鼎元年（401年），發兵進攻后涼。七月，直驅姑臧城，大敗涼軍，斬首上萬。九月，呂隆見再無法抵抗，只得向后秦投降，后秦接受后涼剩余疆域，封呂隆為后秦鎮西大將軍、涼州刺史、建康公，繼續以涼國名義鎮守姑臧。
后秦撤軍后，呂隆重整軍備，繼續與南涼禿發氏、北涼沮渠氏互相攻殺，但國力損耗太多，終無力再戰，害怕被其滅國，于是主動向后秦申請內遷，并獲得后秦同意。后秦弘始五年、后涼神鼎三年（403年）八月，呂隆率殘余后涼百官、軍隊、民眾，棄守姑臧，去涼國號、帝號，遷往后秦國都長安，被后秦拜為散騎常侍、建康公。后涼據有涼州十八年，歷四代國主，煙消云散。
東晉隆安元年，后涼龍飛二年（397年），后涼建康（非東晉都城建康，而是涼州酒泉郡）太守段業叛后涼，自立為涼州牧，建立北涼前身。段業以涼州大姓李氏子孫李暠為敦煌郡效谷縣令，此后逐步升為持節、都督涼興以西諸軍事、鎮西將軍，兼任護西夷校尉、敦煌太守，成為北涼實力人物。
東晉隆安四年，后涼天璽二年（400年），李暠被北涼晉昌太守唐瑤推舉為冠軍大將軍、沙州刺史、涼公，兼敦煌太守。李暠于是自立于北涼之外，在境內大赦，以干支紀年，改年號為庚子，并連續多年與北涼作戰，爭奪涼州西部控制權。史稱李暠政權為西涼。
李暠建國后，積極納諫，執法寬簡，賞罰有信，并重視農桑，寓兵于農，在玉門關、陽關等地屯田，廣積糧谷，敦煌地區因戰亂而遭到破壞的經濟，很快得以恢復和發展。
東晉義熙元年（405年），李暠自稱大將軍、大都督、兼任秦涼二州牧，大赦境內，改年號建初，并遣人攜帶奏章，抄小路前往建康（今江蘇南京）謁見東晉朝廷，以晉臣自居。當年十月，西涼將國都自敦煌遷往酒泉。
東晉義熙十三年，西涼建初十三年（417年）正月，李暠病重，留遺詔予長史、異父同母弟宋繇，叮囑其輔佐太子李歆二月，李暠去世，年六十七。
李歆繼承西涼大權，并接受東晉大都督、大將軍、涼公、涼州牧、護羌校尉等官職，改年號嘉興。李歆不同于乃父，治國用刑過于嚴厲，又喜大造宮殿，西涼國力消耗過度，對抗北涼逐漸吃力。
宋永初元年，西涼嘉興四年（420年）六月，劉裕代晉自立，建立宋朝，宋授李歆為都督高昌等七郡諸軍事、征西大將軍、酒泉公，李歆轉為宋臣。
當年九月，北涼主沮渠蒙遜見李歆連年修造宮舍，并治國刑罰繁重，法規嚴峻，致使西涼國力衰弱，于是準備擊滅西涼。先是散布消息，謊稱北涼主力出征西秦，卻偷偷將軍隊調回，以制造北涼防衛空虛假象，誘使西涼來攻，而中途埋伏一舉破之。李歆果然中計，不顧其母及眾臣告誡，率軍三萬出征北涼。
西涼軍進入北涼境，先后在懷城、蓼泉兩次遭遇北涼軍埋伏，連連大敗，李歆更是在蓼泉陣亡，西涼軍大敗，北涼軍乘勝直驅西涼都城酒泉，一舉破之。西涼殘軍敗退回敦煌，擁立李歆弟李恂，稱冠軍將軍、涼州刺史，改元永建，勉力維持。
宋永初二年，西涼永建二年，北涼玄始十年（421年），北涼主沮渠蒙遜率兵來攻敦煌，李恂閉城堅守，北涼軍引水灌敦煌，李恂自料不能堅持，于是乞降，北涼不受，李恂絕望中自殺，敦煌被北涼攻破，西涼滅亡。西涼占據涼州西部二十一年，歷三主而亡。
西涼亡后，李歆第三子李重耳趁亂逃出涼州，投奔北魏，后歷任北魏恒農太守、安南將軍、豫州刺史。李重耳子李熙，北魏金門鎮將，戍守武川鎮。李熙子李天錫，北魏邢州任縣新市疃疃主。李天錫子李虎，西魏、北周八柱國之一，封唐國公。李虎就是唐高祖李淵祖父。西涼李氏，即后世大唐皇室之祖。
從前涼、后涼、西涼三個涼州地方政權自立國到滅亡的過程來看，都有相似的特點：
地方大族或實力派官員趁局勢混亂，自立為王，依靠原有所掌握的勢力，占據涼州，自成一國。這樣的立國模式，完全靠主君個人影響力來號令下屬，一旦開國之君去世，很快國家就因爭奪權力陷入亂局，導致外部強敵攻擊而滅國。雖然前涼表現稍好，但也是占了同期東部鄰國群雄并立，一時顧不上涼州，所以才能安穩幾十年，一旦中原完成一統，很快就被統一后的強國所滅。
涼州疆域廣闊，但是地廣人稀，且南北均為高山荒漠阻隔，東西狹長，河西四郡就全部位于地勢平坦的河西走廊之上，呈連線分布。各割據政權只能將有限的人力物力集中在不多的幾個大城，以匯集力量，維持國力。這樣一來，強敵入侵，以優勢軍隊沿河西走廊一路長驅直入，只要攻克其國都或一二重要城池，整個國家就土崩瓦解，無法組織抵抗，只有出降而已。
另外，涼州地方貧瘠，農業薄弱，經濟落后，無法承載太多的人口，也就無法孕育出一個強大的政權。涼州長時間分裂為各不統屬的諸涼割據勢力，互相攻伐，更沒有能力建立如中原一樣成熟的郡縣制。整個涼州，也只有姑臧、酒泉、張掖、敦煌等寥寥幾座適合成為國都的大城，諸涼分別占據建國。所以，一旦外部強敵入侵，只要拿下這幾座重要的城池，就代表著已經消滅割據此地的政權，前涼、后涼、西涼概莫能外，另外的南涼、北涼也是一樣的遭遇。
