薛举本是河东汾阴（今山西省万荣县）人，其父薛汪，徙居兰州金城（今甘肃省兰州市）。薛举容貌魁梧雄壮，骁勇善射。其家钱财巨万，喜欢交结边地豪杰，称雄于北方边地。

隋朝大业（605年—618年）末年，薛举担任金城府校尉。大业十三年（617年）四月，时逢年荒民饥，陇西盗贼蜂起，金城县令郝瑗为讨伐贼寇招募兵卒数千人，任命薛举为将。分发铠甲，大集官民，置酒飨士，薛举和儿子薛仁杲及其徒党于座中劫持郝瑗，假称收捕谋反之人，随即起兵，囚禁郡县官员，开仓散粮以赈济贫乏。自称西秦霸王，建年号为秦兴，封薛仁杲为齐公，小儿子薛仁越为晋公。别处贼寇宗罗睺率其众归附，封为义兴郡公。继而招附群盗，劫掠官马。兵锋甚锐，所至之处城池皆被攻下。

隋将皇甫绾率兵一万人屯驻枹罕，薛举选精兵二千人前往袭击，与皇甫绾在赤岸相遇。战前风雨突至，起初薛举一方逆风，而皇甫绾不出击。不久反风吹向对方，天色又很昏暗，军中队伍不整，薛举骑乘甲马率先出击，皇甫绾兵队大败而逃，薛举乘势攻陷枹罕。岷山羌钟利俗率众二万人归降，薛举兵势大振。进封薛仁杲为齐王，授职东道行军元帅，宗罗睺为义兴王，以辅佐薛仁杲；薛仁越为晋王，兼领河州刺史。接着又略取鄯、廓二州之地。不过十天，尽据陇西之地，拥兵十三万人。

大业十三年（617年）七月，薛举在兰州称帝，封妻子鞠氏为皇后，儿子薛仁杲为太子，尊母亲为皇太后。在其祖先墓地建置陵邑，立庙于城南，陈兵数万人，出巡扫墓，然后大飨士卒。派薛仁杲围攻秦州（即天水郡，今甘肃省天水市）；薛仁越前往剑口，攻掠河池郡（今陕西省凤县凤州镇），被河池太守萧瑀击退。薛举又派遣部将常仲兴渡过黄河进击李轨，与李轨部将李赟战于昌松，常仲兴战败，全军陷没于李轨。薛仁杲攻克秦州，薛举便将都城从兰州迁至秦州。

大业十三年（617年）十二月，薛举派薛仁杲进犯扶风郡（今陕西省凤翔县），汧源贼寇唐弼抵御，兵不能前进。起初，唐弼拥立李弘芝为天子，有众十万人。薛举派遣使者诏谕唐弼，唐弼杀害李弘芝依附薛举。薛仁杲趁唐弼不备，袭破其军，尽收其众，唐弼仅率数百名骑兵逃走。薛举军势益盛，号为二十万众，筹划攻取长安。时逢唐王李渊拥立隋朝代王杨侑为隋帝，入据长安。薛举便留兵攻打扶风，李渊派遣次子李世民率军击讨薛仁杲，双方及战，薛仁杲大败，唐军斩首薛仁杲军数千首级，薛仁杲撤回陇右，唐军追击至陇坻而还。

薛举畏惧李世民，便越陇逃走，问其属下说：“古时有投降的天子吗？”黄门侍郎褚亮说：“从前赵佗以南粤归降汉朝，蜀汉刘禅也出仕晋朝，近代萧琮，其家族至今仍在，转祸为福，自古皆有。”卫尉卿郝瑗说：“褚亮之言不对。从前汉高祖兵马屡败，蜀先主曾亡失妻小。作战本来就有胜负，怎能因一战不胜就言亡国之计呢？”薛举也后悔其问话，便说：“不过是试试各位而已。”便重赏郝瑗，用他做谋主。郝瑗建议与梁师都连兵，送厚礼给突厥，合兵并力，东逼京师。薛举接受此议，与突厥莫贺咄设共犯京师。时逢都水监宇文歆出使突厥，劝说莫贺咄设停止出兵，因此薛举的计划未能成功。 

武德元年（618年）六月，唐朝丰州总管张长逊进击宗罗睺，薛举率全部兵力前往救援并进击泾州，屯驻于析墌（今甘肃省泾川县）城，派出游军劫掠岐州、豳州。

武德元年（618年）七月，薛举进逼高墌（今陕西长武北）。唐高祖李渊以李世民为元帅，率八总管兵迎战。由于部将恃众不备，被薛举引兵掩袭阵后，大败于浅水原，退兵长安，高墌遂陷。八月，薛举病死，其子薛仁杲继位，驻折墌城（今甘肃泾川东北），继续攻唐，威胁关中。李渊一面争取据凉州（今甘肃武威）称王的李轨的支持，一面又命李世民领兵逼近高墌。薛仁杲派大将宗罗睺率兵10余万迎击。宗罗睺多次挑战，唐将亦请出击，李世民认为唐军受挫，士气未复，而薛军又恃胜而骄，应当闭垒以待，等其粮尽，再一战而破。遂坚壁不动，两军相持60余日。至十一月，薛军粮尽，将士离心，其将梁胡郎等率部降唐。这时，李世民选择浅水原有利地形作为决战地点,派行军总管梁实扎营于原上,诱薛军出战。宗罗睺自恃骁勇，尽出其精锐进攻。梁实守险不出，以挫其锋。相持数日，薛军疲惫。李世民见战机已到，遂令右武候大将军庞玉率军在浅水原南部列阵，出薛军之右。当宗罗睺集中兵力攻庞玉军之际，李世民亲率大军从浅水原北部突击其后背,宗罗睺回军迎战，遭唐军前后夹攻而大败，死伤数千人，逃往折墌。唐将窦轨谏言不可轻进，李世民认为破竹之势，机不可失，当即率2000余骑乘胜直追，占据泾水南岸，使溃散的宗罗睺军不得入城。薛仁杲列阵于折墌城下，其骁将浑干等临阵降唐。薛仁杲恐惧,入城拒守。傍晚，唐大军围城。

薛仁杲被迫于十一月初八率兵万余出降。唐平定陇西，消除西顾之忧，保障了关中安全。唐军平定陇西。