公元572年，北周唐國公李昞去世，他的嫡子李淵才7歲，繼承了唐國公的爵位。李淵性格爽朗，為人灑脫，人緣很好。一日，一個叫史世良的人，擅長相面，他看到李淵後，大驚說：“你骨骼驚奇，他日必為一國之主，希望你從此自愛，不要忘了我的話。”《舊唐書》雲：
有史世良者，善相人，謂高祖曰：“公骨法非常，必為人主，願自愛，勿忘鄙言。”
從此之後，李淵便有了遠大的誌向，立誌要幹一番大事。
9年後，楊堅竊取了北周的政權，建立隋朝，隋文帝的皇後獨孤氏是李淵的姨母。據《唐語林》記載，有一天，獨孤皇後賜宴，李淵和晉王楊廣一同喝酒。楊廣喝多了，看著李淵臉上的皺紋，戲稱李淵是“阿婆面”。
後因賜宴，煬帝於眾因戰神堯，神堯高顏面皺，帝目為阿婆面，神堯忿恚不樂。洎歸就第，怏悵不已……次告竇皇後。（出自《唐語林》卷四）
這裏的“神堯”，指的是李淵（李淵的謚號），李淵年紀輕輕就長皺紋，還被表哥楊廣當眾取笑，心中悵然，回到家後，他的妻子竇氏得知後，對李淵恭賀道：“這是好事啊，‘阿婆面’是指堂主，你本就是唐國公，‘唐’即是‘堂’也。”
竇氏的意思是說，李淵以後要做天下之主。
隋煬帝楊廣登基後，李淵被先後派到了滎陽、婁煩為太守。這期間，發生了一件奇怪的事，據《大唐創業起居註》卷一記載：
大業初，帝為婁煩郡守，時有望氣則雲：“西北乾門有天子氣，連太原，甚盛。”
也就是說，李淵擔任婁煩郡守的時候，當時朝中有擅長望氣的人說：“位於西北方向的乾位有很重的天子氣，大概連著太原方向。”而當時李淵身在婁煩，即今天的山西靜樂縣，它的位置正好在洛陽西北方向。只是，隋煬帝認為天子氣在太原，他連忙命人在太原修建行宮，準備去住兩天。
隋朝末年，隨著隋煬帝修築洛陽皇宮、鑿大運河、征討高句麗，隋朝百姓的賦役加重，民不聊生。各地的農民起義也逐漸爆發，隋朝江山搖搖欲墜。公元617年，李淵擔任太原留守，李淵的次子李世民認為隋朝必將滅亡，於是暗中招攬人才，甚至將一些亡命之徒收為己用。
《舊唐書》雲：
高祖子世民知隋必亡，陰結豪傑，招納亡命。
當年，瓦崗軍在李密的帶領下正在攻打洛陽，牽制了隋朝的大部分兵力，李世民認為，這是造反的最好機會，於是勸李淵起兵反隋。李淵剛開始不願意，後來李世民和裴寂用計，把李淵灌醉，騙他到太原行宮的龍床上休息一晚，這便是犯下了死罪，李淵因此不得不答應造反。
從籌劃謀反，到真正起兵，李淵用了半年時間，這半年內，他不僅需要招兵買馬，還要召回李建成、平陽公主等子女返回太原。為了防止突厥從背後偷襲，李淵還派劉文靜出使突厥。
當年的五月十五，李淵迅速清理效忠於隋朝的將領，控制太原，七月，李淵趁隋朝集中兵力保護洛陽的時候，帶兵直搗長安。
在李淵向長安進軍的過程中，李淵做了一個非常奇怪的噩夢，夢到自己掉到床底下摔死了，屍體被一群蛆蟲吃掉。等李淵一覺醒來，感覺非常惡心。
唐高祖神堯皇帝將舉義師入長安，忽夜夢身死，墜於床下，為群蛆所食。即覺，甚惡之。（出自《洛中記異錄》，下同）
剛起兵造反，就夢到自己死了，李淵心裏非常忐忑，當時軍中有一個和尚，名叫智滿，李淵悄悄把他召來，讓他幫忙解夢。沒想到，智滿和尚一聽，立即對李淵道賀，他說：主公，你將要得到整個天下！
李淵非常不解，問和尚原因，和尚說：
“身死，是‘斃’也；墜於床，是‘下’也。群蛆所食者，是億兆之趨附也。人臣不敢直指天子，故曰‘陛下’，是至尊至象也。”
這段話很好理解，智滿和尚是說：李淵夢見自己死了，是“斃”，夢見掉在床下，是“下”，“斃下”即是“陛下”，是天子的意思。屍體被一群蛆蟲吃掉，是說明李淵將是億兆百姓的依附。總之一句話，智滿和尚是對李淵說：你將擁有天下，要做皇帝了。
後面的結果，正如智滿和尚所言，李淵帶領大軍，一路浩浩蕩蕩殺向長安，雖然在路上遇到了宋老生、堯君素等人的頑強抵抗，但李淵還是於當年十一月九日攻下長安。第二年，隋煬帝楊廣在江都被宇文化及所殺，李淵廢掉代王楊侑之後，在長安正式稱帝，建立唐朝。至此，李淵真的成為了一國之君，成為了大唐王朝的開國皇帝。