开皇中，历任谯、陇、岐三州刺史，隋炀帝即位后，李渊又历任荥阳（今河南郑州）、楼烦（今山西静乐）二郡太守。隋末天下大乱时，李渊乘势从太原起兵，攻占长安。
义宁二年（618年）农历五月，李渊接受其所立的隋恭帝的禅让称帝，建立唐朝，定都长安，并逐步消灭各地割据势力，统一全国。