后来，逐渐形成三股巨大的力量：李密激战于中原，窦建德鏖兵于河北，杜伏威驰骋于江淮。杀得士族社会，落花流水；杨隋统治，摇摇欲坠。在这种情况下，一些官僚缙绅也相继反隋。李渊就是其中的一个。李渊是隋炀帝的近亲，老谋深算，智勇兼备。大业十二年(616),炀帝南巡江都(今江苏扬州),命李渊安抚太原(今山西太原市)。李渊见天下大乱，就在其子李世民等人的帮助下，暗地里厉兵秣马，准备争夺天下。也就是在这个时候，李渊认识了武士獲。
在此之前，武士獲一直不大得志。年青时，以贩卖木材为业，并因此大富。但他不满足于做一个商人，还想跻身仕途，光宗耀祖。仁寿(601～604)中，在汉王杨谅的引荐下，认识了司空杨雄、左仆射杨素和吏部尚书牛弘等，但因不久隋文帝死去而未能入仕。大业七年，他开始研究兵法，写成《古今典要》三十卷。后又参加过讨伐农民义军杨玄感的战争，被封为晋阳宫留守司铠参军。与李渊相识之后，李渊“虚心结契，握手推诚”;武士獲十分高兴，以为遇到了知己，便倾心相从。李渊曾多次前往河西镇压历山飞领导的农民起义，途经文水，就住在武士獲家中。
