不得不說，劉文靜的識人之名在歷史上一定能排到前列。
他一眼就看中了當時身為太原留守的李淵。劉文靜認為李淵出身顯貴，且胸懷大志，便與其結交。
此外，他對李淵次子李世民也非常贊賞，認為常被排擠的李世民絕非庸碌之輩，其豁達大度、神武雄豪，是漢高祖、光武帝一類的人物，年紀雖輕，卻是天縱之才。
但裴寂對此并不認同，相較之下，也能看出劉文靜的識人之明。
后來，劉文靜因與瓦崗軍首領李密有親戚關系，被牽連入獄。也正是這次牢獄之災，讓他與李世民結下了深厚的情誼。在劉文靜入獄后，李世民認為他可以共謀大事，便去獄中探望，并向他詢問對時局的看法。
這一場面有點像劉備三顧茅廬、問計天下的味道。根據《舊唐書》的記載，劉文靜頗有試探的意味，對李世民說：“天下大亂，除非有商湯、周武王、漢高祖、漢光武帝那樣的才干，否則不能平定天下。”
李世民則回答：“您怎么知道現在沒有這種人？一般人看不出來罷了。”這話大有一種“舍我其誰”的味道。
由此可見，李世民是一個富有野心和大志的人，其奪權之心絕非始于后來的玄武門之變。所以，關于太子之位的兄弟相殘，很大程度上是必然的。
而說到劉文靜的試探，其實也是為了全心結交李世民。劉文靜深知李世民有謀反的打算，于是提出了著名的“獄中對策”。不少史學家認為，這份對策堪比諸葛亮的《隆中對》。
之后，劉文靜給李世民分析局勢，說：“現在李密的瓦崗軍正在圍困洛陽，皇帝跑到江都去了，各路人馬加起來多如牛毛，就差一個真命天子來駕馭了。
現在躲避盜賊的太原百姓都入了晉陽城，我在此做了數年縣令，一旦舉起大旗號召，可得十萬雄兵。眼下你父親手里就有大兵數萬，你們如能舉旗，民眾必響應。
進取入關，號令天下，不到半年必成大業。”李世民聽完后，更加堅定了反隋的決心。而這次牢房會晤之后，劉文靜也成為了李世民的絕對心腹。
公元617年，李淵與劉文靜在晉陽起兵反隋，史稱“晉陽起兵”。
關于晉陽起義，根據《大唐起居注》和《兩唐書》的記載，對于李淵和李世民誰是首謀有著不同的說法，但無論怎樣，劉文靜作為太原舉兵預謀階段的核心人物是毋庸置疑的。
在李唐創業的過程中，劉文靜作為元從功臣，身兼謀士、外交官、將領多個角色，可謂居功至偉。
在舉兵起事之前，李淵曾面臨一個巨大的難題。當時隋煬帝雖然任命李淵為太原留守，但對他并不放心，所以派王威、高君雅二人作為副將監視他。而李淵想要起兵，首先就要鏟除他們。于是，劉文靜擔負起了這個職責，設計處死了二人。
此外，當時天下雖然群雄并起，但許多人并無大的志向，只圖據地自保，或是瞻前顧后，猶豫不決。一個明確的政治方向無疑是成功的關鍵所在。
對此，劉文靜把自己的獄中對策細化，制定了“進取入關、號令天下”的戰略。李淵根據這個戰略，以入關奪取長安為軍事目標，以開創基業、取代隋朝為目標，一步步按部就班地執行。
李淵在晉陽起兵之后，開設大將軍府，劉文靜擔任大將軍府司馬，裴寂擔任大將軍府長史。
劉文靜敏銳地指出，李淵的軍事行動雖然浩大，但北方的突厥卻是心腹之患。因此，他主動請求前往突厥，為李淵解決這個麻煩。
到達突厥之后，劉文靜靠著三寸不爛之舌，成功說服始畢可汗與李淵合作。
他既解決了李淵老巢晉陽的后顧之憂，又帶回了2000匹戰馬和數百名突厥騎兵，可謂功德圓滿。