王遠知自幼機警聰明，博學多才，拜明師求學修道，名重朝野。隋煬帝當晉王時，在揚州召見了王遠知，王遠知的頭髮一會兒變白，一會兒變黑，讓人驚異。隋煬帝登基後，向他行弟子禮，向他詢問有關神仙的事。隋煬帝要去揚州時，王遠知告訴他不宜遠離京城，隋煬帝沒有聽從，結果隋煬帝在揚州被部下發動兵變縊殺。

唐高祖李淵在還沒有顯達時，王遠知便將天命暗暗透露給了他。武德年間，平定王世充後，當時的秦王李世民和房玄齡穿上平民的服裝去拜訪王遠知，王遠知先前並不認識他們，迎接他們說：「你們中間有位聖人，莫不是秦王吧？」秦王於是將實情告訴了他，王遠知說：「您將要做太平天子，希望能夠自愛。」

秦王后來登帝位就是唐太宗，一心想任用王遠知做官，但王遠知志不在仕途和功名利祿，全都苦苦推辭掉了。

王遠知去世前告訴他的弟子潘師正說：「我小時候犯有過失，不能上天，如今被署任少室伯，我要走了。」隨即沐浴，穿戴好衣冠，象睡覺一樣去世了。人們說他的壽命大概有一百二十六歲。

王遠知給兒子王紹業留下遺言說：「你六十五歲時會見到天子，七十歲時見到女皇。」高宗調露年間，王紹業上表披露了父親的遺言，高宗召見了他，嘆息讚賞，追贈王遠知爲太中大夫，諡號升真先生。武則天登基後，又召見了王紹業，與王遠知先前預言的時間絲毫不差。武則天追贈王遠知爲金紫光祿大夫，天授年間改諡號爲升玄。

人世間的一切事都是有定數的，上天在主宰一切，所以我們的神傳文化推崇爲人處世要順天意、敬天知命。由此也可以看到，當一個人通過修煉出了功能，便可以洞察和預測到未來還沒有發生的事，這並不是所謂的「迷信」，而是高於現在人類實證科學的更高科學。