雨花寺位于晋祠公园的西北角,名字本意来源于天降花雨,传佛祖成佛时坐在一株菩提树下,沉思默想,观照本心,天空中涌现出花云,下起了花雨,浓郁的香气弥漫在空气中,故名雨花寺。雨花寺大门门联上书“法鼓觉音扬渐顿同开真宝义,雨花空界满人天共仰妙严身”,大雄宝殿门联上书“法眼圆通世出世间皆妙谛,雨花严净人非人等悉归宗”。
传说隋朝开国皇帝杨坚,起兵之前曾来此寺烧香许愿,果然得了天下。而最广为传颂的是,唐高祖李渊曾任太原留守,隋朝末年,眼见天下大乱,有人劝他起兵,李渊开始不肯,后其子李世民到雨花寺烧香许愿,李渊父子在晋阳起兵举事之前,专程前往晋祠,在唐叔虞祠中祈祷,企盼这位晋国的开国之君,保佑他们父子取代隋王朝而争得天下。当年武王伐纣,而唐叔虞正是武王之子,求他来保佑寓义深刻。
大业十三年(公元617年)七月,李氏父子起兵反隋,仅仅126天便攻占长安。第二年五月,李渊在长安称帝,都长安,国号便取自叔虞之唐,从此掀开了中国历史上极为辉煌的大唐盛世。晋阳城具有特殊的地理位置,又是李氏父子创建大唐的发祥地,所以李渊一登上皇位,将晋阳定为大唐北都。李世民随父在此居住多年,时人称之为“太原公子”,他也将把太原当做自己的第二故乡,称之为“王业所基,国之根本。