玉泉寺是山上歷史悠久的寺院。相傳，東漢末年，汜水關鎮(zhèn)國寺的普凈禪師救了關羽之后，來此結草為庵。劉備為感激他救關羽之恩，修普凈庵請其主持。

隋開皇間，天臺宗始祖智頡大師講法于此，定名玉泉寺。唐代著名國師神秀也曾于此傳授禪法，死后葬于此地;天文學家僧一行曾在此學習梵律。北宋天禧年間，明肅皇后信仰推崇拂教，在此大興土木，寺院“為樓者九，為殿者十八，三千七百僧舍”，占地左右各五里，前后十里，常住和尚千人，唐代詩人張九齡、盂浩然，五代詩僧齊己，明公安派袁宗道兄弟三人皆到過該寺，并留下了不少遺跡及其詩章。

大雄寶殿是玉泉寺的主體建筑，上掛“智者道場”匾額。殿為宋建，七開間，為木質結構，不用鐵釘，為當?shù)刈罟爬系哪窘Y構建筑。殿前有池，中育名貴的千瓣并蒂荷花。池邊有鐵鑊，上鑄“隋大業(yè)十一年造，用鐵金三千斤”字樣，還有元代鐵鐘、明清的鼎、爐、碑刻等。殿右側有觀音像，傳為昊道子作品。沿這里的臺階而上可到毗廬殿。