少林寺建筑恢宏,高壁如峰,殿宇巍蛾。常住院在少林河北岸,為七進院落,現存建筑有山門、客堂、達摩亭、白衣殿、地藏殿、千佛殿等。山門建于清雍正十三年,門額上懸“少林寺”三字,為清康熙皇帝親手所書。
傳說山門置各種巧妙機關,無輕功者過此會掉人陷井;又說山門曾置“木人巷”,凡入寺學武者,出師吋須從木人巷中打出,如不出,須再學三年。門北為碑林,碑數十通,有唐宋名人撰寫的碑文刻于上。經碑林北達天王殿,后為大雄寶殿,原是寺院的中心建筑,現僅存基址。殿東南鐘樓遺址上有重達一萬一千斤的大鐵鐘,為金泰和四年鑄。由此過藏經閣、方丈院(龍亭)、達摩亭(立雪亭),即到常住院內最大的建筑千佛殿。殿建于明萬歷年間,清乾隆時重修,面闊七間,深三間,面積三百九十平方米,為寺現存建筑之精華。
殿壁的東、北、西三面連成I:一體,繪有《五百羅漢朝毗盧》巨幅畫,畫面三百二十平方米,分三層:上為群峰,中為云海,下為水浪。規模宏大,人物各異,線條清晰有力,為明代壁畫珍品。殿堂磚地上,有四行四八個腳窩,傳為僧人練武遺跡。殿東側的白衣殿中亦有多幅清末壁畫。