少林寺建筑恢宏，高壁如峰，殿宇巍蛾。常住院在少林河北岸，為七進院落，現存建筑有山門、客堂、達摩亭、白衣殿、地藏殿、千佛殿等。山門建于清雍正十三年，門額上懸“少林寺”三字，為清康熙皇帝親手所書。

傳說山門置各種巧妙機關，無輕功者過此會掉人陷井;又說山門曾置“木人巷”，凡入寺學武者，出師吋須從木人巷中打出，如不出，須再學三年。門北為碑林，碑數十通，有唐宋名人撰寫的碑文刻于上。經碑林北達天王殿，后為大雄寶殿,原是寺院的中心建筑，現僅存基址。殿東南鐘樓遺址上有重達一萬一千斤的大鐵鐘，為金泰和四年鑄。由此過藏經閣、方丈院(龍亭)、達摩亭(立雪亭)，即到常住院內最大的建筑千佛殿。殿建于明萬歷年間，清乾隆時重修，面闊七間，深三間，面積三百九十平方米，為寺現存建筑之精華。

殿壁的東、北、西三面連成I:一體，繪有《五百羅漢朝毗盧》巨幅畫，畫面三百二十平方米，分三層：上為群峰，中為云海，下為水浪。規模宏大，人物各異，線條清晰有力，為明代壁畫珍品。殿堂磚地上，有四行四八個腳窩，傳為僧人練武遺跡。殿東側的白衣殿中亦有多幅清末壁畫。