沂山氣勢磅礴，風景絕佳，自漢代以后歷代帝王多立祠祭祀，故亦有相當的古代建筑。古跡、名勝比比皆是，有古寺、歪頭崮、百丈崖、東鎮廟、齊魯長城遺址等。

古寺，舊稱發云寺，是沂山林海的中心，海拔850米。它位于主峰東側。這里是一塊平地，周圍群山環繞，東南開敞，宛若一把古式圈椅，發云寺就座落在這塊平地上。相傳發云寺建于東漢，當年這里殿宇崇麗，古木聚秀，香煙繚繞，暮鼓晨鐘。今寺已廢圮，其遺址上，建有沂山林場管理處和游客接待處。由發云寺北行一里許，兩壁如石門，由間峪谷深峭，名“黑風口”。

相傳，這里為梁山泊好漢李逵當年回沂水老家接老母去梁山泊路過之處。李逵放老母于一座山崗上，去山澗打水給母解渴，待回來時，老母被四虎吞食，僅余一腿。李逵氣得鬢發直立，眼冒金星，一口氣殺死四虎，痛哭一場，憤然離去。直至現在，這里仍層山障日，怪石嵯峨，喬松蔚然成林。