古云：“天下名山僧占多”，“山不在高，有僧（仙）則名”，石林寺始建于萬(wàn)歷元年1573年，是由無(wú)用和尚結茅為庵，肇始開(kāi)基，經(jīng)清康熙、乾隆、咸豐年間多次維修擴建，到清末已有僧侶百余人，成為粵東四大名寺之一（與潮州開(kāi)元寺、陰那山靈光寺、蓮花山蓮花寺齊名）。到了20世紀40年代，這座石林寺已湮沒(méi)，1995年重新開(kāi)放修復，現已形成一定規模。
傳說(shuō)，石林寺是由平遠縣河頭鎮人“如愚”祖師所創(chuàng )。如愚祖師在俗時(shí)姓劉，生有五個(gè)兒子，家中富有，頗有錢(qián)財。兒子長(cháng)大后都分了家，并各自有家室，祖師喪偶獨居。有一年過(guò)年的除夕之夜，祖師想，過(guò)年了，不用自已燒火做飯，兒子們會(huì )來(lái)叫父親去吃年夜飯的。但是，結果卻沒(méi)有一個(gè)兒子叫吃飯。到了晚上八九點(diǎn)鐘了，幾個(gè)孫子過(guò)來(lái)向祖師討利是（紅包）時(shí)，便順口問(wèn)：“阿公，吃了飯沒(méi)有？”祖師說(shuō)：“現在還有誰(shuí)未吃？連狗也吃了”。說(shuō)完便連夜帶著(zhù)巨款來(lái)到五指石山下當和尚，建石林寺。祖師覺(jué)得自已多子多錢(qián)都無(wú)用，便化名“無(wú)用”，叫無(wú)用禪師，又因時(shí)俗不能行道、尊德，如若愚頑，遂又取法號“如愚”。祖師建寺時(shí)已年過(guò)半百。
現寺內有鎮寺“三千斤”之稱(chēng)，即有生鐵所鑄的佛像、大鐘、香爐鼎各均重一千斤。原寺的大門(mén)聯(lián)為：
石室不須金鎖閉
林園自有白云封
過(guò)去，每年的重陽(yáng)廟會(huì )，這里便是閩、粵、贛三省香客、游
人云集之地，熱鬧非凡。清朝有一禮部尚書(shū)黃錦曾到此游山問(wèn)禪，并題詩(shī)作賦：
石林高幾許，金剎隱中峰。
白日空山梵，清焱靜夜鐘。
小窗扶嫩壁，危蹬依長(cháng)松。
坐聽(tīng)無(wú)師語(yǔ)，何時(shí)錫杖從。