Za ovu crkvu vezuje se neverovatno verovanje

Prema nekima, selo se zove Paljevo, jer je spaljeno prilikom progona bogumila u Raškoj, a pojedini autori smatraju da je pećinska crkva stara bogumilska kelija ili bošnjačka hidža.

Bogumili su bili pristalice hrišćanskog učenja koje se razvijalo od X do XV veka među Slovenima na Balkanu. Pretpostavljeni osnivač učenja, pop Bogomili, je propovedao u Makedoniji sredinom 10. veka.

Zalagali su se za povratak izvornom hrišćanstvu, odbacujući crkvenu hijerarhiju, vlast i nasilje, u ime "evanđeoskog ravenstva". Glavna politička tendecija bogomilstva je bila otpor vizantijskoj državnoj i crkvenoj vlasti, što je pomoglo da se pokret brzo širi među balkanskim Slovenima – kažu stručnjaci – Mehdija Meho jašarević iz Gornjeg Paljeva.