Palūšės architektūrinė įžymybė - XVIII a. statyta medinė Šv. Juozapo bažnyčia ir varpinė. Tai seniausia medinė bažnyčia Lietuvoje. Bažnyčios viduje yra vertingų tautodailės kūrinių - ant lentos tapytų paveikslų, drožinių, žalvariniai varpai, puošti barokiniais ornamentais, nulieti 1752 ir 1772 metais.
Čia vargonininkavo Miko Petrausko ir Kipro Petrausko tėvas.
Palūšės bažnyčia su varpine buvo pavaizduota ant vieno lito kupiūros.