Kivikirkko rakennettiin 1200-luvun loppupuolella Suure-Jaanin ja Järvamaan kirkkojen mallin mukaan: holvillinen kuoritila, pitkittäinen rakennus ja torni muistuttavat esikuviaan. Toistuvasti 1600- ja 1700-luvuilla hajotettu kirkko peruskorjattiin vuonna 1762. Tästä on merkkinä vuosiluku kirkon itäsivulla. Vuonna 1856 rakennettu tornin hattu tuhoutui vuonna 1905 ja rakennettiin uudelleen vuonna 1990. Hyvä tietää: – Paikan kirkkoherrasta on maininta historiankirjoissa jo vuodelta 1234. – Pilistveren kirkon torni on Viron maalaiskirkkojen korkein.