Kirkebygningen er tegnet af arkitekt S. F. Kühnell, Århus, hvis søn Poul Kuhnell for øvrigt har malet kirkens altertavle med motivet af Paulus for Damaskus. Arkitekten skænkede kirkens nummertavle, mens altergangsbægrene er skænket af fru fabrikant Larsen, København.

Kirkebyggeriet blev udført af et lokalt byggefirma, Brdr. Thommesen fra Levring. Firmaet har blandt andet opført Kjellerup Skole og Helsingør Banegård.
Grunden til kirken og kirkegården, som blev anlagt af gartner Anthonsen, Kjellerup, blev skænket af gårdejer Jørgen Jensen, Voergaard.

Kirkeklokken er støbt af Løw & Søn, København og bærer indskriptionen:
Kalde på gammel og ung,
mest dog på sjælen træt og tung,
syg for den evige hvile.

Grathe Kirke fik sin plads tæt ved en ruin af Grathe Kapel, der indtil 1860?erne endnu kunne ses rester af ca. ½ km. nord for stedet.
Ved kapellet var kong Svend begravet. Han blev dræbt i 1157 efter slaget på Grathe Hede. Kapellet blev opført i kvadresten ? ifølge sagnet af sejrherren, kong Valdemar, men dets historie går dog længere tilbage, idet der tidligere har været trækapeller langs den gamle hærvej.

En endnu ældre grav har antagelig også haft betydning for Grathe Kirkes placering. Her tænkes på den store broncealderhøj, der ligger inde på kirkegården.
Båndet mellem Grathe Kirke og Grathe Kapel er knyttet meget tæt sammen i form af kapellets kvadresten, der blev skænket af gårdejer J. Chr. Nielsen, Grågård, og nu er indmuret i kirkebygningen. Enkelte af stenen er ved tårnets opførelse i 1930 forsynet med inskriptionen GK af murermester Niels Hvam.

Den markante sten over døren mellem skib og tårn bærer således også hans visdomsord og indskrift:

I Grathe Kapel i mange år
jeg hørte messesangen.
I Grathe Kirke nu jeg står
og hører klokkeklangen.

Kirkens første orgel var et harmonium, der blev opstillet i 1917 og skænket af stiftsamtmand Howard-Grøn. Ved en restaurering i 1965 indsattes det nuværende orgelværk, der er bygget af Th. Frobenius og Co.
Kirkens første organist, Cathrine Mortensen, fulgte kirken i næsten 60 år frem til 1976.

I efteråret 2010 blev Frobenius orglet dog udskiftet. Menighedsrådet besluttede efter en prøvetid at købe et nyt elektronisk orgel til afløsning af pibeorglet efter tilladelse fra Stiftet. Orglet er købt hos Skandinavisk Orgelcentrum i Vejle, hvor man bygger digitale kirkeorgler af høj kvalitet. Orglet har 25 stemmer og en smuk og fyldig klang.

Flere af de oprindeligt bærende kræfter bag kirken nåede ikke at opleve, at kirken fik tårn. Provst Larsen, arkitekt Kühnell og lærer Andersen var gået bort inden indvielsen af tårnet den 9. november 1930.

Det blev imidlertid provst Larsens enke, Anna Larsen, der som ildsjæl og formand for den tårnkomite, som hun selv dannede, fik gennemført denne del af kirkebyggeriet.

Til tårnets opførelse lykkedes det at skaffe 12.932,75 kr., hvoraf de 3.300 kr. var bevilget af Finansudvalget.
Igen stod bygmester Th. Thommesen, Levring, for byggearbejdet ? denne gang i samarbejde med murermester Niels Hvam, Stenrøgel.

Murermesteren havde til tårnets indvielse skrevet denne sang om Grathe Kirke:

Grathe Kirke har historisk minde;
det er kendt af hver en skolepog,
at kong Svend sin grav her måtte finde,
bonden med sin økse her ham vog.

Et kapel kong Valdemar lod bygge
og lod læse messe for hans fred,
skærsildslue ej ham måtte trykke
men at han må se Guds herlighed.

Sekler svandt, kapellet mer ej findes,
Luthers lære munkene fordrev;
med et stenkors faldne konge mindes,
som sit navn på Grathe Hede skrev.

Lidt derfra ved kæmpehøjens side,
blev ad åre kirken bygget her,
net og smuk med sine mure hvide,
taget rødt, som Danmarks farve er.

Dog et tårn vi allelængtes efter,
som vor kirke havde fået kær,
og ved mange små, men fælles kræfter
tårnet rejste sig trods storm og vejr.

Nu en tak vi sige vil til alle,
som til tårnet givet har en sten,
tak, fordi I ej lod sagen falde,
men holdt ud trods modgang hver og en.

Grathe Kirke, hør hvor smukt det lyder,
nu dit tårn kan skues fjernt og nær,
og din klokke kalder og indbyder
ung og gammel til at komme dér.

Ej man mer om Grathe Kirke leder,
kirketårnet rækker højt mod sky,
Gud til ære, som på Grathe Heder
førte Danmark ind i dagen ny.