Városunk, ezen belül Reformátuskovácsháza lakossága is, százfelől érkezett. Ennek ellenére ez az összesereglett és itt letelepedett embertömeg, – akik vállalva minden bizonytalanságot, nehézséget, munkát és verejtéket, és akiknek fő összekötő kapcsa a református hitük volt, összefogva, hosszú és viszontagságos úton, lépésről lépésre teremtette elő a templom építéséhez szükséges építőanyagot és anyagi feltételeket.

A templom tégláit az Egyház földjéből termelték és égették ki. Az építési munkák és költségek nagy plusz terheket róttak Reformátuskovácsháza szinte teljes lakosságára, hisz akkoriban még nagyrészt reformátusok éltek a településen.

A templomra már az 1882 előtti években elkezdtek gyűjteni, mely gyűjtést aztán a későbbiekben kitartóan folytattak. A református templom végül 1898-ban épült fel, eklektikus stílusban.

Az építkezést Peppel Gyula királyi mérnök felügyelte. A harangokkal kapcsolatban Hönig Frigyes harang gyárossal kötöttek szerződést. Mivel a templom mennyezetének festésével megbízott mezőkovácsházi festő által végzett mennyezetfestés nem volt megfelelő, ezért Kleinbart orosházi festővel javíttatták ki a hibákat. A templom alapkő letételének ünnepségére folyó év május 9-én került sor.

1915-ben az I. világháborúban a hadseregnek szüksége volt a fémekre, így a harangokat elszállították, melyeket ideiglenesen iskolai csengővel helyettesítettek. A háború alatt a harangokon kívül az orgonasípokat is elrekvirálták. Később, 1938-ban a község a világháború hőseinek emlékére egy 700 kg súlyú harangot öntetett (Hősök harangja), melynek haragszentelési ünnepségére július 3-án került sor. Emellett emléktáblával is megörökítették a hősök neveit, mely emléktáblát a templom főbejáratának falán helyeztettek el.

A II. világháború során a templom tornyát bombatalálat érte. Ismételt összefogás által valósult meg az épület javíttatása. A nagymérvű háborús károkat szenvedett templomot csak 1966-ban tudta a kis gyülekezet renováltatni. Az 1990-es évek elején a templom ismételten teljes felújításra szorult, melynek renoválására végül 1994-ben került sor. A templom legutóbbi rekonstruálása 2019-ben történt meg, melyet a Mezőkovácsházi Református Egyházközség pályázati forrásból valósított meg.

A Mezőkovácsházi Református Templom épülete helyi műemlékvédelem alatt áll.