Mács József 1931. április 18-án született Bátkán, Csehszlovákia Rimaszombati járásában. A 2. világháború után gimnáziumának tanítási nyelve a szlovák lett, ezért 1947 szeptemberében átszökött Magyarországra. Ez után a sárospataki református tanítóképzőbe, a miskolci Lévay József Gimnázium pedagógiai tagozatára és a Pozsonyban 1950-ben megnyílt Magyar Pedagógiai Gimnáziumba járt, majd a pozsonyi Szlovák Pedagógiai Egyetem magyar tagozatán a magyar, történelem, társadalomtudomány szakot elvégezve tanári képesítést szerzett.
Mács József az ötvenes évek első felében, írói indulásakor versekkel kezdte, riportokkal és elbeszélésekkel folytatta, majd regényíró lett belőle. Elbeszéléseiben, regényeiben szülőfalujáról, Gömör megye „jó palócairól” és a felvidéki magyarság veszélyeztetettségéről, sorskérdéseiről, megmaradásának esélyeiről írt rendíthetetlen elkötelezettséggel. Az anyanyelv védelme, a magyar iskolák ügye és általában a nemzetiségi kérdés a hatvanas évek derekától, majd az 1968-as prágai tavasztól egyre nagyobb hangsúllyal volt jelen irodalmi munkásságában és publicisztikai írásaiban. Sokáig 1968-ban megjelent, Adósságtörlesztés című regényét tartották pályája csúcsának.
Újabban Mács József főműveként az 1998 és 2001 között kötetenként megjelent, Öröködbe, Uram... című tetralógiát jelölik meg. Ehhez az író felhasználta édesapja családtörténeti és önéletrajzi feljegyzéseit is, pontos képet fest a századforduló Magyarországáról, az egykori Felvidékről és Gömörről. Az elcsatolt vagon című, 2014-ben megjelent regényéért a Magyar Művészeti Akadémia Irodalmi Tagozatának Könyv Nívódíját kapta meg 2016 novemberében.
Kitüntetései, díjai: Madách Imre-díj (1969), a Szlovák Köztársaság Kormányának Ezüstplakettje (2001), Aranytoll-díj (2002), Madách Posonium életműdíj (2004), a Magyar Köztársaság Arany Érdemkeresztje (2011), a Magyar Érdemrend tisztikeresztje (2014).