Pusztai János szülővárosában, Szatmárnémetiben végzett fémipari szakiskolát, s utána rövid időre a szatmári Dolgozó Nép szerkesztőségébe került (1952–53), onnan pedig háromévi katonáskodás után a szatmári Unió gyárba lakatosnak. 1953-ban már néhány versét közölte az Utunk és más lapok is, így nem véletlen, hogy 1957-ben a Bányavidéki Fáklyához hívják riporternek Nagybányára. 1964 őszén túlzott magyar nacionalizmus indokával elbocsátották. Politikai okokból többé nem kapott újságírói állást.
Pusztai János nagy életanyaggal és makacs elszántsággal érkezett az irodalomba. Pászkán János néven közölt ugyan verseket, ám 1964-től végleg áttért a prózára, ekkor vette fel a Pusztai János írói nevet. Igazi műfaja az önéletrajzi elemekre alapozott regény. Ösvény a világba (1965) című Forrás-kötete, amely a címadó önéletrajzi elbeszélésen kívül első kisregényét, a Meglesett életet is tartalmazta, robbanásszerűen hatott, a kritika elismeréssel fogadta, bírálói észrevették, mennyire igényes önmagával szemben, s azt is, hogy egyedül küzdött meg mondanivalójának művészi kifejezéséért. Illés szekerén című következő, 1969-ben megjelent regényének cselekménye az 1940-es évek végétől az ötvenes évekig terjedő időt fogja át. Ütemesen dolgozik tovább, 1969 és 1981 között megírja trilógiáját, amelynek első kötete a Zsé birtoka, ám ez a cenzúra miatt csak a második kötet, A sereg után egy évvel, 1979-ben jelenik meg, a harmadik kötet, a Csapdában pedig már csak a rendszerváltás után.
1984-ben megjelent Futótűz című regényével újabb trilógia indul, a Tatárjárás. Pusztai, írástechnikáját tekintve, az előbbi regényeit folytatja: „lenyűgöző stilisztikai veretességgel, árnyalatossággal, a középkori miniatűrökre és a pointillizmus vagy a konkrét divizionizmus egyéb képzőművészeti válfajaira egyaránt emlékeztető festői aprólékossággal” (Bertha Zoltán). A Futótűz megjelenését a Kriterion ellen foganatosított retorziók követték; a trilógia folytatása a Hamu és a Parázs így csak a rendszerváltás után jelenhetett meg. Ekkor azonban már készültek és részben kiadásra vártak (s a Helikonban közölt részletek révén ismertek is lettek) az Önéletrajz kötetei.
1992 után Budapesten élt és alkotott. Itt írta a Nagy Álomkönyv hat kötetét és az Árpád háza című könyvét.
Pusztai János 1979-ben elnyerte a Pezsgő-díjat, 1978-ban, 1979-ben és 1998-ban a Romániai Írószövetség prózadíját. 1990-ben Mikes Kelemen Kör-díjjal tüntették ki. A Magyar Írószövetség 80. születésnapján munkássága elismeréséül Oklevéllel tüntette ki (2014). 2004-ben megkapta a Magyar Köztársasági Érdemrend Középkeresztjét.
Az író 2014. augusztus 29-én hunyt el.