A közép-franciaországi Auxerre-ben született egy szegény szabó tizenkét gyermeke közül kilencedikként. A nyolcévesen árvaságra jutott, tehetséges fiút a helyi püspök vette pártfogásába, az ő támogatásával kezdhette meg tanulmányait. A nagy francia forradalom sodorta bele a politikába. A mérsékelt nézeteket valló Fourier-t a jakobinus terror idején letartóztatták, csak Robespierre bukása mentette meg a nyaktilótól. 1794-ben az akkor megnyíló École normale supérieure (az egyik legrangosabb francia felsőoktatási intézmény) első hallgatója volt, majd annak tanára lett. 1798-ban több tudóstársával ő is elkísérte Napóleont egyiptomi hadjáratára, a Kairóban létesített francia tudományos intézet titkáraként régészettel és matematikával foglalkozott. Napóleon őt bízta meg az Egyiptomban gyűjtött hatalmas anyag publikálásával, a monumentális mű Fourier történeti bevezetőjével jelent meg. Napóleon ezt követően Isere megye prefektusának nevezte ki, amit nem mert visszautasítani, s e tisztségében is helyt állt, nevéhez több mocsár lecsapolása és útépítés fűződik. A császárság bukása után végre teljesen a tudománynak szentelhette magát, a Szajna megyei Statisztikai Hivatal igazgatójává nevezték ki. 1817-ben a tudományos akadémia tagjának, 1822-ben titkárának választották meg, 1826-ban lett a Francia Akadémia tagja.

Legnagyobb eredményét a szilárd testek hővezetése terén érte el. Az általa kidolgozott fogalmak közül nevét viseli: a Fourier-sor, a Fourier-analízis, a Fourier-együttható és a Fourier-transzformáció. Kevésbé ismert, de Fourier írta le először az üvegházhatást. A Föld hőmérsékletével foglalkozva arra a megállapításra jutott, hogy a Naptól távol keringő, hűlő test hőmérsékletének – amelyet csak a napsugarak melegítenek – jóval alacsonyabbnak kellene lennie. 1827-ben megjelent tanulmányában ennek okaként a szigetelő hatású légkört jelölte meg, amely lassítja a hő távozását a felszínről, s melegebben tartja a bolygót.

Fourier 1830. május 4-én egy lépcsőn lefelé tartva elesett, és olyan súlyos sérüléseket szenvedett, hogy két héttel később, május 16-án meghalt. A párizsi Pére-Lachaise temetőben nyugszik. Nevét belevésték az Eiffel-torony első emeletének peremébe, ahol a legkiválóbb francia tudósok nevét örökítették meg.