Nació en 1871, un niño de una comuna de Paris, hijo de un artesano que hacía pianos y nieto de un empleado de correos y coleccionista de arte que le mostró los cuadros de Courbet. Fue aprendiz de vidrieras y nunca negó la obvia conexión entre las líneas gruesas de sus pinturas y el plomo de las vidrieras medievales que había ayudado a restaurar.
Estudió en la Escuela Nacional de Artes Decorativas y a partir de 1891 en la Escuela de Bellas Artes de Paris con Gustave Moreau, que le inspiró y lo animó. En sus primeras obras se aprecia la influencia de Moreau y tambien de maestros como Saumier, Goya, Matisse, Marquet y Manguin. En 1905 expuso en el Salón de Otoño y los críticos lo clasificaron como fauvista, aunque al artista no le gustaba que lo asociaran con el movimiento fauve. Rouault tenía un estilo muy personal que se puede considerar mas como una forma de expresionismo. No pintaba de la naturaleza, desarrollaba su propio mundo interior, a menudo grotesco y exagerado.
Durante una década, a partir de 1916, se dedicó a la ilustración de libros, despues volvió a la pintura. Un devoto católico, realizó muchos cuadros religiosos que a menudo combinaba con el sufrimiento de la humanidad. Artista muy vérsatil, aparte de la pintura tambien se dedicó a la cerámica, vidrieras, diseño de alfombras y tapices y a la escenografía
En 1917 firmó un contrato con el marchante Ambroise Vollard, que le permitía libertad para trabajar y cambiar toda su obra por un salario mensual. Vollard le proporcionó un estudio en el ático de su casa y allí podia trabajar sin ser molestado. Con el tiempo, el artista descubrió que el patrón era una persona celosa de sus pupilos y que monopolizaba su obra
Antes de la Primera Guerra Mundial viajó algo, fue a visitar Brujas en Bélgica y alli conoció a Marthe Le Sidaner, hermana del pintor Henri Le Sidaner, que se convirtió en su mujer y sería un apoyo constante el resto de su vida
En 1930 empezó a exponer en distintos paises, principalmente en Londres, Nueva York y Chicago pero no fue hasta 1937 cuando alcanzó una gran reputación. Cuarenta y dos obras suyas se expusieron en la "exposición de artistas independientes", coincidiendo con la Exposición Universal de París
En 1939 Vollard murió en un accidente y el artista quedó libre del contrato que había firmando, sin embargo tuvo que litigar con los herederos para recuperar los derechos de autor
Despues de la guerra hubo una gran retrospectiva en la Museo de Arte Moderno de Nueva York y otra compartida con Braque en la Tate Gallery de Londres. En 1946 y 1948 expuso en la bienal de Venecia y viajó a Italia.
Cuando cumplió 80 años el Centro Católico de los intelectuales franceses organizaron un gran acto en el Palais de Chaillot en París y el estado le concedió la legión de Honor. Murió en 1958