Rudolf Levy nació en Stettin en 1875. Despues de aprobar sus examenes de entrada para la universidad se matriculo en la Grand Ducal School for the Decorative and Applied Arts en Baden en 1895 pero se fue a Munich en 1897, donde recibió clases privadas.
En el estudio al aire libre de Zügel, Rudolf Levy estudió a los impresionistas alemanes y especialmente a los franceses, despues decidió irse a Paris en 1903. There Levy se puso en contacto con el círculo de artistas del "Café du Dôme". Expuso en 1905 en el tercer "Salon d'Automne", donde los cuadros de los fauves causaron where pictures by the Fauves causaron tanto revuelo.
A partir de 1907 Levy estudió en el nuevo taller de Matisse. Despues de la exposición de 1912 "Sonderbund" -Colonia, en el museo Stedelijk Museum en Amsterdam y en algún otro sitio, Rudolf Levy ya no pudo participar en ninguna otra exposición durante la primera guerra mundial. Levy se enroló como vuluntario y luchó con los alemanes en Francia. Durante los primeros años de la década de 1920 Levy se traslado a Berlin, donde Alfred Flechtheim organizó su primera exposición en su famosa galería. Hasta que Levy emigró de Alemania en 1933, estuvo en el jurado de la Secesión de Berlin.
A partir de1933 Levy viajó de Mallorca a Nueva York, de nuevo a Europa, donde consiguió quedarse temporalmente en Italia . En diciembre de 1943 fue arrestado por los nacional socialistas en Florencia y murió en 1944 cuando era transportado a un campo de concentración en Modena con otros prisioneros judíos,
Su obra, la mayoría de la cual se ha perdido, consite principalmene en paisajes y bodegones, aunque tambien hay pinturas figurativas y retratos.