Grosser se je rodil 1. februarja 1925 v Frankfurtu, leta 1933 pa se je s svojo družino, judovskega porekla, preselil v Francijo. Kasneje je postal francoski državljan in se spreobrnil v katoliško vero.
V Parizu je študiral politologijo in germanistiko. Poučeval je na pariški visoki šoli za politične študije in pisal politične kolumne za različne časopise. Spisal je številne knjige, v katerih je pomagal Nemcem razumeti Francoze in obratno. Za svojo vlogo posrednika je prejel več nagrad, med drugim nagrado za mir nemških založnikov in francoski veliki križ legije časti.
Veljal je pomembnega gradnika mostu med Nemčijo in Francijo, bil je tudi eden od intelektualcev, ki je tlakoval pot za podpis pogodbe o francosko-nemškem prijateljstvu. O podpisu Elizejske pogodbe leta 1963 je sicer dejal, da francoskemu predsedniku Charlesu de Gaulleu ni bilo toliko do približevanja z Nemčijo, kot mu je bilo pomembno, da se Nemčijo umakne iz območja pod vplivom ZDA.