Nato a Fadiouth, arcidiocesi di Dakar, il 28 novembre 1936, è figlio di Rog Sarr e Louise Diakher Diouf, che hanno avuto tre figli e quattro figlie.
Ha compiuto gli studi primari dal 1946 al 1951 a Fadiouth nel pre-seminario di Ngasobil. Dal 1951 al 1957 ha studiato al Seminario minore Santa Maria di Hann e al Seminario maggiore Libermann di Sébikhotane (filosofia e teologia). Dal 1957 al 1964 ha compiuto gli studi ecclesiastici nel seminario maggiore.
È stato ordinato sacerdote il 28 maggio 1964. Dal 1964 al 1967 ha frequentato i corsi della facoltà di lettere classiche dell’università di Dakar, dove si è laureato in lettere classiche.
Dal 1967 al 1974 ha svolto il ministero pastorale in alcune parrocchie, tra le quali quella di Santa Teresa in Dakar, come assistente dei gruppi di Azione Cattolica. È stat
o professore di lettere classiche (latino e greco) nel seminario minore di san Giuseppe di Ngasobil, del quale nel 1970 è divenuto direttore.
Il 1º luglio 1974 è stato nominato vescovo di Kaolack, quale primo vescovo africano della diocesi. Ha ricevuto l’ordinazione episcopale il 24 novembre dello stesso anno, nel corso di una celebrazione svoltasi nella grande piazza del Collegio Pio XII, per l’imposizione delle mani del cardinale Hyacinthe Thiandoum, arcivescovo di Dakar, coconsacranti i vescovi Albert Cadoux, vescovo emerito di Kaolack, e Augustin Sagna, vescovo di Ziguinchor.
All’interno della Conferenza episcopale del Sénégal, Mauritania, Capo Verde e Guinea-Bissau ha ricoperto vari incarichi, tra i quali: responsabile per la commissione del clero e dei seminari, dei religiosi e del comitato inter-diocesano nazionale dei pellegrinaggi cattolici (Cinpec). Dal 1980 è presidente della commissione dell’educazione, incarico che mantiene tuttora.
Il 2 giugno 2000 è stato promosso alla sede metropolitana di Dakar, dove ha fatto il suo ingresso il 19 agosto dello stesso anno.
Dal 1987 al novembre 2005 è stato eletto presidente della Conferenza episcopale del Sénégal, Mauritania, Capo Verde e Guinea-Bissau per vari mandati rinnovati ogni tre anni. Dal 1994 al 1998 è stato presidente del Consiglio mondiale dell’ufficio internazionale dell’educazione cattolica (Oiec).
All’interno della Conferenza episcopale regionale dell’Africa dell’Ovest (Cerao) ha ricoperto l’incarico di vicepresidente per quattro mandati di tre anni ciascuno e presidente per due mandati triennali: il primo ha avuto durata dal 2003 al 2006 e il secondo dal 2006 al 2009, quando l’ufficio ha cambiato nome in Conferenza Episcopale dell’Africa dell’Ovest, pur rimanendo presieduta dal cardinale Sarr.
Dal 2003 al 2006 è stato eletto secondo vicepresidente del Simposio delle Conferenze episcopali di Africa e Madagascar (Secam) e dal 2007 vi svolge il ruolo di primo vicepresidente.
È stato creato cardinale nel concistoro del 24 novembre 2007 da papa Benedetto XVI, ricevendo il titolo di Santa Lucia a Piazza d’Armi.