Dal 2002 al 2010 è stato arcivescovo di Québec. È stato creato cardinale il 21 ottobre 2003 da papa Giovanni Paolo II.
Nacque nel 1944 a La Motte, piccolo centro nei pressi della città di Amos, nello stato canadese del Québec. Frequentò l’École normale di Amos dal 1959 al 1964 ottenendo un baccalaureato in pedagogia dall’Université Laval nel 1964. Proseguì gli studi teologici al seminario maggiore di Montréal, dove nel 1968 ottenne la licenza in teologia.
Il 25 maggio 1968 fu ordinato sacerdote e fu per due anni viceparroco di Saint-Sauveur de Val-d’Or. Nel 1970 si trasferì in Colombia per insegnare teologia al seminario maggiore di Bogotá, retto dalla Compagnia dei Sacerdoti di San Sulpizio, della quale diviene membro nel 1972.
Proseguì i suoi studi a Roma, ottenendo una licenza in filosofia dalla Pontifi
cia Università San Tommaso d’Aquino nel 1974. Tornò quindi in Colombia come professore e membro della direzione del seminario maggiore di Manizales. Due anni dopo, nel 1976 venne richiamato in Canada per ricoprire le stesse funzioni nel seminario maggiore di Montréal.
Nel 1978 decise di proseguire gli studi. Rientrato nuovamente a Roma, nel 1983 ottiene un dottorato in teologia dogmatica dalla Pontificia Università Gregoriana. Terminati gli studi tornò una terza volta in Colombia come professore al seminario di Cali. Un anno dopo, nel 1984 divenne rettore del seminario di Manizales, incarico che mantenne fino al 1989.
Nel 1990 tornò in Canada come rettore del seminario di Montréal e dal 1994 come rettore del seminario di Edmonton. Dal 1996 al 2002 fu ordinario di teologia dogmatica a Roma alla Pontificia Università Lateranense.
Divenne membro associato a Communio, la rivista teologica fondata, tra gli altri, da Joseph Ratzinger e Hans Urs von Balthasar e improntata a temi moderati e conservatori.
Il 19 marzo 2001 fu consacrato vescovo da papa Giovanni Paolo II, che il 3 marzo dello stesso anno lo aveva nominato segretario del Pontificio Consiglio per la Promozione dell’Unità dei Cristiani e vescovo titolare di Agropoli.
Il 15 novembre 2002 fu eletto arcivescovo di Québec e primate del Canada. È stato considerato come uno dei più strenui difensori delle fede cattolica nella gerarchia religiosa canadese, anche in seguito alle posizioni prese in occasione della "Rivoluzione tranquilla" degli anni sessanta avvenuta a suo giudizio troppo precocemente. Il cardinale ha appoggiato il ritorno all’adorazione eucaristica e la reintroduzione del Canto gregoriano.
Venne proclamato cardinale nel 2003 da papa Giovanni Paolo II.
Prese parte al conclave del 2005 come cardinale elettore e, secondo alcuni osservatori fu egli stesso uno dei papabili; il National Catholic Reporter lo collocò infatti tra i primi venti porporati con le più alte possibilità di essere eletto al soglio pontificio, mentre secondo altri la sua elezione sarebbe stata appoggiata dallo stesso cardinale Ratzinger, divenuto poi papa Benedetto XVI.
Il 30 giugno 2010 Benedetto XVI lo nominò prefetto della Congregazione per i Vescovi e presidente della Pontificia Commissione per l’America Latina e, il 6 aprile 2011, membro del Pontificio Consiglio per i Testi Legislativi.
Ouellet parla correntemente sei lingue: francese (madrelingua), inglese, spagnolo, portoghese, italiano e tedesco.