Tout débute en décembre 1928, des Outremontais qui résident à la frontière de la Côte-des-Neiges et d’Outremont présentent alors au diocèse de Montréal une requête favorable à l’érection d’une nouvelle église qui serait située à proximité de chez eux. Bien reçue, la demande est suivie d’une étude qui se conclut sur un décret épiscopal daté du 4 février 1929. Positif, ce décret est lu dans les quatre églises dont les curés ont appuyé la requête et qui verront migrer certains de leurs paroissiens vers la future église. Il s’agit des paroisses Notre-Dame-des-Neiges, Saint-Pascal-Baylon, Saint-Viateur et Sainte-Madeleine d’Outremont.

La nouvelle paroisse est fondée le 4 mars 1929. Son territoire qui est déjà dédié à ”saint Germain, évêque et confesseur”, est vaste. Comme le veut la coutume, l’église doit être vue par tous et, pour cela, elle s’élèvera sur le promontoire naturellement formé à l’angle du chemin de la Côte-Sainte-Catherine et de l’avenue Bellingham –aujourd’hui avenue Vincent-d’Indy. Quelques semaines plus tard, on annonce que la chapelle qui sera aménagée dans la demeure du curé Léonidas Desjardins, accueillera les paroissiens jusqu’à ce que l’église ouvre ses portes. La première messe y est célébrée le 7 avril suivant.

Le 24 avril 1929, le conseil municipal d’Outremont approuvait officiellement la construction de l’église sur le site désigné.L’église a été construite sous la surveillance et l’inspiration du curé Léonidas Desjardins. Les architectes Charles David, R.R. Tourville et J.J. Perreault ont réalisé les plans de l’église et du presbytère alors que la construction a été confiée à Alphonse Gratton & Fils. Le financement des travaux repose partiellement sur une émission d’obligations d’une valeur totalisant peu plus de 300 000$ vendues à coup d’annonces publicitaires publiées dans les journaux de la province.

La pierre angulaire est posée par l’archevêque coadjuteur de Montréal, Mgr Georges Gauthier, le dimanche 21 juin 1931. C’est lui qui bénira l’église, le 13 décembre suivant, juste à temps pour engager les préparatifs de la messe de minuit. Même si la décoration intérieure n’est pas achevée et qu’aucune cloche n’a encore été hissée au clocher. Les travaux sont alors considérés comme étant terminés.

Dans son homélie, le prélat, qui a été le premier recteur de l’Université de Montréal, quand celle-ci est devenue indépendante de l’Université Laval, souligne la proximité de l’Université de Montréal et espère qu’elle puisse “venir vous demander l’hospitalité de votre église.” Le nom de la paroisse s’inspirerait de l’église Saint-Germain-des-Prés desserte de l’Université de la Sorbonne. Avant même les premiers travaux de construction de l’Université de Montréal, en 1929, on destinait à la nouvelle église un rôle similaire auprès des universitaires.