随着天主教在上海的发展，1846年，法国天主教传教士南格禄在徐家汇建造了两幢房屋，作为住所并用作临时礼拜堂。1847年3月，南格禄将徐家汇作为耶稣会的基地，第二年在徐家汇创立了耶稣会神学院。
传教士南格禄
在1851年前，徐家汇只有一座简陋的小教堂，是教友修建的。随着教徒的日益增多，为了满足举行较大规模的宗教仪式的需要，1851年3月23日，耶稣会决定在徐家汇兴建一座正式教堂，邀请已设计董家渡教堂的西班牙建筑师范佐廷(Ferrand Jean)设计，由罗礼思（P. Hélot）负责监督营造。1851年7月，教堂竣工，它被称作“徐家汇老教堂”，俗称“始胎堂”。徐家汇老教堂奉耶稣会创始人圣依纳爵•罗耀拉为主保圣人，可容纳200多人举办活动，是中国第一座西方建筑式样的教堂。
耶稣会创始人圣依纳爵•罗耀拉
徐家汇老教堂呈现出希腊神庙式的建筑风格，但又装饰中国传统的宫灯。老教堂的山墙也颇具中国元素，堂前四合院、门头及围墙是中式建筑风格，门楣上镶嵌有“万有真原”四个大字。中西合璧，光采照人，老教堂成为上海城市的一大景观。
19世纪60年代，徐家汇成为远东天主教的活动中心之一，老教堂在1879年开始扩建。1890年以后，新增信徒达到1万多人，仅能容纳200余人的老教堂显得太小了。
1896年,法国耶稣会传教士开始募款，计划建造新的教堂。1904年（清光绪三十年），道达洋行的英国建筑师道达尔（W.M.Dowdall）设计新堂，1906年（清光绪三十二年）7月31日正式动工，外籍营造厂法商上海建筑公司承担工程建设。
建造新的大教堂，当地大户人家捐献资金买材料，家境贫寒的教徒则到工地上磨砖、搬运做义工。除此之外，还有大量中国童工参与建造大教堂，梁同武（P. G.Maujay）神父在1908年写的一封信中回忆道：一群小泥瓦匠好奇地向我走来，他们差不多明白我要做什么，便开始呼叫其他小泥瓦匠过来。我试图快点走开，俗语说“做得越多，结果会越好”，这句话在这里简直是开玩笑。我很快便寸步难行。有大概50个小孩子把我围住，他们拖拉着鞋，穿着破旧的衣服，衣服上补丁和破洞数量差不多。他们开始大声叫喊说话，这些话只在他们的小世界里可以彼此听懂，他们看起来很开心。其中一个十一二岁有决断力的孩子，立刻大声警告这群小泥瓦匠，“Veh yao vala vala vala”（ 烦了、烦了、烦了），意思说不要再嚷嚷了，他用很奇怪的模拟谐音把这句话重复好多遍，目的是让大家保持安静，孩子们最后都服从。
据历史记载，一名小泥瓦匠在很高的脚手架上摔下来，当场死亡；另外一个孩子摔下来被送到教会医院施救，医生福雷松（Fresson）为他动手术，挽救了他的生命。
经过四年建设，1910年9月（清朝宣统二年)教堂终于建成。1910年10月22日，举行徐家汇大教堂开堂祝圣典礼，次日举行第一次弥撒。
我们来欣赏一下徐家汇大教堂。
教堂外观是欧洲中世纪哥特式建筑风格，大堂顶部两侧是两座高50米的钟楼, 尖顶上的两个十字架高耸入云，秀丽而挺拔，成为大教堂的标志。
教堂坐西朝东，整幢建筑高五层，砖木结构。教堂外部采用清一色的红砖，花岗石镶边，屋顶铺设石墨瓦，饰以许多圣子、天主的石雕，给人圣洁的感觉。
教堂内部，圣堂坐西朝东，平面呈现十字型；四周门窗洞均为哥特尖拱券式，上嵌华美绮丽的彩色玻璃，其上绘有多个宗教人物故事，每扇玻璃都有不同的故事，十分引人入胜。
教堂有19座祭台，正祭台处宽44米，是1919年（民国八年)复活节从巴黎运来，祭台正中安置有圣依纳爵及八位圣人雕像，神情之生动，雕刻之精美，色彩之鲜明，令人叹为观止。圣母抱小耶稣像立于祭台之巅，俯视全堂，成为整座教堂的聚焦中心。这座圣母耶稣像是1919年复活节，由巴黎制成后运抵上海的，所以教堂正式的名称为“圣母为天主之母之堂”。
教堂内有金山石雕凿的64根植柱，每根又有10根小圆柱组合而成，显得气派宏大，壮观雄伟。
教堂顶部的回廊颇具特色，它保证了在教堂任何一个地方用平常音调说话，声音都能传到教堂的其他任何一个地方。
整个教堂规模宏大，装饰华丽，占地面积2670平方米，建筑面积6670平方米，可容纳3000余人参加宗教仪式。20世纪初，她被誉为上海的“梵蒂冈”、“远东第一大教堂”。在1920年代以前，它是上海最高的建筑，至今仍然是上海最大的天主教堂。
依照天主教惯例，新建教堂要取一位圣人作为“主保圣人”，并以其名字命名该教堂，新教堂以耶稣会创始人圣依纳爵•罗耀拉（St.Ignatius of Loyola）为“主保”，教堂的正名即为“圣•依纳爵天主堂”，“徐家汇天主堂”是其俗称。
徐家汇天主堂平日举办弥撒仪式，每逢星期日及天主教节日，全天会有多场祭礼。在天主教四大节庆期间，尤其是圣诞节期间，教堂常有大规模的瞻礼。
徐家汇天主堂问世后，逐渐成为上海乃至全国的天主教活动中心。原来的仅可容纳200余人的老教堂改为徐汇公学专用教堂。
教堂一侧有天主教上海教区主教府和修女院，建筑风格为中世纪哥特式，默默地衬托着徐家汇天主教堂的雄伟壮丽。
