1931年,時任交通部長葉恭綽來青島避暑,發現青島有很多道觀、教堂和日本寺廟,卻沒有中國寺廟,於是,建議在青島市內建一座寺院。這一建議得到了當時的青島市長胡若愚及其後任沈鴻烈的支持,撥出湛山南麓150畝地用以建廟,寺廟也因此被命名為青島湛山寺。
湛山寺於1932年開工建設,同年完成了三聖殿,此後十幾年間,陸續完成了藥師寶塔、大雄寶殿、天王殿的建設,至此,湛山寺形成了今天的規模。
經葉恭綽邀請,倓[tán]虛法師成為湛山寺的始創主持。倓虛法師注重培養弘揚佛法的僧才,在湛山寺創辦了湛山佛教學校,以「教闡天台、行修淨土」為宗旨,在傳教中「尊崇敬以處事、誠以待人」,勸人「看破、放下、自在」。
倓虛還邀請大德來湛山寺傳播佛學,慈舟、弘一(李叔同)等都曾在湛山寺講授佛教經義。經過倓虛的努力,湛山寺吸引了無數信徒,聲名從此遠播,成為中國最年輕的漢傳佛教名寺。
1948年後,倓虛法師離開湛山寺,到香港創辦了華南學佛院,繼續弘揚佛法,培養僧才。在倓虛往生後,其弟子寶燈法師,為紀念恩師,發願在香港修建寺院,得到各方捐助。最終,這座寺院在香港清水灣建成,為紀念倓虛始創青島湛山寺,這座寺廟被命名為香港湛山寺。
1973年,倓虛法師的弟子何德清、何張雪明將自己在加拿大多倫多的樓房捐出,建立寺廟,為紀念倓虛法師,取名為加拿大湛山精舍。1975年,湛山精舍在普通住宅的基礎上,擴建成大雄寶殿,湛山精舍自此成為多倫多首座中國式寺院。
後幾經擴建,湛山精舍現在已佔地四英畝,成為加拿大最大的漢傳佛教寺院。湛山精舍還在加拿大各地設立湛山禪院、湛山學佛院等多處道場,使佛教事業在加拿大得到了發揚光大。
1983年,青島湛山寺被確定為中國漢族地區全國重點佛教寺院。只有幾十年歷史的湛山寺能躋身重點寺院行業,主要在於湛山寺的佛學教育和佛籍典藏,這與倓虛法師的貢獻是密不可分的。而青島、香港、多倫多這三大湛山寺,也成為佛教傳播事業的一段佳話。