踏莎行陰陽公顯靈嚇憲兵隊長

處在陰陽 褒懲善惡 

傲然小廟名今鑠 

當年隊長意孤行 

拆除令下真真錯

怪病妻罹 白衣扇落 

神靈顯赫驚胡作 

從茲片瓦竟無傷 

金身塑拜民心托

馬公陰陽堂，於復興里民族路之西，某部隊牆角一隅，毗鄰天后宮，五坪大小，然「廟不在大，心誠則靈」，惟見香煙裊繞，香客絡繹於途，是媽宮市內香火最旺廟宇之一。供奉白無常，執掌陰陽都司都總管，行醫專治奇疾，於陰陽兩界，化解人間與幽魂纏綿不解之厄運，有求必應。民眾管稱之曰：「陰陽公」。靈驗事蹟，聞名遠近。 

據1907年重建落成碑記云，蓋清‧道光年間，建於文澳海防廳之右側，將歷任官吏逝於任所而無子嗣者（饒廷錫、唐世光）、民間失祀之男女幽魂者，集祀於此。光緒13年（1887）總兵吳宏洛蒞澎統轄軍隊，請旨獲准，海防廳夷為平地，遷至媽宮天后宮西側，陰陽堂則處於廳署正門右側。

初，小廬社也。其低矮而簡陋，俗稱「有應公廟」，未有主神鎮司。光緒20年甲午中日戰後，台澎改隸，21年（1895），日人將海防廳更易憲兵隊，陰陽堂則由鄰近有志之士合資改建，乃成粗具規模之小廟堂也。

後，有一拾荒婦於南甲海灘拾得白衣吉神頭顎一尊，奉祀堂中，承受香煙，人來膜拜，有求必應。嗣後，白衣吉神雕以金身，廟名改稱「顯靈廟」。其後，有一隊長，以為憲兵隊門禁森嚴，豈容閒雜人等逗留、徘徊，一經察覺，嚴懲不貸。而陰陽堂之存在，無異一大諷刺！竟罔顧民意，遽爾下令，將予拆除。

憲兵隊長之舉，掀起軒然大波，民眾組團請願，盼能網開一面，莫予拆除，以敷民需。孰知憲兵隊長，置若罔聞，仍將一意孤行，民眾既知不可挽回，惟求陰陽公顯靈耳。

有日，憲兵隊長睡興方濃，驟為一陣聲響驚醒，睡眼惺忪，見一披白袍、髮過肩，一派威武，立於床角，自稱「陰陽堂之白無常」者，手執羽扇，欲擊之，示以尊重民意，莫拆其堂。憲兵隊長驚嚇而起，了無睡意，前往一觀，彼神像竟是夢中所見也。適其妻罹怪病，藥石罔效，況又有孕難產，經其虔誠祈求，發誓不再萌生拆廟之意。白衣吉神則顯聖庇祐，其妻得以順利生產，病亦霍然而癒。至此，幡然醒悟，知神意以及民意之不可違也，乃罷其意！

自是，陰陽堂神蹟益發顯現，「陰陽公顯靈嚇憲兵隊長」轟動全台，除本島民眾，亦有離島居民或台灣香客，慕名不遠千里，前來膜拜耳。其時盛況，豈其他廟宇可能比也。

陰陽堂，主祀白衣吉神，即七爺公也。光復後，其執事集商協議，自台南陰陽公廟（建於1827年）塑雕陰陽公，金身奉請渡海來澎，入火坐鎮馬公有應公廟，正式名曰：陰陽堂。後，以廟堂狹隘，不堪眾神棲身，民國58年4月集資重修，歷八月而成，廟貌一望堂皇，11月迎神入火進廟。

陰陽堂，每歲蓋有義舉也。以民眾捐贈白米、生活物資，由廟方執事匯集，自縣府取得貧戶資料，按戶發送，溫暖人家，神明濟世之精神，乃大宏揚！