潮音庵的历史可以追溯到明朝，始建于1456年，在雍正年间毁于一场大火。到了1739年，潮音庵得以重建，此后还进行过增建和重建。不幸的是到了1930年，寺庙再次因为大火而损毁，好在由各地资金的捐助下寺庙再次得以重建。
可好景不长，在日本军队侵占上海时寺庙遭到炮弹损毁，此后进入寺庙的宝昂师太将损坏的部位逐步修复。到了解放后，这里曾一度作为厂房和仓库使用，因此内部有多处遭到损坏。直到1982年寺庙又重新开放，此后还修建了讲经堂和报恩塔。
修缮后的潮音庵内设有大雄宝殿、观音阁、天王殿、藏经楼、报恩塔等建筑。寺院大门前有着一条小河，并设有亲水平台作为放生池使用。河对岸有着一个小型草坪可供行人散步，环境优雅而又清静。在修缮之初还发掘整理出了元、明、清等朝代有关重修潮音庵的十二块石碑，并在重修后的大雄宝殿边上建起了碑林。
