明朝永樂(lè )帝朱棣，于永樂(lè )十年（1412年）下了一道圣旨，張貼黃榜，昭示天下興建玄帝廟。于是福州官府便于明正德二年（1507年）在屏山鎮海樓上奉祀玄帝。
玄帝又稱(chēng)玄武帝、真武帝，在五行（金、木、水、火、土）中屬于“水”，所以民間又稱(chēng)為“水帝”，位于城北。而屏山正是福州城中軸線(xiàn)的正北，以與城南的火帝廟（可惜已被折毀）遙相呼應，帶有希望福州城免受水火之災患的良好祝愿。
隨后，福州鎮守崔安，在西湖畔建“玄帝行宮”，并在玄帝殿左右配祀三國歷史人物劉備、關(guān)羽、張飛與五顯帝。明萬(wàn)歷間，又在鼓樓之右建崇真君祠，內祀玄帝。同時(shí)，在今倉山望北臺（俗稱(chēng)黃柏臺）上建有一座規模壯觀(guān)的玄帝廟。今除尚保存較好的殿堂外，還有一塊刻于明代的古碑，詳載其歷史，成了不可多得的文物，已有四百多年的歷史。
清代嘉慶、道光年間，福州著(zhù)名鄉土詩(shī)人魏杰，在參觀(guān)望北臺玄帝廟后，吟了一首詩(shī)：“嶺頭玄帝闕，江底白龍宮。山勢朝城北，濤聲涌海東。高僧琴不俗，騷客賦爭雄。滿(mǎn)壁琳瑯句，碧紗字字籠。”對玄帝廟的文化內涵，作了生動(dòng)的描寫(xiě)。
到了明末清初，鎮海樓上的玄帝廟被北門(mén)外（今左海社區）梅柳橋附近的村民分爐，頗具規模。上世紀五六十年代后，逐漸被外單位占用。改革開(kāi)放后，落實(shí)了黨和政府的宗教政策，村民便在橋亭上恢復了玄帝廟，紅墻碧瓦，古榕參天，內祀玄帝，旁祀周公、桃花女以及風(fēng)師雨伯等，反映了民眾祈求風(fēng)調雨順、四季平安之意。橋下有屏西河與銅盤(pán)河在此匯聚，通向西湖，環(huán)境十分獨特。殿里有幾副對聯(lián)，其中有以地名作聯(lián)的：“金吾境山仰北斗，梅柳橋水接南天。”有以“玄武”兩字作為藏頭聯(lián)的：“玄門(mén)合德雙匯水，武瑞居尊一爐香”等，都很有文學(xué)價(jià)值。山門(mén)外還豎有一塊石碑，銘記該宮殿的歷史與現狀。