開基靈佑宮建於西元1665年,主祀玄天上帝,廟內有一尊全台唯一的金面玄天上帝神像,因為建廟時期最早,所以有著開基之名,但因規模與民權路的北極殿相比較小,所以也有著小上帝廟之稱,因歷史悠久幾經改建及二戰損壞,現今廟宇的座向曾在日治時期改變,其改變座向的痕跡現今仍保留現地展示。 與祭祀玄天上帝的廟宇相同,因玄天上帝代表北方之神,北方屬水,水屬黑,靈祐宮內就採用大量的黑柱紅樑,此外,廟宇內彩繪石雕有不少府城名師的作品,正殿內的「三十六官將」壁畫就是蔡草如的作品,其餘還有名師潘岳雄及陳壽彝的作品在靈祐宮內,都非常珍貴。 另外較為人所熟知的還有許丙丁所著的台語神怪小說「小封神」就是由開基靈佑宮為故事的主軸,是一座傳奇色彩濃厚的廟宇。