在惠济宫的山脚下，可以看到一个像草原的广场，上面有着模型的羊群，好像先民在这里放牧一样。循着阶梯向上，经过林间，昏暗的感觉，旁边的岩壁上长着青苔，具有古意，在途中经过一个石头拱门，是芝山的历史遗蹟，在其後会发觉道路开阔许多，过一个弯，豁然开朗，平坦的路面，与先前的感觉截然不同，惠济宫，就座落其间。 漳州人来到士林，也把他们的守护神「开漳圣王」一块儿带来了。传说芝山原本是富豪黄善的土地，约两百年前，其漳州府平和县的亲戚黄澄清，带着开漳圣王的香火来到台湾，悬挂在芝山上，传说有神蹟出现，大家就合力凑钱，在1752年搭建了惠济宫。不久，因祭祀观音佛祖，又名芝山岩寺。1840年士林士绅的潘永清在芝山岩上创建了文昌祠，聘请老师教育子弟。到了1874年，3座寺庙合并在一起，从此就统称为惠济宫了。目前来到惠济宫，多半是祈求考试可以顺利，这里有只文昌笔。传说若是摸了「文昌笔」会得到保佑，因此家长都会带着小孩来摸文昌笔，祈求考试顺利。