三山是广东省潮州揭阳县阿婆墟的明山、独山和巾山等三座山山神的总称。三山国王为山神，属自然崇拜，但後来的传说却予与人格化，称三山国王为异姓兄弟，三人皆允文允武，南北朝时，助隋文帝完成帝业，被封为开国驾前三大将军，退隐後修成正果。客家人对三山国王信仰极为虔诚，奉为守护神。 昔日粤东乡民来台时，颇多随身祭奉来台，祈求平安，所以台湾客家聚落大都有此神明。苗栗市三山国王庙座落在南苗木铎山﹝及苗栗国中前尖丰公路旁﹞。此庙创见於道光年间，日人治台後，选定此庙址为派出所建地，原庙被拆，而神位移南苗天云庙安奉。 民国51年地方信徒认为三山国王一直寄人篱下，遂创议另建新庙。而当年农历七月十八日夜狂风暴雨，雷电交加，南苗木铎山的一颗巨石，被劈成三半，石面上出现龙纹，组成「三」字，信徒认为这是神灵启示，决定在该地创建新庙。