古人祭神有“东青龙、西白虎、南朱雀、北玄武”之说，旧时此处即祭祀北方之神——玄武大帝。玄武，乃北方之神，龟蛇合体，即道家所奉之真武帝，宋时避讳，该玄武为真武，后世道家祀真武，辄以龟蛇二物之像置于其旁。庙观几乎占据了整个峰顶。它始建于唐。唐高宗李治追封道家创始人李耳为太上老君玄元皇帝。至唐玄宗李隆基时，分别于开元十年（722年）和二十五年 （737年）两次下旨，命东西两京和各州县各建一座太上老君玄元庙。茱萸峰上的玄元庙就建于此时。唐大历十才子钱起曾登临玄元庙，并写下了《夕游覆釜山因登玄元庙》一诗。后此庙于“文革”期间遭到毁坏，90年代后期进行了重修，但所祀已非老子，而为真武大帝。