府城玉皇庙坐北朝南，一共三进院落，平面布局为长方形，南北长110米，东西宽32米，计有殿宇楼亭110间，占地面积约4000平方米。沿中轴线上由南向北依次排列有头道山门、仪门、成汤殿、献亭、玉皇殿，另外两庑设有二十八宿殿、十二辰殿、十三曜星殿、关帝殿、蚕神殿及厢房、钟鼓二楼等诸多建筑，整体建筑错落有致。

头道山门前，建有东西两个碑廊，诸多石碑详细记录着庙宇沿革历史的资料。进入山门是前院，前院没有正殿，正中是二道山门，东西两侧，设有文昌殿、咽喉祠、财神殿。

过二道山门是中院。中院正殿为献享殿，也称作成汤殿，殿内塑有成汤像。并有木雕阁楼三幢。东偏殿是东岳殿，里面奉祀东岳大帝黄飞虎及夫人贾氏，还有儿子黄天化，麾下大将黄明、周纪、龙环、吴谦等。西偏殿是三王殿，奉祀牛王、马祖、天钱罥祖。东西两侧分别为药王殿、五道殿、高禖祠、老君殿。紧靠二道山门两侧是南殿，西为地藏菩萨殿，内塑十殿阎君；东为六瘟殿，内塑六瘟神像。

后院大殿为玉皇殿。殿宇粗壮的梁柱斗拱结构、门窗墙壁以及神台上镶嵌的浮雕砖饰还保留着宋金时期的建筑风格。正殿内塑有玉皇大帝、普天星君。左右偏殿分别为三垣、四圣塑像。东西廊房分别为风伯殿、雨师殿、十三曜星殿、六太尉殿、十二元辰殿、二十八宿殿以及关帝养马厩和蚕神殿。

其中三垣殿供奉的三官，就是天官、地官、水官，这是汉末魏晋时期天师道所尊崇的三个最重要的神祗。四圣殿，奉祀天篷、天猷、黑煞、真武四圣。四圣是北极紫微大帝的四员大将，宋朝的时候受到皇帝的重视和提倡，在道教神祗中地位显赫。十三曜星殿，奉祀十三星君。

后院西庑的上三间是十二辰殿，奉祀十二元辰真君，即子、丑、寅、卯、辰、巳、午、未、申、酉、戍、亥十二地祗之神。每尊神像所戴的冠上都有图形，画着鼠、牛、虎、兔、龙、蛇、马、羊、猴、鸡、狗、猪作为标识。西庑下八间是二十八宿殿，奉祀二十八宿星君。二十八宿星君神像是人物和动物形象的结合，这在中国还是首例。