清雍正年间，朝廷为巩固西北防务以求边境无虞，特在归化城（今呼和浩特旧城）东北五里处勘定新城，并计划营造一所集办公，居住，通信，外交等功能为一体的将军府邸，整个工程于乾隆四年（1739年）告竣。清廷赐名“绥远城”，府邸得名“将军衙署”。将军衙署是清代绥远将军管辖归化城、漠南蒙古及统领大同、宣化等地驻兵的办公衙门

将军衙署占地面积30亩（19000平方米），内有房屋132间，其建筑系按《大清会典》一品衙署格式营建，总体布局分左中右三路（院）。总体布局各分为外庭、内院二大部分。

由内蒙古自治区主席布赫书写的“漠南第一府”门匾

外庭即衙署府门外的前庭广场，包括与府门相对应的大照壁、东西辕门及其维护的鹿角栅，其间设施有旗杆二根，鼓手房二座，石狮二尊，照壁后号炮一尊。东西辕门与绥远城鼓楼的东西券门直线相对。中路为衙署建筑的主院。中院主路的中轴线，依次布列府门、仪门、大堂、二堂、三堂和四堂，纵深共计五进院组成，各院主建筑两翼皆置有配房，左右对称布列东西厢房。

大堂、二堂及门院，为驻节将军公务办公之所，三堂、四堂两院则为将军眷属内宅，是我国传统的“前堂后寝”礼制建筑文化的典型反应，其中以大堂的等级最高，东西长20米，南北宽12米，高8米。院落纵深五进，为衙署办公及将军内宅居所，遵照礼制建筑，前堂后寝、左右对称制度布列。东院为马房、车房、后勤仓库等用房。西院前为花园，后为庙祠等设施。

东西院与中轴主院以围墙围界隔离内外，四堂之后，有通道与东西两院相通，跨院南端可与仪门两侧贯通，成为先锋营巡逻守卫的通道。从中可以看出，衙署总体布列上呈一“园”字形的平面布局，在四隅各有水井一眼。四隅外侧，又各置更房一处，为更夫昼夜首户之所。衙署之外的四周，以街巷为隔，还建有不同职责的署衙。北面为协领衙署，东西两侧为左司、右司衙署，大照壁以南为巡警衙署。