北魏置。
北魏孝昌三年（527）置北绛郡，治北绛县（山西翼城县东南7公里），领北绛、新安二县。属唐州（治白马城，今山西临汾市）
建义元年(528)，改唐州为晋州，北绛郡属之。
北齐天保七年（557）废新安县，北绛郡仅领北绛一县。
隋开皇三年（583），废北绛郡入北绛县。