十六国时期的梁郡为徐州治所三台龙燥国魏文帝黄初元年（220年），改梁国称梁郡（今河南商丘）。 [5-6] 魏明帝太和六年（232年）改封曹魏宗尝柜室曹悌为梁王，改梁郡为梁国。
后赵、前燕、前秦、后燕时仍为梁郡。 [5-6]
后秦（384年-乐盼埋417年），改梁郡为徐州（治今商丘市睢阳邀剃区）。 [5-6] 
南北朝梁郡北魏初沿袭南朝宋为梁郡，仍治睢阳，属徐州。后改升为梁国。 [6]北魏永安二年（公元529年）四月，元颢在梁国睢阳（今河南商丘）登基称帝，建元为“孝基”，是为北魏建武帝。 [4] 北周初年（5蒸颈57年），改梁郡置梁州。 [2-3] 
隋朝梁郡开皇三年（583年），隋文帝杨坚罢梁郡，辖县属亳州。
隋开皇十六年（596年），于梁郡旧地置宋州，治睢阳县。 隋开皇十八年（598年），改治所睢阳县称为宋城县询愉龙。 隋大业三年骗市煮（607年），改宋州复置梁郡。 [3]
唐武德二年（619年）四月，王世充称帝建立“大郑”政权陵柜格殃，改梁郡置梁州。 唐武德四年（621年），唐高祖李渊改梁州为宋州。贞观元年（627年）属河南道。 [7] 隋朝时期，梁郡有十五万五千四百七十七户。 [8]
隋朝梁郡统领十三个县。
宋城县（旧曰睢阳县，置梁郡。开皇初郡废，十八年县改名焉。大业初又置郡。又梁置北新安郡，寻废。） 虞城县（后魏曰萧县，后齐废。开皇十六年置，改名焉。又后魏置沛郡，后齐废。） 柘城县（旧曰柘县，久废。开皇十六年置，曰柘城县。） 考城县（后魏曰考阳县，置北梁郡。后齐郡县并废，为成安县。开皇十八年以重名，改曰考城县。） 雍丘县（后魏置阳夏郡。开皇初郡废，十六年置杞州。大业初州废。） 圉城县（旧曰圉县，后齐废，开皇六年复置，曰圉城县。有谷水。） 陈留县（后魏废，开皇六年复。十六年析置新里县，大业初废入焉。又有小黄县，后齐废入。有睢水、涣水。） 楚丘县（后魏曰己氏县，置北谯郡。后齐郡县并废。开皇四年又置己氏县，六年改曰楚丘县。） 砀山县（后魏置，曰安阳县。开皇十八年改名焉。有砀山、鱼山。） [8] 
