两晋南北朝时期，伴随着晋室的衰落与南迁，原居中国北方的少数民族纷纷南下，与汉族比邻，并先后建立了五凉（前凉、后凉、南凉、北凉、西凉）、四燕（前燕、后燕、北燕、南燕）、三秦（前秦、后秦、西秦）、二赵（前赵、后赵）、成汉、大夏等十六个北方政权。由于这些政权主要是由匈奴、鲜卑、羯、氐、羌五个少数民族（即「五胡」）所建，史称「五胡十六国」。其中，前赵、大夏、北凉为匈奴所建，后赵为羯族所建，前燕、后燕、南燕、南凉、西秦为鲜卑所建，前秦、后凉、成汉为氐族所建，后秦为羌人所建。「五胡」统治北方时期，是中国历史上的一次民族大融合。

匈奴渊源于先秦时期的北狄。战国末年，匈奴势力转强，威逼北方的秦、赵、燕三国。为防匈奴，三国被迫在边境一带修筑长城。到两汉时期，匈奴发展成为中国北方最大的帝国。中原王朝在长期征战无效之后，采取「和亲政策」，以宗室女为公主嫁给单于（王）。汉魏之际，匈奴分裂为南、北两支。南匈奴依附中原王朝，北匈奴则远迁西北中亚。至西晋末，南匈奴首领刘渊率部南下，在中原建立了汉，族子刘曜改称为赵（史称前赵）。其后，复有匈奴首领赫连勃勃建立大夏，属于匈奴一支的卢水胡建立北凉。隋唐以后，匈奴逐渐融合于其他民族之中，不复见于记载。

鲜卑源于先秦时期的东胡。东汉以后，随着匈奴势力的衰落，鲜卑逐渐发展起来，成为继匈奴之后中国北方最强大的民族。西晋末年，鲜卑各部族纷纷南下，在中原建立政权。慕容部相继建立了前燕、后燕、南燕，秃发部建立了南凉，拓拔部建立了代，后改称魏，史称北魏。北魏分裂以后，鲜卑族逐渐消失，大部分族人融合于汉族之中，而少部分则融进了奚和契丹。

羯为晋人对杂胡的泛称，其来源至今仍然扑朔迷离。西晋末年，居于山西、河北之间的羯胡卷入动乱。公元319年，其首领石勒率领部众攻掠周边地区多年以后，据地襄国（今河北邢台一带），建立后赵，自称大单于、赵王。后赵势力强大时，其控制范围东起海滨、西至河西、南逾淮河、北接燕代。石勒死后，其子石虎夺得王位，迁都邺城（今河南安阳一带），实行残暴统治，引起内部混乱、宗室相争。至石虎死后，部属冉闵尽杀石氏宗室，改国号魏，后赵灭亡。

氐族渊源于先秦时期的西戎，秦汉时期汉化程度已经很高，唯服装、婚丧仍保持着旧有习俗。西晋末年，因不满晋王朝的苛重奴役，扶风氐帅齐万年率众反晋，导致了西晋王朝的崩溃。与此先后，仇池（今甘肃成县西）氐帅杨茂搜自立为王，建仇池国；巴氐首领李雄在成都称帝，建大成国。公元351年，武都氐裔苻健占领关中，自称秦天王，建国大秦，史称「前秦」。前秦崩溃以后，氐族首领吕光复在姑臧（今甘肃武威）建立后凉，及后又被后秦所灭。隋唐以后，氐族已不复见于记载，融合于各个民族之中。

羌渊源于先秦时期的西戎。羌族虽然逐步向西和南面迁徙，但仍有相当数量的部族居于河湟一带，称为「西羌」。汉晋时期，中央王朝对西羌采取威逼政策，致使西羌多次爆发反汉起义。西迁于天山南路的羌称为「婼羌」，自立为王，疆域相当广阔，曾经协助汉朝对抗匈奴。前秦崩溃以后，西羌首领姚苌在长安建立后秦，势力强盛之时东至河洛，西及关陇。后秦被东晋灭后，羌人仍然长期活跃在中国西北一带。