所谓“五胡”，即匈奴族、鲜卑、氐、羯、羌五族。本来都是游牧为生的族类，分居于中原王朝的西、北边外，远在西晋以前，它们即已陆续迁居于内地。迁居到今陕西地区的，应该以匈奴族为最早，后来其他各族也都陆续迁入。
匈奴族的迁入远在东汉初年。那时，匈奴分裂，成为南北两部。南匈奴呼韩邪单于归降东汉，得到东汉的允许，迁居到西河（治所在今山西离石县）、美稷（今内蒙古自治区准格尔旗西北）。单于既已内徙，其所属各部落也就随着南来，分居于当时的沿边八郡。相当于现在陕西北部的上郡（治所仍在今榆林市南），也是南迁的匈奴族居住的地区。当时迁居于西河郡（治所在今山西离石县）的更为繁多。西河郡的辖地主要是在相当于现在陕西、山西两省间的黄河两岸。建立前赵政权的这支匈奴族，就是由西河郡兴起的。它最早建都的左国城，就在今山西离石县北。由此逐渐扩张，后来进入长安，建立前赵。
匈奴族在呼韩邪单于入居美稷之后，仍有陆续迁入的。就在前赵建立之前，还在不断地内徙，其中一次有10万余人诣雍州（治所在今西安市西北）降附，当然就居住到雍州所属的各郡之中。雍州所属各郡，在北边的有冯翊（治所在今大荔县）、北地（治所在今耀县）、新平（治所在今彬县）、安定（治所在今甘肃镇原县东）等四郡。其中在今陕西的就有三郡。这三郡在以前的上郡之南。上郡有匈奴，这是在前面已经提到过的，这时居住到上郡之南。说得具体些，已经进入到关中。当然，到前赵建立后，关中成了它的都城所在的地区，匈奴族当然更会增多起来。前赵的版图不以关中为限，它东有山西西南部，西越陇山，达到今甘肃省的黄河岸边。就是在今陕西省，丹水上游的商县、丹凤等处，也都在它版图之内，那里也是会有匈奴族人的。
前赵后来灭亡了，匈奴族人大致仍留在所居住的地方。前秦苻生时，部城（今洛川县东南）、定阳（今宜川县西北）、北地（今耀县）等地的羌胡皆响应姚襄。这里所说的胡就指的是匈奴。苻坚时，匈奴还曾进攻过杏城（今洛川县西南）以南郡县，前锋且及于同川（今铜川市），可知杏城以北的匈奴为数尤多。后秦姚苌时，卢水、杏城、贰城等地亦皆有胡人。而卢水胡人郝奴且曾帅户4000入于长安。就是到姚兴时，长安东面的白鹿原上也还居有胡人。
前赵灭亡之后，隔了一段时间，前秦也在长安建立政权。前秦的建立者是氐族苻氏。说起苻氏的家族，他本是略阳临渭人。临渭在今甘肃天水县东，为略阳郡的治所。十六国初期，这一支氐族为石赵的石虎迁徙到关东的枋头（今河南淇县南），后赵灭亡后，辗转西归，在长安建立起前秦的政权。
