中国部分史籍记载，匈奴人是夏朝的遗民。《史记·匈奴列传》记载∶“匈奴，其先祖夏后氏之苗裔也，曰淳维。”。《山海经·大荒北经》称∶犬戎与夏人同祖，皆出于黄帝。《史记索隐》引张晏的话说∶“淳维以殷时奔北边。”意即夏的后裔淳维，在商朝时逃到北边，子孙繁衍成了匈奴。还有一说认为，移居北地的夏之后裔，是夏桀的儿子。夏桀流放三年而死，其子獯鬻带著父亲留下的妻妾，避居北野，随畜移徙，即是中国所称的匈奴。部分学者根据《史记》记载的後半段文字，认为匈奴原是山戎、猃狁、荤粥。王国维在《鬼方昆夷猃狁考》中，把匈奴名称的演变作了系统的概括，认为商朝时的鬼方、混夷、獯鬻，周朝时的猃狁，春秋时的戎、狄，战国时的胡，都是後世所谓的匈奴。还有一说，把鬼戎、义渠、燕京、余无、楼烦、大荔等史籍中所见之异民族，统称为匈奴。还有人认为匈奴与先秦时期的北方少数民族不可混为一谈，匈奴应是西方草原的一个游牧民族，战国末期之前，还未游牧至中国北部。上述看法，在近现代学者中并未取得统一。由于匈奴的起源问题不能解决，匈奴的族属与匈奴的语系也都成为悬案。
自西周起，戎族开始威胁中原王朝，周幽王烽火戏诸侯后，犬戎部落攻陷镐京，迫使平王东迁。战国时林胡、楼烦多次侵扰赵国，赵武灵王胡服骑射驱逐林胡、楼烦，在北边新开辟的地区设置了云中等县。林胡、楼烦北迁融入新崛起的匈奴。战国末期赵将李牧曾大败匈奴。
前3世纪匈奴统治结构分为中央王庭、东部的左贤王、和西部的右贤王，控制着从里海到长城的广大地域，包括今蒙古国、俄罗斯的西伯利亚、中亚北部、中国东北等地区。
　　秦始皇统一中国后，命蒙恬北击匈奴，收河套，“却匈奴七百余里，胡人不敢南下而牧马”（《过秦论》）。
真正与匈奴进行大规模战斗是在汉朝。汉初前201年，韩王刘信投降匈奴。次年，刘邦亲率大军征讨，在白登（今山西大同东北）被匈奴冒顿单于30余万骑兵围困七昼夜。后用计逃脱，之后开始与匈奴和亲。其后的文、景诸帝也是沿用和亲政策以休养生息。到汉武帝时，汉朝从战略防御转为战略进攻。元朔二年(前127年)派卫青占领河套地区，前121年派霍去病夺取富庶的河西走廊，前119年卫、霍分东西两路进攻漠北。霍去病击匈奴至今蒙古国境内狼居胥山，卫青东路扫平匈奴王庭。右贤王率领四万余人投归汉朝，单于及左贤王逃走。汉朝在东部联合乌桓，西部以和亲（前105年，汉武帝封细君公主下嫁乌孙国王）、通商的方式联合西域诸国，压缩匈奴的空间。
　　前73年，汉与乌孙联兵20万进行进攻匈奴，直捣右谷蠡王庭。前57年匈奴分裂，郅支单于获胜据漠北，呼韩邪单于前51年南下投靠汉朝。后来郅支单于则率部众退至中亚康居（今巴尔喀什湖与咸海之间，即阿富汗、乌兹别克斯坦、哈萨克斯坦一带），呼韩邪单于占据漠北王庭。前36年，为了清除匈奴在西域的影响，甘延寿、陈汤远征康居的匈奴，击杀郅支单于。前33年呼韩邪单于娶王昭君与汉修好。
　　西汉时期的单于有： 头曼单于、冒顿单于、老上单于、军臣单于、伊稚斜单于、乌维单于、儿单于、呴黎湖单于、且鞮侯单于、狐鹿姑单于、壶衍鞮单于、虚闾权渠单于、握衍眴鞮单于、呼韩邪单于、郅支单于。
48年，东汉初年，匈奴分裂为两部，呼韩邪单于之孙日逐王比率4万多人南下附汉称为南匈奴，被汉朝安置在河套地区。留居漠北的称为北匈奴。89年到91年南匈奴与汉联合夹击北匈奴，先后败之于漠北和阿尔泰山，迫使其西迁，从此北匈奴就从中国古书中消失。
　　187年，东汉末年黄巾起义、董卓专权之际，南匈奴发生内讧。195年，南匈奴参与了中原混战，东汉蔡邕之女蔡文姬被掳掠去匈奴。202年，南匈奴首领归附汉丞相曹操，蔡文姬归汉。曹操将南匈奴分成五部。
南匈奴南下汉化，一直居住在河套一带，三国时期曹操把匈奴分成五个部。4世纪初，匈奴族的五部大都督刘渊在成都王司马颖手下为将。乘西晋八王之乱之后的混乱时期，刘渊起兵占领了北中国的大部分地区，自称汉王，311年攻占洛阳，316年攻占长安，灭西晋。史称前赵或汉赵。
　　匈奴的一支地位低下的族群称为羯人。汉赵的大将羯人石勒自立，建立赵国，史称石赵或后赵，351年被汉族人冉闵所灭。
　　融入匈奴人中的月氏人，称为匈奴别部卢水胡。其中沮渠家族推后凉汉官段业为主，在现甘肃地区建立北凉。后沮渠蒙逊杀段业，自立为北凉主。后被鲜卑人拓跋氏北魏所灭。
　　匈奴与鲜卑的混血后代称为铁弗人。铁弗人刘勃勃被鲜卑拓跋氏击败后投奔羌人的后秦。后自认为是末代的匈奴王，改姓赫连，在河套地区创立夏国，史称胡夏。后被北魏所灭。
　　匈奴融入靠近高丽的鲜卑的宇文氏部落，进入朝鲜半岛。后来宇文氏篡西魏建立的北周政权，后被汉族外戚杨坚所篡。杨坚创立隋朝，统一中原。
　　以上是五胡十六国及南北朝时期，匈奴在中国历史舞台上进行了最后一场演出。之后，亚洲部分的匈奴最后一点残余部族，作为一个独立民族的身份从中国历史中彻底宣告终结，和其他一些民族一起消融于汉族为主体的华夏族。
　　匈奴后裔汉化后，所改汉姓有刘、贺等等，据说有一些目前还生活在今天的陕西、山西等地，主要是归附了刘氏，胡人附刘，十胡九刘。
北匈奴远走欧洲，一部分在高加索，一部分在中伏尔加河地区（今天的俄罗斯鞑靼自治共和国），一部分在下多瑙河（今天的保加利亚），一部分在中多瑙河（今天的匈牙利）。中亚匈奴，一部分与图兰低地民族融合（中亚两河地区），一部分在阿富汗山区，一部分在印度旁遮普邦。 在3世纪末，这个几乎消失了的劫掠民族突然又出现在人们的视野内，东征西讨建立了一个庞大的‘帝国’。匈奴人于350年左右侵入了欧洲，随后在称为‘巴兰比尔王’的酋长领导下开始了他们的野蛮侵略战争，第一个目标便是当时称为阿兰的突厥人国度。
有些学者认为匈奴4世纪西迁到了欧洲东部，并入侵欧洲，与第4、5世纪侵入欧洲的匈人有血缘关系或系同一民族。匈人驱逐日耳曼人等野蛮民族使得蛮族大迁徙，从而灭亡罗马帝国。
　　从史书中似乎找到了匈人即北匈奴的证据。关于匈人灭阿兰国，是匈人首次出现在欧洲历史典籍中，但这次战役在中国典籍中也有记录。《北史》中说：“粟特国，在葱岭之西，古之奄蔡，一名温那沙，居于大泽，在康居西北，去代一万六千里。先是，匈奴杀其王而有其国，至王忽倪，已三世矣”但粟特国并不是奄蔡，也不符合“居于大泽，在康居西北，去代一万六千里”的条件，奄蔡却符合，关于奄蔡，《后汉书》中说：“奄蔡国，改名阿兰聊国，居地城，属康居。土气温和，多桢松、白草。民俗衣服与康居同。”。《三国志》为：“又有奄蔡国一名阿兰，皆与康居同俗。西与大秦东南与康居接。其国多名貂，畜牧逐水草，临大泽，故时羁属康居，今不属也。”在中国古书中，“大秦”即为罗马帝国。《史记》为：奄蔡在康居西北可二千里，行国，与康居大同俗，控弦者十余万。临大泽，无崖，盖乃北海云。”《北史》中那段记录的是该国遣使节到北魏。匈奴灭其国的“已三世矣”即75年，而遣使节到北魏为西元445年，正好为西元370年左右，与欧洲记录一致。
　　另外，有少量的匈奴邦彻底消失在异国，在东、西罗马帝国军队服役的匈奴军人不少，大多驻扎在北叙利亚、北非洲与南英格兰地区，有几个匈奴邦随西哥特人进入法国与西班牙，有一个匈奴部落随东哥特人进入意大利。 有人认为今天的匈牙利人就是匈奴的后裔，这个问题现在仍是个疑问。