司马迁《史记》、班固《汉书》皆言“毋文书，以言语为约束”。桓宽《塩铁论．论功》却说“虽无礼义之书，刻骨卷木，百官有以相记”。此盖指汉文帝时嫁予单于的宗女，随从宗女身边的官员中行说，教导匈奴单于左右疏记及计算畜物数目。
《后汉书》中有一首《匈奴歌》，不少学者用蒙古语、突厥语、叶尼塞语言等进行过分析和解读，都没有得到理想的结果。
除此之外，匈奴的人名、部落名、地名和称号都可以用来研究匈奴语。例如：“撑犁孤涂单于”据说在匈奴语中有“天子”的意思，其中的“撑犁”（上古汉语： thrang rii）和“单于”（上古汉语: dar wa）分别和蒙古语的tngri(天)和daruγa(君主)相似。
关于匈奴语的来源，由于资料阙如，很难得到肯定的结论，有些认为匈奴人讲蒙古语，而其他则认为他们的语言属于叶尼塞语系。蒲立本(Pulleyblank)《上古汉语的辅音系统》的附篇《匈奴语》裏面提到，匈奴语的很多汉语对音都是以汉语l-打头的，这可以对译*l-或者*r-（*表示早期拟音），但阿尔泰语普遍不允许l-或者r-在词首。蒲立本认为匈奴语可能和现在的叶尼塞语有关。有些则认为是东胡、蒙古语的混合。