土族有着悠久的历史。由于没有系统的文字记载，民间传说在各部土族中又相互歧异，族源问题至今尚无定论。归纳学术界的说法，大致有蒙古人说、吐谷浑（霍儿人）说、蒙古人与霍儿人融合说、阴山白鞑靼说、沙陀突厥说、多源混合说等。
土族源于蒙古人说。土族自称“蒙古尔”(蒙古人)或“察罕蒙古尔”（白蒙古），反映了土族族源与蒙古族的密切关系。在互助县土族中，广泛流传着祖先来自蒙古人，以及成吉思汗大将格日利特(格热台)率部留驻索卜滩（今互助县境内，意为蒙古滩），不久病死，其部属留驻下来，以后与当地霍尔人通婚，逐渐繁衍而成土族的传说。这种传说在清代藏文文献《佑宁寺志》中有明确记载：13世纪初，“成吉思汗之部将格日利特率领其部属到此，现今的霍尔人约为这些人的后裔。”“格日利特嗣后，化作大力精灵，居住郭隆（佑宁寺之创建者）之山岩上，他对嘉赛活佛（佑宁寺之创建者）显示了自身着‘索呼’（即蒙古）装束之法相，（嘉赛）因指命（格日利特之幽灵）为那里的土神。”1604年，佑宁寺落成时，格日利特被追封为“尼达”（地方保护神），其铜像被供奉在佑宁寺，所以土族长期以来把他当作本民族的祖先来崇拜。
汉文史籍也有成吉思汗所部蒙古军曾来西宁一带的记载。《元史•太祖本纪》有“太祖二十二年(1227年)三月破洮河、西宁二州”的记载。互助县时属西宁州治，距西宁仅四十五公里，这可与传说相印证。此后，从元世祖到明初，史籍均有蒙古部众留驻或迁移到西宁一带的记载，特别是明正德时，安定卫的元宗室卜烟帖木儿所部受到攻击，“部众散亡，仅余者徙居西宁沙棠川威远城东”。沙棠川、威远堡均属今互助土族自治县，威远堡即今县府机关所在地。这说明互助土族来源中确有一部分是从明代安定卫迁来的蒙古人。
土族来源于一部分蒙古人，除了民间传说、史籍记载外，还可以从语言方面得到证明。土族语言属阿尔泰语系蒙古语族，词汇约有一半以上和蒙古语喀喇沁方言相似。不但如此，在《蒙古秘史》、《华夷译语》等著作中记载的许多13、14世纪的古蒙古语词汇，现在还有一部分保留在土语中。
土族源于吐谷浑（霍儿人）说。至于霍儿人，原是藏族对居住在西藏北部以及西藏以北地区（一说黄河以北）游牧民族的泛称。藏文史籍曾用以指回鹘或蒙古，近代则专指土族而言。互助县土族地区的合尔郡、合尔屯、合尔吉、贺尔川等地，据说是因为古代居住着霍尔人而得名。合尔郡，藏语称“合日江”，意为霍尔人居住的地区。据初步研究，土族传说中的霍尔人很可能就是吐谷浑人。663年，吐谷浑为吐蕃所并，一部分人仍留居青海故地。从地域上看，现今土族主要聚居区在湟水沿岸，而这里曾是吐谷浑人的活动地区。现今互助和大通的土族地区有十几个村庄，土语称为“吐浑”，当地汉民则讹称为“土观”或“托红”，均为“吐浑”的音转。这可能是因历史上居住过吐谷浑人而得名。互助佑宁寺名僧、一世土观罗藏拉卜旦生于互助“吐浑”村，以后各世土观不管出生在什么地方，都要认“吐浑”村为根子地方，都以“土观”为号。据《新、旧唐书》、《五代史》记载，吐谷浑后改称作“退浑”或“吐浑”，这些村庄可能因吐谷浑而得名。土族的“土”字，并非土著之意，而是民族称呼。长期以来，汉、回等族称土族为“土人”、“土民”，史书上也称为“土人”，其来源于“吐谷浑”的“吐”字。吐谷浑在唐朝中期以后被称为“退浑”、“吐浑”、“浑”，蒙古语是“人”的意思，因而到元朝时吐浑演变成“土人”了。吐谷浑“妇人以金花为首饰，辫发萦后，缀以珠贝，以多为贵。” 过去土族妇女也有类似的头饰，称为“吐浑扭达”(扭达意为头饰)，这种称呼似乎与吐谷浑有关。综上所述，吐谷浑亡国后，东迁的一部分逐渐融合于汉族，降服于吐蕃的后来融合于藏族，留居于凉州、祁连山一带、浩门河流域、河湟地区的一部吐谷浑人，则成为今日土族的先民主体部分。