贺唯一，又名太平，字允中，鄠人，贺胜之子。其父被丞相铁木迭儿陷害而死，当时年届弱冠，尚在读书。也孙铁木儿即帝位，为贺胜昭雪洗冤，准贺唯一袭其父原职，任虎贲亲军都指挥使，调为陕西汉中道廉访副使。文宗图帖睦尔复皇帝位，将贺唯一召回朝任工部尚书，负责修建奎章阁，完工后，调任上都留守同知。
元顺帝即位后，贺唯一改任枢密副使，迁同知枢密院事，后升任御史中丞。当时，中书省参议佛家闾为官不正，御史上章参劾，中书丞相为庇护佛家闾，将御史奏章扣压，使此事不能查办，贺唯一愤愤不平，毅然辞职，回家闲居。
顺帝诏命起用贺唯一中书省任右丞，这时佛家闾已被罢官，贺唯一方同意任职，上任后立即向元顺帝提出几点改革措施，他提议：一些地方守令严重失职，应当另选干练之人替代；同时，派人前往各地检查地方官吏的政绩和作风。对政绩优异的予以晋级和奖励。他还提出纂修辽、金、宋三个王朝的国史。元顺帝同意他的建议，并命他担任修纂总裁，在他主持下，三部史书很快编好。他被提升为中书平章政事，次年，改任宣徽院使，专管宫廷膳食之事，六年，拜为御史大夫，按元朝廷的制度，此职应由蒙古贵族成员担任，但元顺帝为了削弱权臣的势力，特诏贺唯一改姓蒙古姓氏，易名“太平”。
贺唯一复任中书平章政事，元顺帝为了削弱反对势力，利用中书右丞相别儿怯不花对脱脱之父马扎台儿诬陷之机，将脱脱父子同时削爵流放。中书左丞相朵儿只便向元顺帝建议，提升贺唯一担任中书丞相，与他共同理政，元顺帝于是提升朵儿只任右丞相，贺唯一任左丞相。
贺唯一任丞相后，提出了几项改革措施：有妻室的僧道改籍为俗民，以减少国家对寺院道观的赐田，减少对农民的剥削；严格制度，防止虚报冒领官俸之事；准许经筵馆讲官设坐讲授，以尊敬儒学；设立行都水监，专管治理黄河之事。他平时爱惜人才注重选人，将查访到的有识之士记录在册，遇到合适缺职即予以录用，所以，他一到相位便举荐了五位隐士出山做官。第二年，顺帝下诏修后妃、功臣传，特命贺唯一以同监修国史之职主持此事，这在元代是没有先例的不寻常之举。
在此同时，被流放于甘州的马扎台儿病死于贬地，贺唯一启奏于元顺帝，力请准许脱脱东归葬父，以尽孝道，顺帝准允，脱脱方得东还。后来，脱脱被拜为太子太傅，综理东宫之事，脱脱不知贺唯一为他力争东还之实情，反受人挑拨，在顺帝面前中伤贺唯一，致使贺唯