應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

亞馬遜開發(fā)出有史以來(lái)最大的文本轉(zhuǎn)語(yǔ)音模型,展現(xiàn)“涌現(xiàn)能力”

2024-02-18 15:02 IT之家
關(guān)鍵詞:亞馬遜AI

導(dǎo)讀:亞馬遜人工智能研究團(tuán)隊(duì)宣布開發(fā)了一個(gè)據(jù)稱是史上最大的文本轉(zhuǎn)語(yǔ)音模型,該模型擁有最多的參數(shù),并使用了最大的訓(xùn)練數(shù)據(jù)集。研究人員已經(jīng)在 arXiv 預(yù)印本服務(wù)器上發(fā)表了一篇論文,詳細(xì)描述了模型的開發(fā)和訓(xùn)練過(guò)程。

2 月 18 日,亞馬遜人工智能研究團(tuán)隊(duì)宣布開發(fā)了一個(gè)據(jù)稱是史上最大的文本轉(zhuǎn)語(yǔ)音模型,該模型擁有最多的參數(shù),并使用了最大的訓(xùn)練數(shù)據(jù)集。研究人員已經(jīng)在 arXiv 預(yù)印本服務(wù)器上發(fā)表了一篇論文,詳細(xì)描述了模型的開發(fā)和訓(xùn)練過(guò)程。

image.png

近年來(lái),像 ChatGPT 這樣的“大型語(yǔ)言模型”憑借其智能回答問(wèn)題和生成高級(jí)文本的能力而備受關(guān)注。然而,人工智能也在逐步融入其他主流應(yīng)用領(lǐng)域。在這個(gè)新項(xiàng)目中,研究人員嘗試通過(guò)增加參數(shù)數(shù)量和擴(kuò)充訓(xùn)練數(shù)據(jù)集來(lái)提升文本轉(zhuǎn)語(yǔ)音應(yīng)用的能力。


據(jù)IT之家了解,這個(gè)名為“可擴(kuò)展流式文本轉(zhuǎn)語(yǔ)音模型”(BASE TTS)的新模型擁有 9.8 億個(gè)參數(shù),并使用 10 萬(wàn)小時(shí)的錄音(來(lái)自公共網(wǎng)站)進(jìn)行訓(xùn)練,其中大部分為英語(yǔ)語(yǔ)音。研究人員還向模型提供了其他語(yǔ)言的單詞和短語(yǔ)示例,使其能夠正確發(fā)音一些常見的表達(dá),例如“au contraire” 和 “adios, amigo”。


亞馬遜團(tuán)隊(duì)還測(cè)試了使用較小數(shù)據(jù)集的模型,希望能從中發(fā)現(xiàn)人工智能領(lǐng)域所說(shuō)的“涌現(xiàn)能力”。這種能力是指人工智能應(yīng)用,無(wú)論是大型語(yǔ)言模型還是文本轉(zhuǎn)語(yǔ)音模型,突然突破到更高智能水平的現(xiàn)象。他們發(fā)現(xiàn),對(duì)于文本轉(zhuǎn)語(yǔ)音應(yīng)用而言,這種飛躍發(fā)生在參數(shù)量達(dá)到 1.5 億的中型數(shù)據(jù)集上。


研究人員還指出,這種飛躍涉及一系列語(yǔ)言屬性,例如使用復(fù)合名詞、表達(dá)情感、使用外語(yǔ)詞、應(yīng)用語(yǔ)音學(xué)和標(biāo)點(diǎn)符號(hào)以及正確強(qiáng)調(diào)句子中的關(guān)鍵詞等能力。


研究團(tuán)隊(duì)表示,出于對(duì)潛在濫用風(fēng)險(xiǎn)的擔(dān)憂,BASE TTS 將不會(huì)向公眾開放,他們計(jì)劃將其作為學(xué)習(xí)應(yīng)用,并期望將學(xué)到的知識(shí)應(yīng)用于改善文本轉(zhuǎn)語(yǔ)音應(yīng)用的整體音質(zhì)。