11 月 3 日消息,，中國(guó)電信人工智能研究院（TeleAI）在今年 5 月發(fā)布業(yè)內(nèi)首個(gè)支持 30 種方言自由混說(shuō)的語(yǔ)音識(shí)別大模型 —— 星辰超多方言語(yǔ)音識(shí)別大模型,。

時(shí)隔不到半年，TeleAI 星辰語(yǔ)音大模型的多方言能力再次升級(jí),，攻克了湛江話,、宜賓話,、洛陽(yáng)話、煙臺(tái)話等方言,，將方言種類從 30 種提升至 40 種,，并引入對(duì)英文的識(shí)別。

與傳統(tǒng)的有標(biāo)注訓(xùn)練方法相比,，TeleAI 通過(guò)預(yù)訓(xùn)練語(yǔ)音識(shí)別模型,，利用海量無(wú)標(biāo)注數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，再通過(guò)少量有標(biāo)注數(shù)據(jù)進(jìn)行微調(diào),。

由于方言語(yǔ)音數(shù)據(jù)普遍存在無(wú)標(biāo)注數(shù)據(jù)多而有標(biāo)注數(shù)據(jù)少的特點(diǎn),，這種“預(yù)訓(xùn)練 + 微調(diào)”的模型方案與方言場(chǎng)景的需求能夠高度契合。

TeleAI 還在模型結(jié)構(gòu)和成本優(yōu)化上進(jìn)行了創(chuàng)新,，實(shí)現(xiàn)對(duì)人工標(biāo)注數(shù)據(jù)的需求量大幅降低約 50 倍,，且保障模型效果與有監(jiān)督訓(xùn)練的方言模型水平相當(dāng),。