3月11日消息,,日前,有投資者在互動平臺向科大訊飛提問:貴公司目前擁有多少張算力卡,?面對阿里千億級投資,,公司將在算力競爭上如何應(yīng)對?
對此,,科大訊飛表示,,過去幾年在受限的有限算力資源條件下,關(guān)于星火大模型訓(xùn)練和推理成本效率的持續(xù)優(yōu)化也做了大量投入,,和直接使用英偉達(dá)卡上開展的各種工程優(yōu)化不同,,科大訊飛選擇了更難的全國產(chǎn)算力路線。
據(jù)介紹,,大模型對算力的需求為訓(xùn)練和推理兩個方面,,而訓(xùn)練實(shí)現(xiàn)的難度遠(yuǎn)大于推理。
科大訊飛稱,,這就是雖然陸續(xù)有公司宣布可以在國產(chǎn)算力平臺上提供大模型的推理服務(wù),,但仍只有訊飛星火一家是訓(xùn)練和推理均在國產(chǎn)算力上進(jìn)行的,并且僅用1萬張910B國產(chǎn)算力卡,科大訊飛用比友商少一個數(shù)量級的算力取得了大模型研發(fā)上的第一梯隊(duì)成果,。
同時,,科大訊飛還做了大量國產(chǎn)算力平臺上的無人區(qū)的適配和效率優(yōu)化,追求國產(chǎn)算力的極致效率,,這比在英偉達(dá)上的實(shí)現(xiàn)更需要技術(shù)實(shí)力和戰(zhàn)略勇氣,。
據(jù)媒體報(bào)道,科大訊飛2月透露了其最新的研發(fā)進(jìn)展:公司正在全力訓(xùn)練的純國產(chǎn)算力平臺“星火X1”新版本,,預(yù)計(jì)將在未來三個月內(nèi)完成,。
這一新版本的發(fā)布,預(yù)期就可以實(shí)現(xiàn)數(shù)學(xué)答題和過程思維鏈能力全面對標(biāo)甚至超過OpenAI o1,。