明面上，ChatGPT的熱度在最近降了下來,，這實(shí)在是符合許多唱衰AI產(chǎn)業(yè)的人一貫的論調(diào)——就像擊敗國際象棋冠軍的深藍(lán)、國際圍棋冠軍的AlphaGo一樣,，爆紅的AI工具總是最終歸于平靜。
因?yàn)檫@些炫酷的工具往往有一個(gè)無法回避的問題：商業(yè)化的前景在哪里？
從使用場景上說,，除了專業(yè)棋手,，沒有人會(huì)需要每天和機(jī)器人對(duì)弈，而ChatGPT作為一個(gè)吸收了無數(shù)語言材料,，光是模型參數(shù)就有一千七百多億的大模型,，目前最適用場景似乎只有完成學(xué)術(shù)論文中內(nèi)容梗概撰寫和統(tǒng)一注釋格式，以及幫助論文作者規(guī)避查重風(fēng)險(xiǎn),。說實(shí)話,，ChatGPT在這方面完成的不錯(cuò)，幾乎成了留學(xué)生中的不傳之秘,，以至于有華裔學(xué)生專門寫了一個(gè)名為GPTZero的app負(fù)責(zé)辨認(rèn)作業(yè)中ChatGPT生成的內(nèi)容,。
但也僅此而已。從成本角度說,，動(dòng)輒數(shù)千萬美元的開發(fā)和部署成本讓外界有了堅(jiān)定看衰它的理由,，這個(gè)所謂智能聊天工具實(shí)在太過昂貴，更何況它最讓人驚艷的那部分：對(duì)人類語言和對(duì)話邏輯的理解,，對(duì)回答內(nèi)容的“生成式”創(chuàng)作,，都隨著越來越多的“翻車”實(shí)例而迅速“祛魅”。那些認(rèn)為它將取代搜索引擎,、顛覆智能語音助手的樂觀論調(diào)正在消失,。
ChatGPT在大眾視角中似乎即將走上過往那些AI工具的老路，流星一樣炫目,，然后歸于沉寂,。
但，真的僅此而已嗎,？
第一個(gè)造出飛機(jī)的人
Sheng談到ChatGPT時(shí)充滿了一種興奮和緊張混合的口吻,，他是在清華從事預(yù)訓(xùn)練大模型研究的博士生。
“就在兩年前,，要不要走預(yù)訓(xùn)練大模型的方向,，整個(gè)學(xué)界還在討論中,?！盨heng說到，而原因正是上面提到的,，大模型一次的訓(xùn)練成本實(shí)在太過高昂,，能得到什么結(jié)果也是未定之?dāng)?shù)，很少有人愿意冒險(xiǎn),。國內(nèi)相關(guān)方向的玩家一度傾向使用大小模型協(xié)同配合的方法提高AI工具效果,，因?yàn)閭鹘y(tǒng)觀點(diǎn)認(rèn)為，在規(guī)模相對(duì)較小的模型上進(jìn)行訓(xùn)練，效果并不一定比大模型差,。而不止一位AI方向的從業(yè)者也表示,，過去業(yè)內(nèi)對(duì)人工標(biāo)記數(shù)據(jù)的重視也遠(yuǎn)遠(yuǎn)不夠，大家沒料到ChatGPT采用的基于人類反饋的強(qiáng)化學(xué)習(xí)效果會(huì)如此之好,。
直到OpenAI推出了ChatGPT,。
“有多少人工，就有多少智能,?！边@是人工智能領(lǐng)域經(jīng)常被拿來調(diào)侃的一句話，用來形容ChatGPT再合適不過,。作為預(yù)訓(xùn)練大模型,，它很好的體現(xiàn)了“大”這個(gè)字。一方面,，相比GPT1,，GPT3的參數(shù)規(guī)模提升了將近1500倍。另一方面,，由于運(yùn)用了所謂的“自監(jiān)督學(xué)習(xí)（self-supervised learning）”機(jī)制,，模型可以使用互聯(lián)網(wǎng)上海量的文本數(shù)據(jù)進(jìn)行訓(xùn)練。
這種級(jí)別的大模型是前所未見的,。
“最近的研究告訴我們,，當(dāng)模型達(dá)到一定規(guī)模后，會(huì)有 emergent ability（突現(xiàn)能力）的東西出現(xiàn),?！盨heng說到。
某種程度上講,，ChatGPT 的開發(fā)者 OpenAI 也是在賭博,，沒有人知道這條路究竟能不能走通，而正是它們持之以恒不惜血本的投入,，最終證明了預(yù)訓(xùn)練大模型擁有一般模型所不具備的認(rèn)知理解能力和泛化能力,。換而言之，預(yù)訓(xùn)練大模型和人們理想中的AI“通用模型”非常相似,。
不像是AlphaGo專門針對(duì)圍棋度身定做,，ChatGPT不是針對(duì)一個(gè)特定的狹窄領(lǐng)域問題開發(fā)出來的AI工具，相反,，它可能更像某種尚顯稚嫩的通用AI計(jì)算模型,，有回答開放問題的能力，顯示出可被靈活部署應(yīng)用在各種領(lǐng)域的潛力,。
這正是ChatGPT重要的原因,，它向人們展示了預(yù)訓(xùn)練大模型的強(qiáng)大威力,。這意味著第三次AI浪潮在經(jīng)過十多年的發(fā)展后，走到一個(gè)關(guān)鍵節(jié)點(diǎn),。
“ChatGPT / GPT-3.5 是一種劃時(shí)代的產(chǎn)物,，它與之前常見的語言模型幾乎是導(dǎo)彈與弓箭的區(qū)別，一定要引起最高程度的重視,?！币黄噲D幫助開源社區(qū)復(fù)現(xiàn)GPT3.5技術(shù)路線圖的文章在開篇就嚴(yán)肅指出了這一點(diǎn)。（https://zhuanlan.zhihu.com/p/593519656）
Sheng則把ChatGPT的誕生比作萊特兄弟發(fā)明飛機(jī)：“大家都知道飛機(jī)理論上是可以做出來的,，但從來沒人真的見過飛機(jī),。ChatGPT就像是有人突然把飛機(jī)擺到你面前，雖然它可能只能飛100公尺,，很容易有故障,，但它出現(xiàn)了。”
Bigger than bigger,，大模型的潛力還有多少,？
同ChatGPT揭示的AI發(fā)展浪潮中的關(guān)鍵節(jié)點(diǎn)的意義相比，ChatGPT本身的缺陷和孱弱的商業(yè)化前景都顯得渺小了不少,。更何況,，對(duì)許多從業(yè)者來說，ChatGPT暴露出來的缺點(diǎn)并非不可解決,。
其中一個(gè)為許多人指摘的是所謂數(shù)據(jù)庫時(shí)限問題,。ChatGPT訓(xùn)練是基于一個(gè)固定的數(shù)據(jù)庫，截止日期是2021年9月,，也就是說ChatGPT無法掌握從那以后世界上發(fā)生的任何事的信息,，從iPhone 14的發(fā)布到美國期中選舉，甚至今天的天氣狀況都不行,，在這個(gè)方面,，ChatGPT的表現(xiàn)甚至趕不上時(shí)下任何一款智能語音助手。
但從技術(shù)層面這個(gè)問題并不難解決,。實(shí)際上,，根據(jù)外媒爆料，和Open AI 達(dá)成戰(zhàn)略合作關(guān)系的微軟即將在3月推出具有AI對(duì)話能力的新版必應(yīng)Bing,，它的原理正是將搜索引擎同ChatGPT的能力相結(jié)合,，甚至，微軟還打算在Office 套件中引入相應(yīng)的能力,。
最為引人關(guān)注的成本問題,，在算法層面同樣有許多優(yōu)化迭代的思路。比如,，既然ChatGPT在回答問題過程中通過專門的針對(duì)訓(xùn)練很好展示了機(jī)器模擬人行為的能力，那么在算法層面，讓ChatGPT通過模仿人查閱資訊的方式,，在涉及純粹知識(shí)和信息的問題時(shí)不再調(diào)用本身數(shù)據(jù)庫而是直接從網(wǎng)絡(luò)抓取內(nèi)容將是非常值得探索的方向,。如此一來，大模型可以在不降低自身表現(xiàn)的情況下縮小規(guī)模,，訓(xùn)練成本也將隨之降低。
至于商業(yè)化落地場景,，除了已經(jīng)比較確定的文本生成,、智能助手領(lǐng)域外，實(shí)事求是的說,，還有大片的荒蕪地帶亟待開發(fā),，但不少從業(yè)者都表示了樂觀。
“難的是從0到1的原始創(chuàng)新,，至于后面的都不是問題,。”一位供職于大廠的AI研究從業(yè)者說道,，“尤其在中國,，市場這么大，大家又這么卷,，既然大模型的路子被證明是可行的,，那么很快所有的聰明人都會(huì)加入進(jìn)來?！盨heng同樣預(yù)計(jì),，短則一兩年，就會(huì)出現(xiàn)基于預(yù)訓(xùn)練大模型的商業(yè)化產(chǎn)品,。
必須攀登的山峰
事實(shí)上,，今年在投資領(lǐng)域，AI是少有的異軍突起的熱門賽道,。然而成本像一道緊箍咒,，束縛著每個(gè)自身不具有預(yù)訓(xùn)練大模型開發(fā)能力的玩家。
ChatGPT這樣級(jí)別的預(yù)訓(xùn)練大模型跑一次的成本是千萬美元級(jí)別,，而將其商業(yè)化部署,，落地到類似聊天機(jī)器人這樣多用戶高并發(fā)任務(wù)中，成本只會(huì)更高,。小冰CEO李笛給出的一個(gè)估計(jì)數(shù)字是3億每天,。這也就意味著，國內(nèi)夠資格玩這場燒錢游戲的只能是極個(gè)別組織,，大部分的初創(chuàng)企業(yè),，乃至許多高校，都會(huì)被這樣的高昂成本“勸退”,。
Sun 是來自一家國內(nèi)一線投資機(jī)構(gòu)的投資經(jīng)理,，在看過無數(shù)AI相關(guān)項(xiàng)目的PPT后，他今年一次都沒有出手：“商業(yè)化項(xiàng)目是很現(xiàn)實(shí)的,，你是不是掌握了核心技術(shù),？你的競爭壁壘又有多高？”
很少有中國企業(yè)能夠回應(yīng)這樣的詰問,。
在這種情況下,，想要讓產(chǎn)品具有AI能力，只能調(diào)用公開的大模型接口（比如GPT3.0）,，等于讓自己的核心能力掌握在別人手中。
一個(gè)非常殘酷的例子是Jasper.AI,。文本生成領(lǐng)域估值一度高達(dá)15億的Jasper.AI同樣在底層調(diào)用GPT3.0模型，在ChatGPT 幾乎是沒有預(yù)警的橫空出世后,，Jasper的業(yè)務(wù)立刻受到?jīng)_擊（這個(gè)故事被the information 寫成了一篇報(bào)道 ）,，因?yàn)镴asper 的收費(fèi)計(jì)劃最便宜的也高達(dá)29美元,，且只能生成20000個(gè)單詞,，相比之下，ChatGPT的使用成本簡直可以忽略不計(jì),，而交互和效果甚至更好,。
更何況，OpenAI本身也面臨著經(jīng)營壓力,。從OpenAI內(nèi)部傳出的消息說,，預(yù)訓(xùn)練大模型的成本之高，OpenAI同樣也叫苦連天,，從GPT3.0后OpenAI的模型不再開源,，而是力推其訂閱付費(fèi)服務(wù)（Jasper即是向OpenAI繳納一定的費(fèi)用從而獲得GPT調(diào)用接口）。
開發(fā)屬于自己的大模型,，顯然是每個(gè)在AI領(lǐng)域有野心的企業(yè)所應(yīng)該做的事,。
國外們的巨頭行動(dòng)很快，除了OpenAI,，提出transformer模型的Google同樣擁有專門針對(duì)對(duì)話應(yīng)用的大語言模型LaMDA和多模態(tài)任務(wù)模型MUM，這兩個(gè)模型被認(rèn)為與ChatGPT擁有相同的能力,。而在硅谷,，像Perplexity,、YouChat這樣的創(chuàng)業(yè)公司也正在大預(yù)言模型的基礎(chǔ)上開發(fā)新的聊天機(jī)器人,。OpenAI也預(yù)示了GPT4.0的存在,，從版本號(hào)上就能看出,，屆時(shí)這個(gè)業(yè)界領(lǐng)先的大語言模型將有進(jìn)一步的能力提升,。
因此對(duì)中國來說，時(shí)不我待,，預(yù)訓(xùn)練大模型是一塊必須啃下來的硬骨頭,，中國絕不能錯(cuò)過這場AI“軍備競賽”。不僅因?yàn)橐晃赌７禄蛘邔で箝_源模型接口支持,，等于讓別人始終掌握掐脖子的科技主動(dòng)權(quán),，同時(shí)也將在未來的AI產(chǎn)業(yè)競爭中處于不利地位。
Sun舉了個(gè)或許不太貼切的例子：質(zhì)能方程在1905年就由愛因斯坦提出,，原子彈在40年后的1945年由美國人試爆成功,，而新中國為了掌握這項(xiàng)技術(shù)，又花了近20年時(shí)間,。
一日千里的AI技術(shù)發(fā)展不會(huì)給中國這么長的追趕時(shí)間,。
好消息是，AI技術(shù)并不像芯片制造一樣有著高不可攀的技術(shù)壁壘,，盡管沒有公布ChatGPT的論文,，但不止一位AI工程師表示，僅靠現(xiàn)在公開的知識(shí),，頂級(jí)AI工程團(tuán)隊(duì)很大概率就能復(fù)現(xiàn)和ChatGPT差不多的模型,，因?yàn)椤凹夹g(shù)本身都是現(xiàn)成的?！?/p>
壞消息則是,，留給我們的時(shí)間已經(jīng)不多。
如果說ChatGPT誕生來自巨量資金的投入,、充分的技術(shù)和人才儲(chǔ)備,，這些條件國內(nèi)巨頭們尚能夠勉強(qiáng)滿足的話，那么隨著時(shí)間推移,，如果不在目前這個(gè)非常重要的機(jī)會(huì)窗口期迎頭趕上,，算法迭代所累積的經(jīng)驗(yàn)將給以O(shè)penAI為代表的AI公司帶來結(jié)構(gòu)性的技術(shù)壁壘與代差，這種代際差一旦形成,，再想追趕將分外吃力。
雖然機(jī)器本質(zhì)上仍然無法思考或創(chuàng)新,，但預(yù)訓(xùn)練大模型“涌現(xiàn)”出的“智能”以及它出色的泛化能力,，將使得AI產(chǎn)業(yè)本身不再成為一個(gè)賽道,，而是演變?yōu)轭愃剖汀㈦娋W(wǎng)一樣的基礎(chǔ)生產(chǎn)力資源,，徹底改變整個(gè)信息產(chǎn)業(yè)的格局,。
經(jīng)過十多年的發(fā)展，基于深度學(xué)習(xí)框架的AI浪潮已經(jīng)找到了一個(gè)明確的發(fā)力方向,，隨之而來的將會(huì)是如同西部掘金大潮一般的熱烈景象,，無數(shù)機(jī)會(huì)和突破將涌現(xiàn)出來，想要在這場烈火烹油的AI革命中跟上,，我們必須擁有屬于自己的ChatGPT,。否則讓它跑太遠(yuǎn)，再追就來不及了,。
參考資料：
ChatGPT進(jìn)化的秘密
https://zhuanlan.zhihu.com/p/593519656
The Best Little Unicorn in Texas: Jasper Was Winning the AI Race—Then ChatGPT Blew Up the Whole Game
更多信息可以來這里獲取==>>電子技術(shù)應(yīng)用-AET<<
