動態(tài)焦點:“超節(jié)點”算力集群亮相會場 詞元經(jīng)濟最新動向
【資料圖】
第九屆數(shù)字中國建設(shè)峰會昨天迎來公眾開放日,現(xiàn)場體驗區(qū)開放將持續(xù)至5月4日。詞元是大模型處理信息的最小單元,是今年AI領(lǐng)域里的熱詞。這兩天,在現(xiàn)場體驗區(qū)記者發(fā)現(xiàn),業(yè)內(nèi)關(guān)于詞元的討論不斷,相關(guān)新的硬件和新的服務(wù)模式也紛紛亮相。
眼下,我國詞元調(diào)用量呈現(xiàn)指數(shù)級增長。專業(yè)人士告訴記者,這背后的關(guān)鍵驅(qū)動來自AI的規(guī)模化落地,特別是智能體的大爆發(fā)。
騰訊公司副總裁韓開創(chuàng):詞元確實反映了智能經(jīng)濟的發(fā)展熱度,但是單就詞元發(fā)展而言,應(yīng)該有一個比較綜合的衡量因素。好比我們開車,不能只關(guān)注油耗,還要關(guān)注引擎的經(jīng)濟性和輸出的能力,大家其實是越來越關(guān)注詞元消耗的性價比,更關(guān)注如何降低詞元調(diào)用的成本。
算力越強,詞元處理速度就越快,單位成本就越低。記者觀察到,新一代國產(chǎn)算力基礎(chǔ)設(shè)施在峰會上亮相。這樣一個“超節(jié)點”算力集群被直接搬到了現(xiàn)場。
除了升級硬件、提升算力,各種減少詞元消耗、降低成本的新服務(wù)也不斷出現(xiàn)。有企業(yè)把100多個主流大模型都放到一個服務(wù)平臺上,當(dāng)用戶提出需求后,平臺會自動匹配最合適的模型來解決問題。
天翼云智算平臺事業(yè)部產(chǎn)品專家王曼:如果你需要做視頻,我們就給你選擇最適合做視頻的模型,如果你提出的是一個非常簡單的查天氣的問題,那就調(diào)用小模型解決。這樣就不會出現(xiàn)小問題也用高階模型來解決,降低了詞元的使用成本。
本屆峰會上,圍繞詞元經(jīng)濟延伸出的“人工智能工廠”新概念也受到關(guān)注,簡單來說就是像造汽車一樣造智能體。
浪潮云信息技術(shù)股份公司總經(jīng)理顏亮:通過流水線生產(chǎn)智能體,并持續(xù)優(yōu)化,能夠減少無效計算,更能大幅度降低詞元的消耗。







