北疆新聞 立足北疆 傳播中國(guó)
Token（詞元）是大模型理解、處理、生成信息的最小單元。在近日舉辦的中科創(chuàng)星硬科技媒體行——清程極智專場(chǎng)活動(dòng)中，清華大學(xué)計(jì)算機(jī)系長(zhǎng)聘教授翟季冬分享了一組數(shù)據(jù)：2024年初至2026年3月，我國(guó)Token日均調(diào)用量激增約1400倍，規(guī)模突破140萬(wàn)億。
是什么推動(dòng)了Token日均調(diào)用量激增？翟季冬表示，AI智能體（Agent）的普及、模型開源生態(tài)的繁榮，以及MaaS（模型即服務(wù)）模式的成熟，共同推動(dòng)了這一指數(shù)級(jí)躍升。但與此同時(shí)，Token服務(wù)質(zhì)量參差不齊、供應(yīng)商選擇復(fù)雜等問(wèn)題也日益凸顯，亟需新型基礎(chǔ)設(shè)施與服務(wù)平臺(tái)加以解決。
“跟用電不一樣，大家用電不會(huì)關(guān)心這是水電還是風(fēng)電，因?yàn)閷?duì)我們來(lái)說(shuō)風(fēng)電水電都是電。但是Token不一樣，它有好有壞，不同的模型提供的Token質(zhì)量存在較大差異?！钡约径Q。
當(dāng)前，全球AI產(chǎn)業(yè)已進(jìn)入規(guī)模化落地的關(guān)鍵階段，Token成為AI時(shí)代的“水電煤”，是大模型服務(wù)與智能應(yīng)用的核心生產(chǎn)要素。清程極智聯(lián)合創(chuàng)始人師天麾表示，在Token需求爆發(fā)的同時(shí)，國(guó)產(chǎn)算力與國(guó)產(chǎn)模型迎來(lái)高速發(fā)展，但二者之間的推理環(huán)節(jié)卻長(zhǎng)期依賴海外引擎，難以充分釋放國(guó)產(chǎn)硬件性能；而Token服務(wù)市場(chǎng)也面臨亂、貴、慢、選型難等突出問(wèn)題，供需錯(cuò)位、成本高企、體驗(yàn)不一，成為制約AI技術(shù)普惠化、規(guī)?；涞氐暮诵钠款i。（經(jīng)濟(jì)日?qǐng)?bào)記者 沈慧）
北疆新聞 | 內(nèi)蒙古自治區(qū)重點(diǎn)新媒體平臺(tái)，內(nèi)蒙古出版集團(tuán)?內(nèi)蒙古新華報(bào)業(yè)中心主管主辦的國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺(tái)。
北疆新聞版權(quán)與免責(zé)聲明：
一、凡本站中注明“來(lái)源：北疆新聞”的所有文字、圖片和音視頻，版權(quán)均屬北疆新聞所有，轉(zhuǎn)載時(shí)必須注明“來(lái)源：北疆新聞”，并附上原文鏈接。
二、凡來(lái)源非北疆新聞的新聞（作品）只代表本網(wǎng)傳播該消息，并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的，請(qǐng)?jiān)谝?jiàn)網(wǎng)后30日內(nèi)進(jìn)行，聯(lián)系郵箱：bjwmaster@163.com。
版權(quán)聲明：北疆新聞版權(quán)所有，未經(jīng)書面授權(quán)，不得轉(zhuǎn)載或建立鏡像，違者依法必究。 本站違法和不良信息舉報(bào)電話：15648148811蒙ICP備16001043號(hào)-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證：15120200009-1廣播電視節(jié)目制作經(jīng)營(yíng)許可證：(蒙)字第631號(hào)蒙公網(wǎng)安備：15010502001245
