◎ 一款大模型調(diào)度平臺，上線不到兩周Token(詞元)消耗突破1000億

◎ 一家人工智能OPC(一人公司)社區(qū)，創(chuàng)業(yè)者喝杯咖啡的工夫，就接到了派發(fā)訂單

◎ 一套“手搓”的智算集群，用不到傳統(tǒng)方案十分之一的成本，解決了高校人工智能教學(xué)的燃眉之急

◎ 這些故事的交點，指向同一個人——全國首個大模型調(diào)度平臺TaoToken的操盤手、CSDN(中國開發(fā)者網(wǎng)絡(luò))副總裁兼首席技術(shù)官陳玉龍

而他更愿意稱自己為“工程師”

陳玉龍。通訊員孫曉飛 攝

像用電一樣調(diào)用大模型

算力成本降低三成

一個月前，全國首個大模型調(diào)度平臺TaoToken在武漢首發(fā)。該平臺的模型網(wǎng)格(ModelGrid)由陳玉龍帶領(lǐng)CSDN武漢團隊推出。

人工智能時代，大模型層出不窮，但接口標(biāo)準(zhǔn)不統(tǒng)一。開發(fā)者每接入一個新模型，往往需要重新編寫適配代碼。陳玉龍意識到，這不僅是效率問題，也抬高了中小企業(yè)和個人開發(fā)者的使用門檻。

“能不能統(tǒng)一起來?”帶著這個想法，陳玉龍帶領(lǐng)團隊搭建了一套算力調(diào)度系統(tǒng)。該系統(tǒng)將國內(nèi)外150多個主流模型聚合為同一入口，開發(fā)者只需一個密鑰(Key)，即可調(diào)用不同模型，無需重復(fù)適配。

數(shù)據(jù)顯示，上線不到兩周，平臺累計消耗詞元超過1000億，相當(dāng)于處理約1億篇千字文章。

近日，一位技術(shù)博主在社交平臺上分享了使用體驗：過去團隊需為多家模型廠商分別維護多套適配代碼，存在成本核算煩瑣、用量監(jiān)控缺失等問題;接入ModelGrid后，模型調(diào)用總成本下降約30%，接入與維護時間同樣減少約30%。該博主表示：“團隊可將更多精力聚焦于業(yè)務(wù)本身。”

“省下的不僅是錢，更是時間?！标愑颀堈f。在CSDN武漢公司，團隊鼓勵員工將約10%的工作時間用于新探索，其余精力完成原有任務(wù)。ModelGrid正是團隊自由探索的成果。

從立項到上線，歷時不到一年。在CSDN武漢公司一間數(shù)十平方米的辦公區(qū)，陳玉龍與同事們工位相鄰，圍坐在環(huán)形桌旁。墻角立著一塊自制牌子透著程序員特有的幽默與自信，上書“出招吧，哥讓你三行代碼”。

位于武漢經(jīng)開區(qū)的CSDN武漢公司，技術(shù)人員在敲擊代碼。(資料圖)

他回憶，為了趕在2026年武漢“AI智能體創(chuàng)新大賽”前上線，團隊曾連續(xù)兩周加班到深夜。最棘手的是兼容性調(diào)試。他和同事反復(fù)排查近百次，才定位到某廠商驅(qū)動版本中的一個隱藏漏洞。

在陳玉龍看來，ModelGrid不僅是將算力服務(wù)轉(zhuǎn)化為模型服務(wù)。它正試圖成為一個連接點，將開發(fā)者、模型廠商與行業(yè)需求對接起來。

技術(shù)門檻降低了，創(chuàng)業(yè)者有了更趁手的工具。但陳玉龍也在思考另一個問題：他們從哪里找到用武之地?

一杯咖啡背后的“訂單紅娘”

平臺全網(wǎng)派單超億元

“喝咖啡送詞元券，算力比咖啡還‘提神’?！弊哌M位于武漢經(jīng)開區(qū)的經(jīng)開智造人工智能OPC社區(qū)，一樓“OPC創(chuàng)業(yè)咖啡”吧臺旁，三五成群的年輕人一邊喝咖啡，一邊敲鍵盤。

位于南太子湖創(chuàng)新谷的經(jīng)開智造人工智能OPC社區(qū)。記者蔡欣星 攝

社區(qū)大廳的顯示屏上，每天滾動發(fā)布來自CSDN的任務(wù)派單。這是陳玉龍設(shè)計的“訂單紅娘”機制：CSDN將拆解后的小任務(wù)派到OPC社區(qū)，創(chuàng)業(yè)者線上接單、交付、收款。

這些訂單從哪里來?經(jīng)開智造人工智能OPC社區(qū)合作方CSDN是全球第二大開發(fā)者社區(qū)，擁有5300萬用戶。作為該OPC社區(qū)運營負(fù)責(zé)人，陳玉龍透露，目前平臺面向全網(wǎng)發(fā)放的訂單規(guī)模已超億元，其中經(jīng)開智造人工智能OPC社區(qū)專項派發(fā)的訂單已有三四十單?！坝唵魏艹湓＃芙拥米?、交付好的創(chuàng)業(yè)者還很稀缺?！?/p>

江漢大學(xué)大四學(xué)生代齊祥是接單者之一，在半個多月里接了三個任務(wù)，收入超過3000元。他說，平臺還會根據(jù)交付速度和質(zhì)量給團隊評級，評級越高，后續(xù)接到的大單越多。

在陳玉龍看來，OPC創(chuàng)業(yè)者需要三樣?xùn)|西：技能提升、訂單，還有算力。他不想只是把人聚在一起喝咖啡，而是讓他們拿到第一筆錢、接到第一個訂單，然后自己跑起來。

“95后”海歸肖筱和華科大計算機專業(yè)校友江曉漁是最近入駐OPC社區(qū)的創(chuàng)業(yè)者，她們帶著AI教育項目輾轉(zhuǎn)多個城市后，最終選擇武漢?！斑@里的支持力度大，可以輕裝上陣?！?/p>

得益于社區(qū)的算力支持，目前該團隊的TalentFlow AI(一款用AI對學(xué)生進行技能畫像的小程序)項目已落地，正計劃將服務(wù)范圍延伸至更多應(yīng)用場景。

獲得一個真實的訂單，讓創(chuàng)業(yè)團隊正常運轉(zhuǎn)起來，是當(dāng)務(wù)之急。而要實現(xiàn)這一切，離不開算力平臺，這件事，陳玉龍動手得更早。

一套“手搓”智算集群

實驗室走出的學(xué)生被“搶訂”

江漢大學(xué)一間實驗室內(nèi)，50臺電腦高速運轉(zhuǎn)，屏幕上的AI模型參數(shù)不斷跳動。這里是陳玉龍聯(lián)合江漢大學(xué)、經(jīng)開產(chǎn)投集團共建的開源與智能技術(shù)創(chuàng)新實驗室，也是學(xué)校里人氣最旺的地方之一，被學(xué)生稱為“開心實驗室”。

陳玉龍在江漢大學(xué)開源與智能技術(shù)創(chuàng)新實驗室。 記者王雙雙 攝

全球AI熱潮興起時，如何讓學(xué)生親手訓(xùn)練模型、調(diào)試參數(shù)成為現(xiàn)實難題——絕大多數(shù)高校缺少可供本科生規(guī)模使用的算力資源。實驗室負(fù)責(zé)人、江漢大學(xué)教授鄧宏濤找到深耕AI領(lǐng)域的校友陳玉龍。

學(xué)校批準(zhǔn)200余萬元預(yù)算。陳玉龍測算，若按工業(yè)標(biāo)準(zhǔn)采購專業(yè)AI服務(wù)器，單臺需150余萬元，4臺加配套總投入將達數(shù)千萬元，缺口巨大。

他決定“手搓”一套智算集群：專業(yè)服務(wù)器為保障“永不待機”的工業(yè)級可靠性成本高昂，而這并非高校教學(xué)與技術(shù)創(chuàng)新的剛性需求。

最終，50臺搭載消費級GPU顯卡的電腦組成智算集群，總成本控制在500萬元以內(nèi)，其中陳玉龍自籌200余萬元補足缺口。

實驗室的智算集群建成后，不僅服務(wù)校內(nèi)，也面向企業(yè)開放。2024年9月，實驗室掛牌武漢經(jīng)開區(qū)南太子湖創(chuàng)新谷。東風(fēng)汽車、武漢城投等企業(yè)紛紛上門尋求合作。近兩年，實驗室先后獲評武漢市、湖北省典型應(yīng)用場景，并獲批成為武漢市開源創(chuàng)新中心(人工智能方向)。累計已有超過千名大學(xué)生在此接受專項技術(shù)培訓(xùn)。

“實驗室的學(xué)生從最初的計算機、人工智能專業(yè)，擴展到全校更多專業(yè)，連文科生也多了起來?！编嚭隄淌谛χf。今年，第一批應(yīng)屆畢業(yè)生已被多家頭部科技公司及國企提前錄用，從實驗室走出的學(xué)生，成了被“搶訂”的香餑餑。

CSDN首席技術(shù)官、OPC社區(qū)負(fù)責(zé)人、研究院理事長、高校產(chǎn)業(yè)教授……如今，陳玉龍的頭銜越來越多，但他最喜歡的，還是學(xué)弟學(xué)妹們叫他一聲“師兄”。

說起對計算機的熱愛，他回憶起上小學(xué)時讀過的一篇課外讀物《我和電腦》。彼時電腦遠未普及，他用小刀在課桌上刻出四排方格，每格代表一個鍵——空格鍵刻得最長。刻完后，他把手指搭在凹痕上，閉眼敲擊。桌面無聲，他的手指卻一下一下地動。

從那時起，陳玉龍就相信：動手，才能改變。

【對話】

“看到卡點，就去解決它”

從刻鍵盤的少年到AI產(chǎn)業(yè)教授，他帶領(lǐng)團隊在武漢推出全國首個大模型調(diào)度平臺。近日，長江日報記者與中國開發(fā)者網(wǎng)絡(luò)副總裁兼首席技術(shù)官陳玉龍展開了對話。

記者：身兼多職，你最看重哪個身份?

陳玉龍：我最認(rèn)可的身份是工程師，最喜歡的稱呼是學(xué)弟學(xué)妹叫我一聲“師兄”。

記者：曾做出億級用戶的互聯(lián)網(wǎng)產(chǎn)品項目，為什么轉(zhuǎn)向AI與人才培養(yǎng)?

陳玉龍：工程師的使命很簡單，看到卡點，就去解決它。相信下一個產(chǎn)品比上一個更完美。當(dāng)下，AI會替代大量重復(fù)性工作，但真正需要創(chuàng)造力的領(lǐng)域，人永遠是主體。回到母校，推動校企合作，培養(yǎng)能用AI解決真問題的人才。這個選擇回頭看，依然是最正確的。

記者：自掏腰包200多萬元建實驗室，初衷是什么?

陳玉龍：希望學(xué)弟學(xué)妹在校期間，就能接觸產(chǎn)業(yè)側(cè)的最新技術(shù)，用AI解決現(xiàn)實難題。

記者：您如何看待AI對就業(yè)及文理分科的影響?文理科的界限是否已模糊?

陳玉龍：靠裁員用AI替代員工的公司，離倒閉不遠。AI只能優(yōu)化成本，無法創(chuàng)造增長;反之，用AI賦能員工，反而能激發(fā)創(chuàng)新。AI已拉平專業(yè)門檻，讓文理分科不再重要。決定一個人成就的，是綜合素質(zhì)，而非學(xué)科出身。

記者：給當(dāng)下年輕人一個建議?

陳玉龍：AI時代，動手能力和解決問題的能力比出身更重要。如果學(xué)生時代有熱愛的興趣，可以嘗試把愛好變成事業(yè)。像武漢，大學(xué)生創(chuàng)業(yè)的政策支持和創(chuàng)新氛圍就很不錯，值得把握。

編輯：李曉靜