百花齊放般的大模型深刻展示著人工智能技術(shù)的魅力。南都·琶洲π特別策劃琶洲“模術(shù)”秀系列人物專訪，專訪位于廣州海珠琶洲的國(guó)內(nèi)首個(gè)人工智能大模型應(yīng)用示范區(qū)的大模型專家，揭秘大模型背后的技術(shù)原理，走進(jìn)人工智能技術(shù)的最新應(yīng)用場(chǎng)景。

作為上世紀(jì)80年代末華南理工大學(xué)計(jì)算機(jī)系的畢業(yè)生，鄒均一直站在信息科技的最前沿，無(wú)論是區(qū)塊鏈還是人工智能，這些如今讓人耳熟能詳?shù)募夹g(shù)名詞早在學(xué)界內(nèi)部討論的初期就被他關(guān)注到。

他很早就涉獵人工智能發(fā)展過(guò)程中的各種技術(shù)路線，從符號(hào)邏輯到神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)，最后到機(jī)器學(xué)習(xí)和大模型，同時(shí)還編寫了國(guó)內(nèi)第一本區(qū)塊鏈技術(shù)專著。在人工智能領(lǐng)域，他帶領(lǐng)創(chuàng)業(yè)團(tuán)隊(duì)首先提出了大模型中間件（Inter GPT）的概念，并且發(fā)布了國(guó)內(nèi)第一個(gè)人工智能大模型中間件的團(tuán)體標(biāo)準(zhǔn)。

作為技術(shù)老兵和人工智能行業(yè)的創(chuàng)業(yè)者，他眼里的人工智能產(chǎn)業(yè)可以分成四層：第一層是算力硬件，主要是英偉達(dá)、華為等硬件科技公司；第二層是基座大模型，主要是中美的頭部科技企業(yè)和一些大模型創(chuàng)業(yè)公司；最上面一層是智能體、垂直領(lǐng)域的大模型應(yīng)用，主要是大模型在各個(gè)行業(yè)層面的應(yīng)用；“其實(shí)還有第三層就是大模型中間件，有了它，千行百業(yè)才能安全合規(guī)地真正把大模型用起來(lái)，而這正是我們的機(jī)會(huì)。”

廣州中科智達(dá)數(shù)字科技有限公司創(chuàng)始人、廣州運(yùn)通鏈達(dá)金服科技有限公司CEO 鄒均

國(guó)內(nèi)率先提出了大模型中間件的概念

大模型的出現(xiàn)讓AI成為一種普惠技術(shù)，人人都可以方便地使用大模型來(lái)實(shí)現(xiàn)問(wèn)答對(duì)話、翻譯、繪圖、寫文案等功能。然而對(duì)企業(yè)來(lái)說(shuō)，要讓企業(yè)真正可以將大模型與企業(yè)業(yè)務(wù)結(jié)合，同時(shí)又不用擔(dān)心數(shù)據(jù)安全和合規(guī)的風(fēng)險(xiǎn)，則需要一個(gè)橋梁。這個(gè)橋梁就是大模型中間件。

首先是大模型缺乏行業(yè)的內(nèi)部數(shù)據(jù)，專業(yè)知識(shí)深度不夠，數(shù)據(jù)更新不及時(shí)，缺乏與真實(shí)世界的連接，這注定了大模型難以克服“數(shù)據(jù)幻覺(jué)”的缺點(diǎn)，在許多專業(yè)領(lǐng)域中用戶能夠很明顯地感受到大模型在一本正經(jīng)地“胡說(shuō)八道”。

企業(yè)解決這個(gè)問(wèn)題需要向大模型提供大量最新的專業(yè)數(shù)據(jù)，但這又會(huì)帶來(lái)安全隱患，特別是涉及商業(yè)機(jī)密的數(shù)據(jù)很難讓企業(yè)放心交給大模型進(jìn)行訓(xùn)練。對(duì)于大企業(yè)來(lái)說(shuō)，采取本地化部署或許是解決這一問(wèn)題的方案，但本地部署需要的算力支持和高昂成本對(duì)于眾多中小微企業(yè)來(lái)說(shuō)顯然并不現(xiàn)實(shí)。

“像數(shù)據(jù)安全管控、合規(guī)控制、智能體開發(fā)工具、運(yùn)維監(jiān)控等功能，既不可能在基座大模型上做，也不可能讓每個(gè)企業(yè)在自己的大模型應(yīng)用端上做，這樣會(huì)導(dǎo)致重復(fù)，最佳的解決方案是設(shè)置中間層，這就是大模型中間件的市場(chǎng)”，鄒均表示。

所謂中間件，就是介于大模型應(yīng)用與大模型底座之間的一套DevOps（開發(fā)運(yùn)維）軟件，是在企業(yè)端用來(lái)管理維護(hù)大模型、開發(fā)智能體的工具。它可以幫助企業(yè)進(jìn)行自身數(shù)據(jù)管理，讓數(shù)據(jù)脫敏后再提供給大模型訓(xùn)練，利用知識(shí)庫(kù)、知識(shí)圖譜等工具抑制大模型幻覺(jué)，還能讓企業(yè)根據(jù)不同場(chǎng)景綜合調(diào)用各類型大模型，統(tǒng)一納管大模型環(huán)境，包括本地部署的私有化大模型，以及線上的SaaS大模型，“概括地說(shuō)，中間件就是一整套的管理工具，讓企業(yè)大幅降低使用大模型的門檻。”

大模型中間件原理解釋圖。

他告訴南都·琶洲π記者，2023年在國(guó)內(nèi)首次提出大模型中間件的概念后，自己帶領(lǐng)團(tuán)隊(duì)迅速做出了產(chǎn)品和落地應(yīng)用案例，但是現(xiàn)在很多頭部企業(yè)也看到了其中的機(jī)會(huì)，目前市場(chǎng)競(jìng)爭(zhēng)已經(jīng)比較激烈，一些國(guó)內(nèi)廠商如浪潮、東方通也推出了類似產(chǎn)品，只是有些不叫這個(gè)名字，但是概念很類似，都是給企業(yè)提用一些開發(fā)工具。不過(guò)他認(rèn)為，相比而言中科智達(dá)旗下的產(chǎn)品更成熟更全面，除了開發(fā)還有運(yùn)維工具，讓企業(yè)能夠更方便跟自己業(yè)務(wù)集成，同時(shí)能夠在兼顧成本和性能的前提下滿足安全合規(guī)的要求。

據(jù)他介紹，中科智達(dá)的大模型中間件已經(jīng)被許多本地企業(yè)使用。廣州一家液壓研究院用它來(lái)構(gòu)建了內(nèi)部液壓行業(yè)大模型，進(jìn)行內(nèi)部培訓(xùn)，改變了以往師傅帶徒弟的傳統(tǒng)培訓(xùn)模式。另外還有本地高校利用中間件作為工具，讓教師能夠利用大模型做教案和閱卷，還有一家電力系統(tǒng)的科技企業(yè)采購(gòu)了中間件進(jìn)行施工安全監(jiān)測(cè)。

在鄒均看來(lái)，中科智達(dá)下一步的市場(chǎng)機(jī)會(huì)在于差異化競(jìng)爭(zhēng)，“我們跟大廠不會(huì)直接pk，他們更擅長(zhǎng)做2C的標(biāo)準(zhǔn)化大規(guī)模的產(chǎn)品，而我們的優(yōu)勢(shì)是做2B，用貼身定制和服務(wù)解決企業(yè)的需求。”

區(qū)塊鏈和人工智能技術(shù)的融合是下一個(gè)機(jī)會(huì)

除了大模型中間件之外，目前中科智達(dá)還推出了一些垂類應(yīng)用的行業(yè)大模型，專門用于安檢識(shí)別的極安大模型XSafeGPT就是其中之一。

他告訴記者，極安大模型是公司跟白云機(jī)場(chǎng)合作的項(xiàng)目，主要用于即將投入使用的第三航站樓，屆時(shí)新航站樓將引入人工智能來(lái)進(jìn)行安檢，改變以往單純依靠人眼識(shí)別的局限，此外中科智達(dá)還有意將極安大模型繼續(xù)推廣到地鐵、快遞、景區(qū)和重大活動(dòng)的安檢場(chǎng)景中。

開發(fā)落地極安大模型的過(guò)程很好地體現(xiàn)了中科智達(dá)跟大廠差異化競(jìng)爭(zhēng)的理念。首先x光安檢的領(lǐng)域避開了傳統(tǒng)安監(jiān)行業(yè)巨頭海康威視和大華技術(shù)，后者更側(cè)重視頻圖像識(shí)別，x光圖像并不是它們的重點(diǎn)。同時(shí)，在訓(xùn)練極安大模型時(shí)，中科智達(dá)直接采用的是阿里開源的視覺(jué)模型，同時(shí)采購(gòu)了x光機(jī)廠家的數(shù)據(jù)進(jìn)行了訓(xùn)練，最后做出了專門用于x光圖像識(shí)別的垂類模型并且獲得了商業(yè)落地的機(jī)會(huì)。

展望未來(lái)，鄒均表示未來(lái)人工智能還有一個(gè)增量機(jī)會(huì)是跟區(qū)塊鏈技術(shù)的融合。他認(rèn)為，未來(lái)對(duì)人工智能技術(shù)的監(jiān)管會(huì)日益重要，但監(jiān)管不能完全靠人，也得靠技術(shù)，而區(qū)塊鏈正好有監(jiān)管和溯源機(jī)制，兩者是互補(bǔ)的，區(qū)塊鏈可以作為監(jiān)管技術(shù)的一部分。

此外，隨著國(guó)內(nèi)數(shù)據(jù)日益成為一種生產(chǎn)要素，對(duì)數(shù)據(jù)的治理和流動(dòng)也需要用區(qū)塊鏈來(lái)保證數(shù)據(jù)的權(quán)益，大模型訓(xùn)練需要用到的數(shù)據(jù)也可以通過(guò)區(qū)塊鏈進(jìn)行合規(guī)授權(quán)。他最后也告訴記者，未來(lái)會(huì)繼續(xù)強(qiáng)化中科智達(dá)的人工智能業(yè)務(wù)，增加在海珠的落地推廣。

談琶洲

琶洲不僅擁有算力基礎(chǔ)設(shè)施，還有大量的垂直應(yīng)用集聚和針對(duì)大模型應(yīng)用示范的強(qiáng)大補(bǔ)貼，這三大特點(diǎn)注定琶洲可以成為國(guó)內(nèi)大模型應(yīng)用示范的高地。

南都廣州新聞部出品

采寫：南都N視頻記者 魏凱

圖片：受訪者供圖