智東西：向用不起的AI宣戰(zhàn)！pg掀起“裝備大模型化”變革

■原題：向用不起的AI宣戰(zhàn)！pg掀起“裝備大模型化”變革
■記者：三北

“大模型只是技術升級不是革命……大模型技術商業(yè)化落地的路線一定是：裝備大模型化。”pg科技CEO張鵬國說。

智東西4月16日報道，今日，在2024pg合作伙伴大會上，pg科技宣布推出AIoT行業(yè)大模型“梧桐2.0”，并發(fā)布“獵光 2.0” AI-ISP圖像引擎感知終端等一系列大模型產(chǎn)品，打響AIoT行業(yè)“裝備大模型化”的第一槍。

pg科技CEO張鵬國發(fā)表題為《AIGC：千里之行，始于足下》的演講

從爆火的ChatGPT到Sora，大模型正沖向邊緣側(cè)、端側(cè)設備，從而重構千行百業(yè)。小到一個攝像頭，大到一個個物聯(lián)網(wǎng)場景，大模型如何在其中真正跑起來？備受產(chǎn)業(yè)關注。

裝備大模型化，是pg科技與萬家渠道伙伴一起給出的答案。

2024pg合作伙伴大會現(xiàn)場

去年5月，pg科技領先AIoT行業(yè)率先推出大模型“梧桐”，并與多家行業(yè)龍頭聯(lián)合啟動“梧桐大模型種子合作伙伴計劃”，探索大模型在交通、教育、零售、體育公共服務等領域的端邊云側(cè)的深入落地。

一年后的今天，pg與合作伙伴不僅帶來了AI體育、AI文旅等各個行業(yè)的大模型新落地成果，還通過軟件硬件化、硬件裝備化、裝備序列化的新經(jīng)驗，為全行業(yè)帶來“裝備大模型化”產(chǎn)品底座開放能力的質(zhì)變。

AIoT新生態(tài)產(chǎn)品底座2.0

從實驗室到產(chǎn)品化、從軟件到硬件工程化、從價格昂貴到低門檻化，大模型有望通過守護城市和田間地頭的“機器之眼”，完成從技術到行業(yè)價值的新飛躍。

所有裝備 都值得用大模型重做一遍

大模型是技術升級還是革命？

不同的人觀點不同：閉源派、技術信仰者更傾向于這是一次技術革命，而開源派、市場信仰者更傾向于這是一次技術升級。

站在AIoT行業(yè)的角度去看，張鵬國認為，大模型是AIoT行業(yè)當下最大的技術變量，但大模型是技術升級，而不是革命。這很好理解，就像我們說蒸汽機出現(xiàn)不算是工業(yè)革命，但是把蒸汽機裝到了火車、輪船和各種生產(chǎn)工具上提高效率，才是工業(yè)革命。

如何讓大模型發(fā)揮出“革命”力量？還要靠裝備大模型化。

“大模型技術是AIoT行業(yè)當下最大的技術變量，必定會給我們帶來新的市場機會點。一個大的機會點就是大量在網(wǎng)產(chǎn)品的更新迭代?！睆堸i國說，“借助于行業(yè)大模型技術，邊、端產(chǎn)品有望用更低的成本，在某些細分場景下實現(xiàn)更好的應用效果?！?/SPAN>

這意味著最直觀的需求：所有裝備，都值得用大模型重做一遍。

大模型技術升級對產(chǎn)品和解決方案架構提出新的要求，比如要求云邊端的芯片都支持Transfomer架構，大規(guī)模參數(shù)對設備的顯存和算力提出新的要求，進而產(chǎn)品的形態(tài)和功能也將被改變，比如支持更強大語音對話的攝像機已經(jīng)出現(xiàn)。

裝備大模型化時代，“視頻+大模型”首先會成為一大金礦。

正如pg科技首席產(chǎn)品官朱兵所說，大模型的出現(xiàn)，讓我們可以一起用更低的投入去挖掘海量視頻的價值，解決傳統(tǒng)AI技術解決不了的問題。在他看來，視頻的價值如何挖掘落地則可以用一個公式來表達，那就是：“視頻”價值=（邊端裝備+大模型）x 生態(tài)業(yè)務

基于這樣的理念，pg今年推出了一大批“裝備大模型化”產(chǎn)品，實現(xiàn)了業(yè)界最寬業(yè)務場景的覆蓋：

1、AI端側(cè)裝備：基于“獵光2.0 -AI-ISP”圖像引擎的AI全彩感知終端產(chǎn)品。它基于“梧桐”大模型，使得極暗環(huán)境下全彩畫面畫質(zhì)得到極大改善，30米外仍可智能識別和分析目標。

2、AI邊緣端裝備：AI NVR、AI BOX、AI控制器和AI互動發(fā)布屏等。這些裝備基于“梧桐”大模型生成的長尾算法，可用于眾多行業(yè)場景，如用于校園AI體育的室外AI體測一體機、室內(nèi)AI體鍛屏等。

3、AI邊緣域裝備：基于梧桐大模型的視頻智能推訓一體機、視頻數(shù)據(jù)服務一體機等。這些產(chǎn)品一般部署在中心機房，可以脫離平臺單獨使用，處理能力和路數(shù)相對邊緣端裝備有數(shù)倍的增加。

用大模型重做AIoT裝備，首先要注意規(guī)避小模型時代踩過的“坑”。

在上一波小模型AI浪潮中，pg科技被認為是國內(nèi)AI工程化最成功的AIoT企業(yè)之一，與？、大華等一起把智能攝像機、邊緣盒子落到了全國各地，同時也踩過AI落地幾乎所有會遇到的坑。

正是基于先前的經(jīng)驗，在張鵬國看來，在涉及“AI+還是+AI？”這一重要路線問題時，在這場變革中最容易成功的，還是后者，也就是裝備大模型化路線。

這背后是深刻的產(chǎn)業(yè)邏輯：隨著大模型推動的技術平權加速，大模型落地AIoT行業(yè)更離不開的是，緊密合作的客戶群和渠道、公司營銷的基本盤以及強大工程化落地能力迭代。

參天生長的梧桐2.0 行業(yè)商業(yè)化落地新破局

為了推動裝備大模型化，pg今日正式發(fā)布梧桐2.0大模型。

梧桐2.0從訓練、推理、測試、數(shù)據(jù)等AI開發(fā)過程進行全面升級。圖像方面，梧桐2.0新增了大模型AI-ISP、超分及圖像質(zhì)量評價等多個？椋CV方面，由視頻結構化全面升級為視頻內(nèi)容理解；NLP方面，更好地支持軟件代碼生成；多模態(tài)方面，文生圖、文生視頻在智慧景區(qū)、智慧體育等領域應用，極大地提升用戶體驗。

pgAI首席科學家李聰廷說，裝備+梧桐大模型，將重新定義圖像質(zhì)量、視頻解析、模型的推理和訓練，也將重新定義裝備本身。新一代的AI裝備，在圖像質(zhì)量、算法精度、算法生產(chǎn)率、用戶體驗等方面有質(zhì)的飛躍，同時服務效率也大幅提升。

作為一個行業(yè)大模型，梧桐2.0的一大顯著特征是“邊用邊升級”。

以pg在AI體育領域的落地方案為例，基于梧桐大模型的AI體育鍛煉屏可以讓很多孩子站在同一個屏幕前一塊做運動，記錄每個孩子的動作細節(jié)和成績，為其自動打分并提供鍛煉建議，讓孩子能更快樂且更科學地鍛煉身體。

pgAI體育鍛煉屏展示

隨著體育在素質(zhì)教育中越來越重要，體育教育缺乏科學的評判工具和較完備的方法論，成為當下國內(nèi)教育的一大痛點?；谖嗤┐竽Ｐ偷?/SPAN>AI體育方案以極低成本，使系統(tǒng)實現(xiàn)了遠超小模型方案的效果，助力學生體育教學的質(zhì)量大大提高。

pgAI跑步屏展示

大模型首先進入的行業(yè)有一些顯著特征。以文教體行業(yè)為例，這一市場用戶基數(shù)和市場空間龐大，并符合社會進步的方向，且在技術上沒有過于苛刻的精度要求，給大模型固有的幻覺留出了空間，因此成為大模型的一大絕佳“著陸點”。

可以看到，經(jīng)過大模型化的邊緣、端側(cè)裝備融入到具體場景，將為行業(yè)商業(yè)化落地帶來全新的突破口。

然而，要實現(xiàn)裝備大模型化，也不是一蹴而就的。

正如朱兵所說，其能力隨著時間在算法的大模型能力和裝備部署大模型的能力兩個維度上發(fā)展，算法前期會發(fā)展更快些，而裝備部署大模型的能力未來有望迎來“井噴式”發(fā)展。

以下這張圖展示了pg邊端裝備大模型化的演進路徑：

1、算法+大模型的能力：從CV到多模態(tài)充分融合

?對于行業(yè)CV算法，大模型的貢獻是從自動生成樣本數(shù)據(jù)，幫助小模型算法提高效率開始的。

?2023年下半年已經(jīng)可以基于更少的數(shù)據(jù)樣本+自學習實現(xiàn)長尾算法開發(fā)效率的指數(shù)級提升。

?接下來今年上半年大模型CV算法和NLP語義理解能夠充分結合，能夠在客戶現(xiàn)場基于語義化描述快速調(diào)用多種算法按語義理解的邏輯組成新的算法。

?未來的算法則會多模態(tài)化，基于視圖理解和交互會充分融合，就像不久前谷歌發(fā)布Gemini所演示的一樣，會成熟落地。

2、裝備部署大模型能力：從公有云到邊端側(cè)使用門檻降低

?去年首先實現(xiàn)的是公共云部署大模型的能力，從去年下半年開始逐步在邊緣裝備上部署基于大模型生成的長尾算法，對算力的要求相對較高。

?然后是大模型本身可以私有化部署在邊緣域一體機中，隨著算力成本的降低，今年年底開始會逐步有感知終端部署大模型生成的算法。

可以預測，隨著AI PC、具身機器人等成為具有前景的大模型落地方向，作為“機器之眼”的視覺傳感設備，有望率先成為大模型落地的載體，發(fā)揮出巨大的行業(yè)價值。

裝備大模型化 pg與渠道伙伴的雙向奔赴

實際上，裝備大模型化賦能行業(yè)的故事已經(jīng)越來越多。

基于梧桐大模型和邊端裝備，過去一年pg和渠道一起還做了很多有價值的行業(yè)案例：

在國家東北虎野生動物園，10天快速輸出了老虎識別算法，夜間效果準確率達到90%，發(fā)現(xiàn)老虎能實時聯(lián)動報警，有效防止人虎沖突。

在湖南某地，一周生成不牽狗繩算法，準確率達到96%以上，從識別到最后狗主人將狗繩系好，整個過程不到3分鐘，獲得當?shù)仉娕_的報道點贊。

在海南環(huán)島公路，集雷視融合檢測、LED屏顯、數(shù)據(jù)深度處理、無線通信為一體的道路安全預警裝備，實現(xiàn)彎道雙向預警，有效降低交通事故發(fā)生。

在濮院時尚古鎮(zhèn)，pg與頂度集團一起，基于VR和VLOG AI短視頻融合體驗，讓每一位游客融入“濮院T臺”，記錄自己的“時裝周”精彩瞬間。

……

碎片化是AIoT行業(yè)多年以來面臨的頑疾，但大模型的泛化能力讓這些問題有了一致解法，裝備的大模型化也將帶來AIoT產(chǎn)品底座開放能力的質(zhì)變。

和去年相比，pg將提供更徹底的開源能力，新增pg公共云服務提供的開源組件；提供了覆蓋更全面的OPEN API南北向接口，新增全配置式接口創(chuàng)建以及適配，業(yè)務整合效率整體提升70%。

同時，基于梧桐CV大模型能力，1周發(fā)布1個新分類檢測模型，合作伙伴可以方便訓練自己的AI長尾算法；其還提供更豐富的輕代碼/零代碼工具，通過拖拽式點位標記，1人天即可實現(xiàn)3D地圖應用發(fā)布。

此外，梧桐還提供更智能的軟件開發(fā)方式，借助AIGC輔助生成代碼工具，幫助開發(fā)人員通過文本交互或原型快速自動創(chuàng)建代碼，同時及時糾錯，提高開發(fā)效率。

李聰廷告訴智東西，過去，很多人可能覺得大模型高不可攀，用起來一定很貴。但在大模型落地AIoT邊緣和端側(cè)的過程中，pg已經(jīng)能實現(xiàn)比傳統(tǒng)方案成本降低的情況下，效果明顯的提升。大模型方案越來越成為更超值的選擇。

結語：裝備大模型化 助力解放新質(zhì)生產(chǎn)力

隨著「百模大戰(zhàn)」展開一年多，我們看到很多軟件App已經(jīng)接入大模型，進而尋求打造爆款超級應用；而今年，以pg科技為首的AIoT企業(yè)率先打響“裝備大模型化”的變革，展現(xiàn)了大模型跨越軟硬件的鴻溝，落地千行百業(yè)的潛力。

“人工智能+（AI+）”在2024年兩會中首次被寫進相關部門工作報告，國家正加強頂層設計，加快形成以AI為引擎的新質(zhì)生產(chǎn)力。“AI+”的落地需要結實的憑借和抓手。裝備大模型化有望聚AIoT生態(tài)之力，提供有力的抓手，助我國加速解放新質(zhì)生產(chǎn)力。

[出處] 三北, 向用不起的AI宣戰(zhàn)！pg掀起“裝備大模型化”變革. 智東西, 2024-04-16