大模型應用門檻降至千元，小企業也能上車？雲天勵飛陳甯：AI必須走向産品化

本文來源：時代财經 作者：謝斯臨

AI模盒“深目”，圖檔來源：雲天勵飛提供

伴随着大模型之戰轉入商業化落地應用的下半場，如何實作更低成本的進行部署成為市場關注的焦點。深圳AI上市企業雲天勵飛（688343.SH）開始在這個方向做出嘗試和探索，希望通過推出低配版的AI盒子，打響大模型“平民化”的第一槍。

3月28日，雲天勵飛舉辦AI大模型産品釋出會，正式釋出“深目”AI模盒。據介紹，該産品售價在千元級，用單手就能托起，搭載了雲天勵飛自研的DeepEdge10 Max晶片以及多模态大模型“雲天天書”，單盒子具備48 TOPS峰值算力。

雲天勵飛試圖通過這一産品解決大模型在場景落地最後一公裡的問題，幫助更多中小企業客戶在端側部署大模型。

對于雲天勵飛而言，這也是加速商業化之舉。據雲天勵飛3月28日釋出的業績快報，2023年實作營業收入5.35億元，同比下降2.14%；歸母淨虧損3.9億元，較2022年4.47億元的虧損有所收窄。

對于盈利預期，雲天勵飛董秘鄧浩然在會後的媒體交流環節解釋稱，去年公司曾披露限制性股票激勵計劃，為管理層設定了2024年、2025年實作對2022年60%及90%業績增長的目标，公司對于完成這一要求有比較大的信心。

“我相信，随着我們營運業務的加強，以及标準化AI産品的推進，整體盈利時間指日可待。”鄧浩然表示。

推理應用才是目的

相比燧原科技雲燧i20及寒武紀MLU370-X4等其他廠商旗下推理卡256 TOPS算力，“深目”AI模盒48 TOPS的峰值算力有着較大差距。但算力上的壓縮顯著降低了成本，雲天勵飛認為這是一大優勢。

在釋出會上，雲天勵飛董事長、CEO陳甯分析指出，從ChatGPT到Sora，從文生文、文生圖像到文生視訊，大模型的能力在不斷進化，引發新一輪的AI變革。在此基礎上，陳甯預判，未來3年内，全球80%的企業都将使用大模型。

但問題是，目前大模型一次訓練成本在千萬級，主流的訓推一體機價格也普遍在百萬元上下，絕大多數企業根本無法承擔這樣高昂的成本。

是以，隻有降低成本，才能讓大模型“平民化”，成為人人都可用的産品——這正是雲天勵飛打造“深目”AI模盒這類邊緣端承載的小模型産品的原因。

在接受時代财經等媒體采訪時，陳甯坦言，市場對于大模型訓練的關注程度更高，GPU一卡難求，國内也掀起了算力建設的熱潮。但在此之外，市場對于大模型推理部署的關注程度偏低。

目前，AI晶片可分為兩大類：訓練晶片和推理晶片。前者更高端，以英偉達A100、H100，以及華為昇騰的910B晶片為代表，用于建構神經網絡算力模型，更為注重絕對的計算能力。而後者，主要是利用訓練好的神經網絡模型進行推理預測，更強調實用，對算力的要求相對低一些，更關注低延時、低功耗。

在陳甯看來，大模型算法的訓練不是目的，千行百業的推理應用才是最終目的。是以，随着大模型逐漸開始廣泛落地應用，推理晶片将會越來越重要。

“未來，無論是機器人、無人機、無人車、還是各類智能裝置如AIPC、AI手機等，都需要一顆或幾顆具備神經網絡處理器的推理晶片，并可能是以誕生一個萬億顆晶片的巨大藍海市場。”陳甯說。

更重要的是，在這個市場上，還沒有誕生英偉達這樣的壟斷性的巨頭。

“中國擁有豐富的應用場景，推理晶片要落到行業裡解決各個場景的問題，這是很大的機會。”陳甯表示。

AI必須走向産品化

去年，雲天勵飛已經釋出了國内首創14nm大模型推理晶片DeepEdge10 MAX，該晶片内含國産RISC-V核，足以支援大模型推理部署。

而為了把複雜的技術通過簡單的産品提供給使用者，降低使用者的學習成本，快速訓練出自己需要的算法，雲天勵飛在上述晶片的基礎上，結合自研的多模态大模型“雲天天書”進行封裝，并做出大量優化調整，最終打造出AI模盒“深目”。

與此同時，雲天勵飛還以天書大模型為底座，與生态合作夥伴完成預訓練場景算法，再将預訓練算法以算法商城的形式提供給中小企業使用者，讓它們根據自身場景需求，在邊緣端完成算法微調。

此外，由于大模型具備泛化和學習的能力，客戶部署算法後，大模型還能夠不斷根據現實應用場景情況，線上學習、優化算法，不斷提升算法精度。

據雲天勵飛副總裁羅憶透露，“深目”可實作算法場景覆寫超過90%、算法精度超過90%，使用成本降低90%。

這背後，是雲天勵飛試圖通過打造更為标準化的産品，讓AI逐漸走入産品化的階段。

在陳甯看來，AI商業化發展有三個階段：AI方案化、AI營運化、AI産品化。在AI商業化的初期，AI企業主要通過項目制滿足不同垂直領域客戶需求，以定制化的方案解決問題，其弊端在于普遍投入産出比不高，難以實作大規模盈利。

但AI企業必須在打磨行業标杆項目的過程中，不斷積累行業認知和資料，增強AI技術實力，并形成具備越來越強的泛化能力AI平台，企業也得以開啟AI營運業務。“最終，所有的技術都需要通過實體實體賦能，是以AI必須走向産品化。”陳甯分析到。

為此，雲天勵飛已經開始做出諸多嘗試。

除“深目”外，去年雲天勵飛還曾與華為昇騰聯合推出更為高端的天舟大模型訓推一體機，并通過投資、收購的方式，進軍智能穿戴和機器人等硬體領域，啟動了相關技術産品市場探索。

雲天勵飛副總裁鄭文先透露，未來，公司将從AI方案為主，逐漸過渡到AI方案、AI營運和AI産品三駕馬車并駕齊驅的階段，遠期目标是實作4:3:3的營收構成。後兩者将會成為主要的收入模式和來源，未來占到收入的60%。