把大模型“裝”進小盒子，云天勵飛在想什么？

作者 ｜周一笑郵箱 ｜zhouyixiao@pingwest.com3 月 28 日，云天勵飛舉辦 AI 大模型產(chǎn)品發(fā)布會，發(fā)布“深目”AI 模盒，同時宣布自研大模型“云天天書-2.0-68B”版本免費向合作伙伴開放。云天勵飛董事長兼 CEO 陳寧在發(fā)布會提到：“未來 3 年，全球 80% 的企業(yè)都將使用大模型。大模型一次訓(xùn)練成本在千萬級，主流的訓(xùn)推一體機價格普遍在百萬元，絕大多數(shù)企業(yè)都無法承擔這樣高昂的成本?！?云天勵飛此次發(fā)布的 “深目”AI 模盒，屬于邊緣計算設(shè)備，側(cè)重在推理端，搭載了云天勵飛的自研大模型邊緣訓(xùn)推芯片 DeepEdge10 Max，以及自研多模態(tài)大模型“云天天書”，具備算法邊緣側(cè)在線學(xué)習(xí)能力。這種邊緣端標準化硬件，再加上大模型，除了能通過邊緣端部署，解決數(shù)據(jù)隱私問題，還可以實現(xiàn)對多種長尾場景的覆蓋。其搭載的 DeepEdge10 芯片可以針對不同的場景提供差異化算力，并且可以在線下載更新多種算法。在云天勵飛為客戶提供的算法訓(xùn)練平臺上，有大量與生態(tài)合作伙伴共同打造的算法商城，用戶可以直接調(diào)用預(yù)訓(xùn)練算法，并上傳自身場景圖片完成算法的微調(diào)和升級，快速訓(xùn)練出高精度算法。針對無訓(xùn)練數(shù)據(jù)的極端場景，例如加油站場景的吸煙識別，云天勵飛還使用了 AI 合成數(shù)據(jù)來訓(xùn)練算法，并在這一過程中引入了 3D 引擎，從而填補數(shù)據(jù)空白。“推理芯片沒有壟斷性巨頭”AI 芯片可以分為訓(xùn)練芯片和推理芯片。訓(xùn)練芯片多用于服務(wù)器，推理芯片則主要部署在邊端設(shè)備之上。當大模型訓(xùn)練完成，開始進入到了實際應(yīng)用之后，對于 AI 推理的需求將會更多。云天立飛的 AI 芯片就定位在推理的應(yīng)用。DeepEdge10 系列是云天勵飛去年推出的大模型推理芯片，該芯片采用自主可控的國產(chǎn)工藝，內(nèi)含國產(chǎn) RISC-V 核，支持大模型訓(xùn)練推理部署。依托自研芯片 DeepEdge10 Max創(chuàng)新的 D2D chiplet 架構(gòu)打造的 X5000 推理卡，已適配并可承載 10 億級 SAM、百億級 Llama2 等大模型運算，可應(yīng)用于 AIoT 邊緣視頻、移動機器人等場景。談及推理芯片，陳寧表示，如果訓(xùn)練芯片是英偉達一騎絕塵，占有絕對的市場占有率，那么推理芯片今天沒有壟斷性的巨頭，今年大火的 Groq 也是 AI 推理芯片?！霸铺焯鞎笔窃铺靹铒w自研的多模態(tài)大模型，由 CV 大模型、NLP 大模型和多模態(tài)大模型組成。云天勵志在通用基礎(chǔ)大模型的基礎(chǔ)上，訓(xùn)練出行業(yè)大模型，包括智慧城市、智慧安防、智慧交通、智慧商超等等，最后再針對落地細分的場景，將數(shù)據(jù)集進行微調(diào)，從而實現(xiàn)落地。深圳 CV 獨角獸，“算法芯片化”為核心競爭力云天勵飛成立于 2014 年，是一家以計算機視覺（CV）應(yīng)用起家的公司，2022 年 4 月 4 日，作為“深圳 AI 第一股”在科創(chuàng)板上市，主營業(yè)務(wù)為視覺 AI 軟硬件產(chǎn)品及解決方案。解決方案中又以面向公共安防及交通治理領(lǐng)域為主。公司為客戶提供算法軟件、芯片等自研產(chǎn)品，并按照客戶需求，將自己的產(chǎn)品，外購的硬件產(chǎn)品、安裝施工服務(wù)等打包交付。2023 財年，云天勵飛營業(yè)收入 5.35 億元，同比下降 2.14%；歸母凈利潤虧損 3.9 億元，比上年同期的 -4.47 億元有所收窄。值得一提的是云天勵飛具備算法芯片化能力，同時自研的 AI 芯片也已實現(xiàn)商用。公司的 AI 芯片在 2018 年成功流片，2019 年開始逐步對外銷售，客戶包括?？低暋⒗锇桶推筋^哥、富瀚微電子等。并購智能穿戴公司，G、B、C 全都要？“深目”AI 模盒的發(fā)布是云天勵飛從 AI 方案化到 AI 產(chǎn)品化的一次嘗試，通過 AI 技術(shù)或解決方案轉(zhuǎn)化為標準化、通用化的產(chǎn)品或服務(wù)，從而滿足更廣泛的市場需求。在大模型方向上，作為一家在機器視覺賽道方向積淀已久的的 AI 企業(yè)，云天勵飛并沒有直接發(fā)布面向 C 端用戶的 LLM 產(chǎn)品。畢竟大模型需要長期巨量燒錢，且商業(yè)化尚處于早期階段。而是選擇通過“深目”AI 模盒這樣的邊緣計算盒子，將大模型與自身 AI 產(chǎn)品落地相結(jié)合，尋求在 G 端和 B 端場景實現(xiàn)標準化和規(guī)?；Ｔ?To C 方向上，云天勵飛也有所布局。近期，云天勵飛發(fā)布公告稱擬以不超過人民幣 1.8 億元的對價收購智能穿戴方案設(shè)計公司岍丞技術(shù)。岍丞技術(shù)主要從事智能穿戴產(chǎn)品的軟硬件開發(fā)與技術(shù)服務(wù)，屬于智能耳機、智能手表等智能穿戴設(shè)備的 IDH（系 Independent Design House 的縮寫，直譯為“獨立設(shè)計公司”）方案商。收購岍丞技術(shù)后，云天勵飛擬開展智能穿戴產(chǎn)品的軟硬件開發(fā)與技術(shù)服務(wù)業(yè)務(wù)，探索"大模型 + 智能可穿戴"深度融合。云天勵飛董事長兼 CEO 陳寧曾表示，“過去 10 年，AI 行業(yè)基本走完了 To G 的基礎(chǔ)設(shè)施建設(shè)的歷程，在向 To B 的企業(yè)級服務(wù)轉(zhuǎn)變；預(yù)計 3 年左右的時間，人工智能的行業(yè)會走向 ToC 的服務(wù)，尤其是隨著 ChatGPT 和多模態(tài)大模型的逐步成熟，行業(yè)最終會走向 To C 的服務(wù)。” 這似乎也表明了云天勵飛未來的探索方向。另外值得注意的是，同為視覺 AI 起家的商湯科技也在今年發(fā)布了面向 C 端消費者的 AI 臺燈產(chǎn)品。大模型技術(shù)加持下的 AI 行業(yè)競爭愈演愈烈，考驗著每一位參與者的底層技術(shù)能力、資金實力和戰(zhàn)略定力。并非所有玩家都能實現(xiàn)大而全的全面領(lǐng)先，聚焦自身的差異化優(yōu)勢，實現(xiàn)市場的精準定位和有效突圍，或許才是破局之道。