文|白 鴿
編|王一粟
19.9元的數(shù)字人、29.9元的云數(shù)據(jù)庫、195元10卡時包的MaaS大模型服務(wù)……
堪稱企業(yè)級“雙十一”的華為云828營銷季,帶著一眾AI應(yīng)用產(chǎn)品和云服務(wù),殺瘋了。
云計算疊加大模型的價格戰(zhàn),也正式進入了深水區(qū),開啟中小企業(yè)的爭奪戰(zhàn)。
作為中國市場經(jīng)濟的毛細血管,近年來中小企業(yè)通過上云加速自身數(shù)智化轉(zhuǎn)型升級,已經(jīng)成為行業(yè)發(fā)展共識。
對于絕大多數(shù)企業(yè)來說,擁抱數(shù)智化變革,已經(jīng)成為“生存之戰(zhàn)”。尤其在人工智能等新技術(shù)席卷全球的浪潮下,企業(yè)如果不能跟上時代的浪潮,勢必會被市場逐步淘汰。
2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式上,華為董事、質(zhì)量流程IT總裁陶景文表示,數(shù)智新時代,AI將重塑千行萬業(yè)。AI既是工具的革命,也是革命的工具,企業(yè)應(yīng)對準(zhǔn)主業(yè)成功目標(biāo),選擇落地應(yīng)用場景,用好AI工具,實現(xiàn)全面智能升級。
華為董事、質(zhì)量流程IT總裁陶景文
但在AI大模型時代,想要訓(xùn)練一個自己的大模型產(chǎn)品,于中小企業(yè)而言也意味著高額的成本支出,“用不起”、“不敢用”則成為普遍現(xiàn)狀。
針對這一現(xiàn)狀,目前各大云廠商都在開展促銷服務(wù),更是掀起一輪輪價格戰(zhàn)。但上云是持續(xù)的過程,最終影響用戶持續(xù)購買的,還得是靠產(chǎn)品性能和服務(wù)。
中小企業(yè),低成本擁有自己的大模型
在以大模型為基礎(chǔ)技術(shù)的新AI時代,一個好的大模型,可以讓企業(yè)的數(shù)智化轉(zhuǎn)型事半功倍。
當(dāng)前,使用大模型主要有兩種方式:
- 一種是,調(diào)用成熟大模型API接口,直接使用大模型能力;
- 一種是,私有化部署或單獨自己訓(xùn)練一個大模型;
前者的缺點是可定制化能力差,不能很好的滿足企業(yè)的個性化需求;后者可定制化程度高,但大模型的開發(fā)不僅需要強大的算力,還需學(xué)習(xí)訓(xùn)練、部署的相關(guān)參數(shù)配置和規(guī)格選擇等專業(yè)知識,對技術(shù)和研發(fā)能力要求極高,且投入成本于中小企業(yè)而言也難以負(fù)擔(dān)。
要把算力直接部署在企業(yè)端,本身是件門檻極其高的事情,曾有云代理廠商告訴光錐智能,“預(yù)算要千萬級起步,其次還要配備技術(shù)研發(fā)團隊”。這就導(dǎo)致,從計算平臺到客戶之間便產(chǎn)生了一道鴻溝。
誰來填補這道鴻溝?
以華為云為代表的云廠商構(gòu)建ModelArts Studio大模型即服務(wù)平臺(后續(xù)簡稱MaaS),其能夠提供簡單易用的模型開發(fā)工具,支持大模型定制開發(fā),能夠讓模型應(yīng)用與業(yè)務(wù)系統(tǒng)無縫銜接,顯著降低了企業(yè)AI落地的成本和難度。
“云廠商們推出MaaS服務(wù)與AI基礎(chǔ)設(shè)施建設(shè),能夠讓我們開箱即用,降低模型訓(xùn)練推理的復(fù)雜性,提升開發(fā)便捷性,并降低相關(guān)成本?!笨拼笥嶏w研究院常務(wù)副院長高建清對光錐智能說道。
華為云MaaS大模型即服務(wù)平臺以昇騰AI芯片為核心,打造了一套針對大模型訓(xùn)練與推理的全方位優(yōu)化解決方案,基于該解決方案大模型適配昇騰時間大大縮短,由“周”降低到“天”,使得開發(fā)者在平臺可快速選擇適合自己業(yè)務(wù)的30+適配昇騰云的主流大模型。
華為云MaaS平臺模型廣場首頁
選擇對應(yīng)的大模型之后,需要進行模型的訓(xùn)練和優(yōu)化,此時訓(xùn)練效率和大模型的一站式部署,成為了關(guān)鍵。
華為云MaaS大模型即服務(wù)平臺已經(jīng)沉淀了大量結(jié)合適配昇騰AI芯片,微調(diào)推理調(diào)參的經(jīng)驗案例。這使得,中小企業(yè)在華為云MaaS大模型即服務(wù)平臺上,無需過多專業(yè)知識即可進行結(jié)合默認(rèn)預(yù)置的最佳參數(shù),進行模型微調(diào),使大模型的整體訓(xùn)練時間能夠大幅度縮短。
針對部署調(diào)用環(huán)節(jié),以往部署模型和調(diào)用,需線下安裝機器配置運維復(fù)雜度高,效果評測本地查看日志,耗時耗力。ModelArts Studio提供大模型平臺化能力,一鍵部署,一鍵調(diào)用,支持快速查看調(diào)用指標(biāo)、日志詳情,免去各繁瑣環(huán)節(jié)。
基于便捷的大模型API能力,開發(fā)者不僅可以對接到個人或企業(yè)的業(yè)務(wù)系統(tǒng),華為云MaaS大模型即服務(wù)平臺還聯(lián)手企業(yè)搜索產(chǎn)品KooSearch,為中小企業(yè)實現(xiàn)了開箱即用RAG解決方案,能夠幫助中小企業(yè)快速的一站式構(gòu)建智能問答服務(wù),或者聯(lián)合數(shù)字人大腦,快速創(chuàng)建智能對話應(yīng)用等。
價格與成本,永遠是中小企業(yè)最敏感的一個板塊。
此前企業(yè)想要使用大模型,必須先買云資源的服務(wù)包,整機價格也相當(dāng)昂貴。而華為云可以在模型驗證階段,先使用再買卡,用戶可以選擇各種規(guī)格小卡,成本低,效率高。
同時,華為云還提供按需套餐包,針對使用MaaS平臺的客戶,可以在原卡資源規(guī)格的基礎(chǔ)上,分10小時、100小時、500小時進行套餐包折扣購買,疊加其他優(yōu)惠,大大降低了中小企業(yè)使用大模型的成本。
可以看到,華為云不僅把大模型應(yīng)用的成本給打下來了,更重要的是把大模型的使用門檻和技術(shù)門檻都打下來了,這樣才能真正讓中小企業(yè)“用得起”、“用得上”大模型。
大模型和業(yè)務(wù)的深度結(jié)合,RAG是最佳連接器
業(yè)內(nèi)皆知,大模型的發(fā)展,離不開高質(zhì)量的數(shù)據(jù)“喂養(yǎng)”。
通俗的比喻來說,大模型可以看作是火車頭,而企業(yè)數(shù)據(jù)則是火車的燃料,沒有燃料火車也無法真正的運轉(zhuǎn)起來。
現(xiàn)階段,隨著企業(yè)數(shù)智化轉(zhuǎn)型進入深水區(qū),數(shù)據(jù)呈井噴式增長,都知道數(shù)據(jù)是未來的“金礦”,但“金礦”如何開采是一大難題。
而只有將企業(yè)內(nèi)部和外部的數(shù)據(jù)轉(zhuǎn)化為有價值的知識,數(shù)據(jù)的“金礦”才能真正有價值。
此時,就需要一個能夠?qū)?shù)據(jù)高效“投喂”給大模型的工具,RAG(檢索增強生成)無疑是最合適承擔(dān)這一角色的技術(shù)。
RAG是一種結(jié)合檢索和生成技術(shù)的模型,通過引用外部知識庫的信息生成答案或內(nèi)容,具有較強的可解釋性和定制能力,適用于問答系統(tǒng)、文檔生成、智能助手等多個自然語言處理任務(wù)中。
RAG模型的優(yōu)勢在于通用性強、可實現(xiàn)即時的知識更新,以及通過端到端評估方法提供更高效和精準(zhǔn)的信息服務(wù)。
那么,RAG究竟是如何牽引大模型和企業(yè)數(shù)據(jù)之間的聯(lián)動,讓大模型更適配業(yè)務(wù)發(fā)展呢?
以華為云Flexus企業(yè)搜索服務(wù)為例,這是基于華為云的云搜索服務(wù)搭建的一站式智能搜索解決方案,能夠滿足企業(yè)基于業(yè)務(wù)場景做二次開發(fā)。
華為云Flexus企業(yè)搜索產(chǎn)品架構(gòu)
企業(yè)的數(shù)據(jù)往往形式并不單一,有結(jié)構(gòu)化的數(shù)據(jù),也有非結(jié)構(gòu)化的數(shù)據(jù)。
華為云Flexus企業(yè)搜索基于搜索大模型、云搜索服務(wù)的高性能GaussDB向量數(shù)據(jù)庫以及LLM大模型,三者共同組成了RAG解決方案,能夠?qū)敕墙Y(jié)構(gòu)化或者結(jié)構(gòu)化業(yè)務(wù)數(shù)據(jù),對企業(yè)文檔內(nèi)容進行智能解析,并通過OCR增強功能準(zhǔn)確識別圖片/表格等各式版面布局,保證各種形式的企業(yè)數(shù)據(jù)都能夠利用起來。
其中,華為云GaussDB向量數(shù)據(jù)庫內(nèi)置ANN算法,在當(dāng)前業(yè)界最權(quán)威的ANN-Benchmarks測試中榮獲第一。ANN算法QSG-NGT在6個數(shù)據(jù)集中的5個獲得了最優(yōu)性能,在部分?jǐn)?shù)據(jù)集高精度區(qū)間相比第二名有50%-100%的QPS提升。
而在大模型大規(guī)模應(yīng)用落地過程中,向量數(shù)據(jù)庫解決了大模型知識更新速度慢、數(shù)據(jù)隱私不可控和沒有“長期記憶”等問題,突破了大模型在時間和空間上的限制,既是企業(yè)數(shù)據(jù)和大模型之間的“連接器”,也是大模型走向行業(yè)深度應(yīng)用的“助推器”。
通過搜索增強大模型,生成的問答結(jié)果更可靠、安全,這對企業(yè)級用戶來說是邁過了“真正能用”的關(guān)鍵及格線,解決了大模型“內(nèi)行一用就覺得外行”的問題。
好處這么多,那么,RAG解決方案到底具體能用來做什么呢?
- 對內(nèi),RAG方案能夠?qū)⑵髽I(yè)積累的數(shù)據(jù)匯聚在一起,組建企業(yè)自己的知識庫體系,同時還能夠基于企業(yè)知識庫幫助企業(yè)打造更懂企業(yè)的數(shù)字員工。
- 對外,RAG方案則能夠整合企業(yè)數(shù)據(jù)和外部數(shù)據(jù),可以幫助企業(yè)構(gòu)建在智能客服、數(shù)字人、論壇社區(qū)等應(yīng)用的搜索與問答,能夠幫助企業(yè)一站式搭建知識問答、客服助手、辦公助手、車機助手、信貸助手、編輯助手等。
比如在金融行業(yè)中,傳統(tǒng)的客服依賴人工,很難做到24小時在線解答用戶問題。而通過整合銀行的相關(guān)制度規(guī)定,以及國家關(guān)于金融政策相關(guān)法規(guī)標(biāo)準(zhǔn),基本上能夠覆蓋用戶大部分相關(guān)問題,而通過將智能客服與人工客服相結(jié)合的方式,不僅能讓企業(yè)節(jié)省大量的成本,也能夠給用戶帶來更好的體驗效果。
智能客服并不是一個新鮮事,但在大模型能力的加持下,用自然語言交互和端到端語音更自然、延遲也更低的情況下,智能客服會越來越接近人類客服,不會出現(xiàn)各種聽不懂、機器音,回答只能靠模板的問題。
智能化BI,數(shù)智化經(jīng)營的最強助手
企業(yè)的數(shù)智化轉(zhuǎn)型,是從組織架構(gòu)到業(yè)務(wù)體系同步發(fā)展,不能夠顧此失彼。
于中小企業(yè)而言,如何借助專業(yè)的工具,將企業(yè)內(nèi)外數(shù)據(jù)轉(zhuǎn)化為有價值的知識,讓管理者更好的了解企業(yè)的運營情況、市場趨勢、客戶需求等信息,并進行科學(xué)的管理決策,也至關(guān)重要。
因此,集數(shù)據(jù)采集、存儲、處理、分析和可視化于一體的軟件系統(tǒng)BI工具,堪稱是企業(yè)提升“數(shù)智化經(jīng)營”的最強助手。而在大模型浪潮下,BI工具也在加速向新一代智能洞察演進。
傳統(tǒng)的BI工具面臨著技術(shù)門檻高,一般業(yè)務(wù)人員無法上手實現(xiàn)數(shù)據(jù)的自主分析,需要內(nèi)部工程師調(diào)教開發(fā),各部門反復(fù)溝通確認(rèn),數(shù)周甚至數(shù)月才能拿到數(shù)據(jù)分析結(jié)果。
同時,使用傳統(tǒng)BI工具制作報表或交叉表,單個大型報表需訪問數(shù)據(jù)庫表多達70+,存在響應(yīng)慢的性能問題,這也導(dǎo)致業(yè)務(wù)時效性差。
最為重要的的一點在于,傳統(tǒng)BI工具不夠智能,其僅能滿足簡單的統(tǒng)計分析報表、大屏,僅能對事實數(shù)據(jù)進行可視化呈現(xiàn),對業(yè)務(wù)問題的根因分析、趨勢預(yù)測等,無法有效支撐。
所以,在大模型時代,企業(yè),尤其是中小企業(yè),需要新一代BI智能分析助手。
華為云智能數(shù)據(jù)洞察DataArts Insight的產(chǎn)品架構(gòu)
華為云Flexus智能數(shù)據(jù)洞察基于盤古大模型,提供可視、實時、易用、安全的企業(yè)智能分析服務(wù),解決了傳統(tǒng)BI工具的技術(shù)門檻高、不夠智能和業(yè)務(wù)時效性差的問題,還可提升大模型的調(diào)優(yōu)效率和推理準(zhǔn)確度1~2倍,支撐業(yè)務(wù)實時高效決策。
具體來說,華為云Flexus智能數(shù)據(jù)洞察能夠基于盤古大模型,實現(xiàn)全自然語言交互的BI自助分析,讓一般業(yè)務(wù)人員和管理者也能輕松獲取和分析數(shù)據(jù),實現(xiàn)“0”門檻自助分析。
同時,通過將數(shù)據(jù)與盤古大模型進行融合,深入挖掘數(shù)據(jù)價值,支持異常檢測、根因分析、趨勢預(yù)測等,通過自動分析洞察見解和專題故事生成,輔助業(yè)務(wù)管理者高效決策。
而在反應(yīng)速度上,其通過高性能BI引擎支持多種加速模式,實現(xiàn)10億數(shù)據(jù)秒級響應(yīng),為使用者提供極致順滑體驗。
于中小企業(yè)而言,華為云Flexus智能數(shù)據(jù)洞察還能夠支持將可視化圖表和盤古for BI智能問答機器人嵌入到企業(yè)自身的SaaS應(yīng)用界面中,使能SaaS應(yīng)用智能化升級,提升用戶體驗,并催生新的盈利機會。
智能BI得到應(yīng)用后,將實現(xiàn)業(yè)務(wù)中任何人在任何時候、任何位置,能夠以最自然高效的方式對任何格式數(shù)據(jù)進行消費,支撐業(yè)務(wù)實時決策。
對于基層員工而言,通過固定格式報表及自助查詢提高工作效率;面對中層管理者,通過即席分析可以支持業(yè)務(wù)決策;面對高層決策者,則可以通過管理駕駛艙把握企業(yè)實時狀態(tài)。
綜上來看,在中小企業(yè)的數(shù)智化轉(zhuǎn)型中,大模型是底層基礎(chǔ)設(shè)施能力,RGA則是連接大模型和企業(yè)數(shù)據(jù)的橋梁,讓企業(yè)在產(chǎn)品能力上實現(xiàn)數(shù)智化轉(zhuǎn)型升級。
而智能BI工具則是在大模型和企業(yè)數(shù)據(jù)知識庫體系下,面向企業(yè)內(nèi)部應(yīng)用管理數(shù)智化升級的關(guān)鍵,能夠幫助企業(yè)在海量數(shù)據(jù)中快速發(fā)現(xiàn)規(guī)律,進一步挖掘數(shù)據(jù)價值,洞察業(yè)務(wù)的過去與未來,高效輔助經(jīng)營決策。
結(jié)語
在AI大模型之前,企業(yè)上云往往是成本;大模型之后,企業(yè)上云就變成了提質(zhì)增效的動力引擎。
這樣的轉(zhuǎn)變,讓中小企業(yè)轉(zhuǎn)型的動力更加明顯,對云廠商來講也是一個極大的利好——市場需求變多了。
從上面可以看到,華為云針對中小企業(yè)推出的幾款新產(chǎn)品,都是切中了數(shù)智化轉(zhuǎn)型的要害。
從大模型,到RGA,再到智能BI工具,無疑已經(jīng)構(gòu)建起了中小企業(yè)數(shù)智化轉(zhuǎn)型從內(nèi)到外,從企業(yè)組織架構(gòu)到企業(yè)產(chǎn)品能力的體系化升級。
這三款產(chǎn)品,可以說是數(shù)智化轉(zhuǎn)型的AI三部曲,幫助中小企業(yè)奏響“提質(zhì)增效”的業(yè)績高歌。
本文來自投稿,不代表增長黑客立場,如若轉(zhuǎn)載,請注明出處:http://gptmaths.com/cgo/123477.html