隨著大模型時代的到來，人工智能領(lǐng)域?qū)λ懔Φ男枨蟛粩嘣鲩L。然而，算力需求的增長也帶來了新的挑戰(zhàn)，其中最突出的問題是算力“木桶效應(yīng)”。在算力“木桶效應(yīng)”下，存儲能力成為限制算力發(fā)揮的重要因素之一。因此，存力的重要性逐漸凸顯。

近日，愛分析聯(lián)合京東云發(fā)布《金融行業(yè)先進(jìn)AI存力報告》（以下簡稱“報告”）。報告對金融機構(gòu)布局大模型的存力需求做了深入剖析，報告提出，構(gòu)建可用、可信、可控的先進(jìn)存力，是金融行業(yè)落地大模型的必答題。

存力在大模型時代的重要性逐漸凸顯

2023年10月，工業(yè)和信息化部等6部門聯(lián)合印發(fā)了《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》（以下簡稱《行動計劃》）?！缎袆佑媱潯分赋?，算力是集信息計算力、網(wǎng)絡(luò)運載力、數(shù)據(jù)存儲力于一體的新型生產(chǎn)力，強調(diào)計算、網(wǎng)絡(luò)、存儲和應(yīng)用需要協(xié)同創(chuàng)新、共同發(fā)展。

在數(shù)字化日益深入的今天，算力的重要性日益凸顯。它不僅是信息計算力的核心，更是網(wǎng)絡(luò)運載力的引擎，還是數(shù)據(jù)存儲力的關(guān)鍵。這三者共同構(gòu)成了新型生產(chǎn)力的重要組成部分。只有當(dāng)計算、網(wǎng)絡(luò)、存儲和應(yīng)用實現(xiàn)協(xié)同創(chuàng)新，才能最大程度地推動算力基礎(chǔ)設(shè)施的高質(zhì)量發(fā)展。

然而，大模型落地過程中，算力、數(shù)據(jù)和算法是三大支撐要素。在算力建設(shè)方面，企業(yè)普遍將注意力投向價格高昂、技術(shù)供給上有卡脖子風(fēng)險的GPU，相比以GPU為代表的計算力，存力的重要性往往被忽視，但事實上，大模型必須依托由高性能計算芯片、存儲和網(wǎng)絡(luò)共同構(gòu)成的大規(guī)模算力集群。

報告顯示，目前算力集群存在“木桶效應(yīng)”。（算力“木桶效應(yīng)”是指計算、存儲和網(wǎng)絡(luò)等不同系統(tǒng)之間的不匹配，導(dǎo)致整個系統(tǒng)的性能受到限制。）在大模型時代，由于模型復(fù)雜度不斷提高，需要更多的計算資源和存儲空間。然而，由于存儲速度和帶寬的限制，存儲成為算力發(fā)揮的瓶頸。因此，要提高算力，必須首先解決存儲問題。

如果存儲和網(wǎng)絡(luò)性能無法支撐大規(guī)模數(shù)據(jù)存儲、讀寫和傳輸，高性能計算芯片也無用武之地，最終影響大模型訓(xùn)練效率。愛分析在報告中指出，大模型場景對于存力有著高吞吐、高IOPS、高帶寬、低延時的極致性能要求。

因此，為了解決算力“木桶效應(yīng)”中的存儲問題，我們需要不斷提高存儲能力和帶寬，以支持更多的計算資源和數(shù)據(jù)讀取。同時，我們也需要不斷優(yōu)化人工智能應(yīng)用的算法和數(shù)據(jù)結(jié)構(gòu)，以提高存儲的利用率和效率。只有這樣，我們才能更好地應(yīng)對大模型時代的挑戰(zhàn)，推動人工智能技術(shù)的不斷發(fā)展。

金融行業(yè)具備大模型落地的良好條件

報告調(diào)研了部分金融機構(gòu)大模型落地動態(tài)：2023年，農(nóng)業(yè)銀行在推出金融行業(yè)首個自主創(chuàng)新的金融Al大模型應(yīng)用 ChatABC；工商銀行就基于知識增強的NLP大模型在金酸場景的能力研充和應(yīng)用采購項目招募潛在供應(yīng)商，要求供應(yīng)商具備可支持私有化部署的千億級自然語言大模型產(chǎn)品；建設(shè)銀行就通用大語言模型產(chǎn)品選型測試項目發(fā)布供應(yīng)商征集公告；以及招商銀行、招商證券和銀河證劵均有大模型落地動態(tài)。

圖表來源于報告-部分金融機構(gòu)大模型落地動態(tài)

可見，大模型已經(jīng)成為了金融行業(yè)落地應(yīng)用的重要方向之一。金融行業(yè)作為經(jīng)濟的重要支柱，一直以來都在積極探索如何利用先進(jìn)的技術(shù)來提高效率、優(yōu)化服務(wù)以及增強風(fēng)險控制能力。

為什么是金融行業(yè)？進(jìn)一步來看，金融行業(yè)具備大模型落地的良好條件。一方面，金融機構(gòu)的數(shù)字化成熟度和AI應(yīng)用成熟度都比較高，因此具備良好的數(shù)據(jù)基礎(chǔ)、較強的算法技術(shù)能力，以及眾多潛在的大模型應(yīng)用場景，為大模型落地提供了堅實的基礎(chǔ)。另一方面，金融機構(gòu)向來重視數(shù)字化轉(zhuǎn)型，數(shù)字化預(yù)算投入較高，且以央國企為主，在大模型算力投入方面具備較強實力和意愿。

根據(jù)愛分析調(diào)研，金融行業(yè)典型的大模型應(yīng)用場景包括數(shù)據(jù)分析、智能問答、智能客服、數(shù)字營業(yè)廳、智能投顧、智能投研、營銷內(nèi)容生成、產(chǎn)品推薦、智能風(fēng)控等，部分場景已進(jìn)入試點應(yīng)用階段。這些應(yīng)用場景可以幫助金融機構(gòu)進(jìn)一步改善客戶體驗、提效降本，甚至有機會帶來業(yè)務(wù)重塑的變革性價值。例如，在數(shù)字營業(yè)廳場景，未來基于大模型支持的數(shù)字人具備強大的用戶交互和任務(wù)執(zhí)行能力，可以直接幫助客戶辦理業(yè)務(wù)、推薦產(chǎn)品完成交易，從而創(chuàng)造新的渠道。

報告指出，能力建設(shè)和應(yīng)用建設(shè)是當(dāng)前企業(yè)用戶落地大模型的兩種主要方式。對于頭部金融機構(gòu)而言，大模型作為變革性技術(shù)，需要實現(xiàn)能力內(nèi)化，因此普遍采用能力建設(shè)的方式，在應(yīng)用場景中優(yōu)先調(diào)用自有大模型，而非直接采購?fù)獠看竽Ｐ秃拖嚓P(guān)應(yīng)用。為了進(jìn)行大模型能力建設(shè)，金融機構(gòu)需要訓(xùn)練和部署自有大模型，且模型參數(shù)量往往在千億級。

大模型作為變革性技術(shù)，需要實現(xiàn)能力內(nèi)化

不容忽視的是，隨著數(shù)據(jù)量的不斷增長，傳統(tǒng)的存儲和管理方法已經(jīng)無法滿足人工智能技術(shù)的需求。例如，大模型需要處理的數(shù)據(jù)量非常大，而且需要存儲和管理大量的參數(shù)和計算結(jié)果，這需要非常高效的存儲和管理方法來支持。另外，AI先進(jìn)存力還需要滿足金融行業(yè)對于數(shù)據(jù)安全和隱私保護的要求。金融行業(yè)是一個高度敏感的行業(yè)，對于數(shù)據(jù)的安全性和隱私性要求非常高。因此，AI先進(jìn)存力需要提供更加安全和可靠的存儲和管理方法來保護金融數(shù)據(jù)的安全和隱私。

可見，具體到存力方面，金融機構(gòu)也面臨一系列新挑戰(zhàn)?？偨Y(jié)來看，對于AI先進(jìn)存力的需求，主要在三個方面：可用、可信、可控。

當(dāng)前，國內(nèi)廠商和產(chǎn)品在先進(jìn)存力發(fā)展中逐漸扮演著越來越重要的角色，京東云云海分布式存儲就是其中具有代表性的典型解決方案。也可以說，云海是實現(xiàn)這一目標(biāo)的理想平臺。

據(jù)了解，云海是京東云自研的分布式統(tǒng)一存儲平臺，從2012年開始啟動研發(fā)，經(jīng)過十余年的發(fā)展，基于新一代存儲架構(gòu)的京東云云海于2022年正式對外發(fā)布。面向金融機構(gòu)大模型場景，京東云云海分布式存儲產(chǎn)品基于全自研的統(tǒng)一底座，具備高性能、強兼容性、低成本的優(yōu)勢。

首先，在性能方面，云海單文件系統(tǒng)支持千萬級IOPS，上千臺服務(wù)器同時并發(fā)訪問。這意味著在處理大規(guī)模數(shù)據(jù)時，云?？梢蕴峁O高的讀寫速度和并發(fā)性能，有效提升大模型訓(xùn)練的效率；其次，在國產(chǎn)適配方面，云海是京東100%自研產(chǎn)品，核心技術(shù)完全自主可控，與主流國產(chǎn)化平臺完成兼容互認(rèn)。這使得金融機構(gòu)可以更好地滿足國產(chǎn)化和軟硬件解耦的需求，同時確保在大模型應(yīng)用過程中的數(shù)據(jù)安全性和隱私保護；最后，在成本方面，云海形成了低至1.1x副本的業(yè)內(nèi)超低冗余的EC存儲，并在生產(chǎn)環(huán)境成熟使用。這種低冗余的存儲方式可以大幅提高磁盤空間利用率，從而降低存儲成本。

在產(chǎn)業(yè)實踐方面，某國有大行已經(jīng)基于云海構(gòu)建了存力底座，大幅提升大模型訓(xùn)練效率的效率。通過采用云海作為存儲平臺，該銀行成功地滿足了大規(guī)模數(shù)據(jù)存儲的需求，并通過統(tǒng)一分布式存儲的方式解決了數(shù)據(jù)系統(tǒng)、AI平臺、大模型應(yīng)用三者數(shù)據(jù)高效流動的問題，從而實現(xiàn)了降本增效。

總體來看，通過采用京東云的云海分布式存儲平臺，金融機構(gòu)可以更好地應(yīng)對大模型應(yīng)用過程中的挑戰(zhàn)。同時，云海的優(yōu)異性能、國產(chǎn)適配性和低成本優(yōu)勢也為金融機構(gòu)提供了更加安全、可靠、高效的解決方案。在未來的人工智能技術(shù)發(fā)展中，隨著數(shù)據(jù)量的不斷增長和金融行業(yè)對數(shù)據(jù)安全和隱私保護的更高要求，AI先進(jìn)存力將繼續(xù)發(fā)揮重要作用。而像京東云云海這樣的分布式統(tǒng)一存儲平臺也將成為金融機構(gòu)實現(xiàn)大模型應(yīng)用的重要支撐。