本期我們帶來高算力AI模組前沿應(yīng)用，基于ARM架構(gòu)的SoC陣列式服務(wù)器相關(guān)內(nèi)容。澎湃算力、創(chuàng)新架構(gòu)、異構(gòu)計算，有望成為未來信息化社會的智能算力底座。

性能優(yōu)勢+AI驅(qū)動

ARM架構(gòu)服務(wù)器加速滲透

一直以來，基于ARM架構(gòu)的各類處理器芯片，以其低功耗、高效能、高可靠性、成本優(yōu)勢等綜合特性，廣泛應(yīng)用于手機、平板電腦、物聯(lián)網(wǎng)終端設(shè)備等各類通信及電子產(chǎn)品領(lǐng)域，極大推動了人類社會的信息化和智能化進程。

而在服務(wù)器領(lǐng)域，之前一直是基于X86架構(gòu)的產(chǎn)品占據(jù)主導(dǎo)，近年來，隨著下游對于異構(gòu)算力、智能算力需求的不斷增長，以及類似于云游戲等安卓原生態(tài)應(yīng)用的大規(guī)模興起，越來越多的廠商開始將ARM架構(gòu)應(yīng)用于服務(wù)器領(lǐng)域，并推出了一系列相關(guān)產(chǎn)品。

去年以來，在智能算力需求的不斷增長，以及生成式AI對于異構(gòu)算力的龐大需求，ARM架構(gòu)服務(wù)器在云游戲、數(shù)字人等新興應(yīng)用市場展現(xiàn)出獨特優(yōu)勢，而對于傳統(tǒng)服務(wù)器領(lǐng)域的滲透，也有加速的跡象。

ARM架構(gòu)服務(wù)器的特點：

一、低功耗：ARM架構(gòu)具有低功耗優(yōu)勢，其采用的處理器芯片，與傳統(tǒng)X86架構(gòu)芯片相比功耗更低，且具有更高的能效比，在IDC架構(gòu)中集成ARM服務(wù)器，可以降低電費支出、節(jié)約能源消耗。

二、高效能：ARM架構(gòu)具有更好的多核線程驅(qū)動性能，能夠?qū)崿F(xiàn)更好的并行處理和任務(wù)處理能力。

三、成本低：ARM架構(gòu)處理器芯片，較X86架構(gòu)芯片的制造成本更低，ARM架構(gòu)服務(wù)器價格具有極高性價比，且開發(fā)成本更低。

四、高可靠性：具有更好的故障容忍性，可以提供更高的可靠性和穩(wěn)定性。

據(jù)了解，亞馬遜、浪潮、騰訊、百度、阿里等頭部企業(yè)，都推出了基于ARM架構(gòu)的服務(wù)器產(chǎn)品，因其低功耗、高性價比、高效能等優(yōu)勢、在云計算、物聯(lián)網(wǎng)、智能交通、醫(yī)療健康等領(lǐng)域有廣泛應(yīng)用。

據(jù)TrendForce集邦咨詢研究顯示，近年企業(yè)對于人工智能、高效能運算等數(shù)字轉(zhuǎn)型需求加速，帶動云端采用比例增加，全球主要云端服務(wù)業(yè)者為提升服務(wù)彈性，陸續(xù)導(dǎo)入ARM架構(gòu)服務(wù)器，預(yù)期至2025年ARM架構(gòu)在數(shù)據(jù)中心服務(wù)器滲透率將達22%。

基于ARM架構(gòu)的SoC陣列式服務(wù)器

智能算力領(lǐng)域的新興力量

以ARM架構(gòu)為基礎(chǔ)，創(chuàng)新性的采用SoC芯片作為算力來源，以靈活的陣列式架構(gòu)打造的SoC陣列式服務(wù)器，也逐步進入企業(yè)級IDC以及各類邊緣計算場景。這是一種專門針對企業(yè)級數(shù)據(jù)中心和邊緣場景面臨的空間制約和節(jié)能要求而優(yōu)化設(shè)計的高密服務(wù)器，以高能效比、高性價比、高密度為設(shè)計原則，在一個機架式機箱內(nèi)集成多達40路、60路、80路等針對服務(wù)器場景專門定制的高算力模組或者算力板，可為各類行業(yè)客戶構(gòu)建適低成本、高密度、高并發(fā)、高性能的算力集群。

服務(wù)器內(nèi)布置的每個算力模組或者算力板都是一個可以獨立運行的最小系統(tǒng)，包含CPU、GPU、NPU、存儲、網(wǎng)絡(luò)等。相關(guān)SoC陣列式服務(wù)器可根據(jù)客戶需求、定制多種算力節(jié)點、其內(nèi)部采用模塊化及熱插拔設(shè)計，可以實現(xiàn)不停機維護，在通信方面配置了10G/25G交換節(jié)點，支持SDN自動化網(wǎng)絡(luò)部署，并且內(nèi)置了多維智能管理節(jié)點，可以進行全方位遠程運維工作，有效減低運維成本。

以云游戲場景為例，隨著《原神》、《崩壞》等爆款游戲的全球風(fēng)靡，除了游戲運行向移動端轉(zhuǎn)移外，也極大帶動了云游戲市場的迅速擴展。而傳統(tǒng)的通用型服務(wù)器，在支撐云游戲運行上，存在兼容性差、成本高昂等問題，而ARM架構(gòu)的陣列式服務(wù)器，基于對安卓生態(tài)天然的兼容性，避免了服務(wù)器端到應(yīng)用端的軟件架構(gòu)轉(zhuǎn)換以及轉(zhuǎn)換過程中的性能損耗，近年來在云游戲場景，幾乎占據(jù)主導(dǎo)地位，目前正逐步向數(shù)字人、工業(yè)視覺、邊緣AI、云XR渲染等領(lǐng)域拓展。

美格高算力AI模組

為SoC陣列式服務(wù)器提供澎湃算力

美格智能作為行業(yè)內(nèi)最早推出高算力AI模組產(chǎn)品的企業(yè)，也不斷推動AI模組產(chǎn)品在服務(wù)器、機器人、AI零售、無人機、云游戲、數(shù)字人、云桌面、云教育、工業(yè)AI檢測、云XR等各領(lǐng)域的深度應(yīng)用，從而真正讓產(chǎn)品的AI能力能夠助力行業(yè)。

美格智能助力客戶定制推出SoC陣列服務(wù)器產(chǎn)品，集成了CPU+GPU+NPU+TPU復(fù)合異構(gòu)算力集群，可以構(gòu)建大規(guī)模智能算力矩陣；每個算力節(jié)點采用刀片+陣列式設(shè)計，支持熱插拔，輕松維護；整機80GB帶寬，每個板卡滿負載1GB帶寬；內(nèi)置BMC多功能綜合監(jiān)控可視化管理系統(tǒng)，可輕松遠程管理。

▲內(nèi)置美格智能高算力AI模組SNM970的陣列式服務(wù)器終端

該SoC陣列式服務(wù)器，采用美格智能為其專門定制的高算力AI模組SNM970，基于高通 QCS8550（8 Gen2）研發(fā)，支持16GB LPDDR5X + 256GB UFS 4.0內(nèi)存，服務(wù)器中最高可配置80路高算力AI模組，單顆模組內(nèi)部支持Android虛擬化，可虛擬出多路計算單元（如80路模組服務(wù)器，單顆模組根據(jù)下游算力需求，可以虛擬出多路虛擬機，比如虛擬出4路的情況下則可同時支撐320臺諸如手機等終端同時運行云游戲），更好的進行算力配置，充分發(fā)揮了高算力、高性價比、高能效比的優(yōu)勢，為實時互動云計算、邊緣AI云計算、云渲染等業(yè)務(wù)場景提供最佳算力底座。

隨著各行各業(yè)對于算力需求的爆發(fā)式增長，以及新興應(yīng)用場景對于創(chuàng)新型服務(wù)器的迫切需求，美格智能也將加大力度推動高算力AI模組在服務(wù)器領(lǐng)域的深度應(yīng)用。

目前，美格智能團隊已經(jīng)與行業(yè)領(lǐng)先的SoC陣列式服務(wù)器客戶密切協(xié)作，陸續(xù)打造出了針對SoC陣列式服務(wù)器場景，基于高通驍龍865/SM8475/QCS8550三代SoC芯片的深度定制的算力模組，同時做到封裝兼容，更好助力客戶產(chǎn)品的算力提升和產(chǎn)品迭代，為相關(guān)產(chǎn)品后續(xù)在AIGC領(lǐng)域的應(yīng)用推廣，以及向傳統(tǒng)服務(wù)器市場的滲透，提供更好助力。

中國電信終端產(chǎn)業(yè)協(xié)會于2023年4月26日發(fā)布了《基于ARM架構(gòu)的SoC陣列服務(wù)器技術(shù)規(guī)范》，以團體標(biāo)準(zhǔn)的形式明確了ARM架構(gòu)SoC陣列式服務(wù)器的通用技術(shù)要求，國內(nèi)相關(guān)廠商也在為下一代服務(wù)器的產(chǎn)品標(biāo)準(zhǔn)在開始探討，相關(guān)產(chǎn)品將逐步進入發(fā)展快車道。