|
作者：Arm 戰(zhàn)略與生態(tài)部開(kāi)發(fā)者平臺(tái)副總裁 Geraint North 人工智能 (AI) 是當(dāng)今最重大的技術(shù)變革之一，并正以前所未有的速度推動(dòng)著各行各業(yè)的發(fā)展。作為應(yīng)用最為普及的計(jì)算架構(gòu)，Arm 為廣泛的應(yīng)用市場(chǎng)提供全面且多樣化的計(jì)算平臺(tái)，并在此基礎(chǔ)上，攜手合作伙伴，共同構(gòu)筑起堅(jiān)實(shí)的軟硬件生態(tài)系統(tǒng)，使 Arm 成為最高效、最易訪(fǎng)問(wèn)的計(jì)算平臺(tái)，持續(xù)賦能開(kāi)發(fā)者進(jìn)行 AI 創(chuàng)新。隨著計(jì)算變得愈發(fā)復(fù)雜，計(jì)算效率的重要性更勝以往。高性能和出色能效一直是 Arm 的 DNA，這一優(yōu)勢(shì)使得 Arm 技術(shù)能夠很好地滿(mǎn)足企業(yè)在 AI 時(shí)代的業(yè)務(wù)需求。 軟件成為差異化的關(guān)鍵 要使硬件發(fā)揮其作用，離不開(kāi)軟件的支持，軟硬件的協(xié)同發(fā)展方能充分釋放 AI 的性能價(jià)值。以 Arm 為計(jì)算基礎(chǔ)構(gòu)建的軟件平臺(tái)是世界上最為普適且重要的軟件平臺(tái)。Arm 在開(kāi)發(fā)計(jì)算平臺(tái)的同時(shí)，也大量投入軟件開(kāi)發(fā)，我們的工程師團(tuán)隊(duì)致力于確保合作伙伴所構(gòu)建的產(chǎn)品在部署的第一天就能帶來(lái)巨大的價(jià)值。如今，我們的技術(shù)已經(jīng)涵蓋整個(gè)軟件棧的各個(gè)層面。從底層固件和操作系統(tǒng)的開(kāi)發(fā)，到與游戲引擎、開(kāi)源社區(qū)和獨(dú)立軟件供應(yīng)商 (ISV) 的戰(zhàn)略合作，我們確保所有這些在 Arm 平臺(tái)上都能“開(kāi)機(jī)即用”。 在基礎(chǔ)設(shè)施領(lǐng)域，Arm 具備成熟且健全的云軟件生態(tài)系統(tǒng)。隨著超大規(guī)模云服務(wù)提供商認(rèn)識(shí)到軟件生態(tài)系統(tǒng)的進(jìn)展，開(kāi)始將基于 Arm 架構(gòu)的計(jì)算平臺(tái)作為一種高性能且具有成本效益的解決方案提供給第三方開(kāi)發(fā)者，用于通用工作負(fù)載。云原生軟件開(kāi)發(fā)者正越來(lái)越多地采用基于 Arm Neoverse 平臺(tái)的云基礎(chǔ)設(shè)施來(lái)構(gòu)建和運(yùn)行他們的應(yīng)用，以提高性能、效率和可持續(xù)性，并節(jié)省成本。所有主要云服務(wù)提供商也均提供基于 Neoverse 的云實(shí)例。在基于 Arm 平臺(tái)部署的各種云工作負(fù)載中，客戶(hù)可實(shí)現(xiàn)更高的性能和成本效益。 除了對(duì)云工作負(fù)載的出色支持外，Arm 還投入了大量精力與汽車(chē)行業(yè)進(jìn)行合作。隨著軟件成為車(chē)載差異化的關(guān)鍵因素，汽車(chē)行業(yè)面臨著許多挑戰(zhàn)。汽車(chē)軟件不僅需要被快速交付，且一旦被部署在汽車(chē)上，通常需要在十年或更長(zhǎng)時(shí)間內(nèi)持續(xù)修復(fù)漏洞并增添新的功能。而這些對(duì)于云軟件開(kāi)發(fā)者來(lái)說(shuō)已了然于心，因?yàn)榇笠?guī)模原型設(shè)計(jì)、測(cè)試、部署和更新軟件正是現(xiàn)代云軟件開(kāi)發(fā)的關(guān)鍵所在。從云端到車(chē)載，Arm 平臺(tái)無(wú)處不在�；� Arm 架構(gòu)的云技術(shù)已成為汽車(chē)開(kāi)發(fā)的重要部分，使合作伙伴能夠在云環(huán)境中構(gòu)建和測(cè)試眾多的汽車(chē)軟件組件。與此同時(shí)，為了進(jìn)一步確保汽車(chē)軟件在包括云端在內(nèi)的多個(gè)平臺(tái)上具有可移植性，整個(gè)生態(tài)系統(tǒng)的通力協(xié)作至關(guān)重要，這也是 Arm 在 2021 年?duì)款^成立 SOAFEE（面向嵌入式邊緣的可擴(kuò)展開(kāi)放架構(gòu)）的初衷。通過(guò) SOAFEE，Arm 為汽車(chē)和云計(jì)算社區(qū)構(gòu)建起一個(gè)共同的平臺(tái)，以促進(jìn)協(xié)作和測(cè)試，進(jìn)而推動(dòng)軟件定義汽車(chē) (SDV) 時(shí)代的發(fā)展。 在移動(dòng)平臺(tái)方面，終端用戶(hù)對(duì)于包括游戲與 AI 應(yīng)用等移動(dòng)體驗(yàn)的極致追求為性能帶來(lái)了更高的要求。而 Arm 持續(xù)在軟件前沿領(lǐng)域引領(lǐng)移動(dòng)端圖形渲染技術(shù)的發(fā)展，致力于確保開(kāi)發(fā)者可以輕松利用我們通過(guò) Arm Immortalis GPU 帶來(lái)的各種先進(jìn)技術(shù)與卓越性能。而在今年稍早前，為實(shí)現(xiàn)更為卓越的移動(dòng)體驗(yàn)，與 Arm 終端計(jì)算子系統(tǒng) (CSS) 同步推出了 Arm Kleidi，這是一組可與推理引擎進(jìn)行集成的開(kāi)源軟件內(nèi)核，其中包括面向 AI 工作負(fù)載的 KleidiAI 和面向計(jì)算機(jī)視覺(jué)應(yīng)用的 KleidiCV。Arm Kleidi 的推出再次印證了 Arm 作為端側(cè)生成式 AI 計(jì)算平臺(tái)的領(lǐng)先地位。它使開(kāi)發(fā)者無(wú)需學(xué)習(xí)額外的工具和技能，就能夠在廣泛的硬件中獲得 Arm CPU 的出色 AI 性能。此外，適用于安卓系統(tǒng)的 CSS 參考軟件棧搭配固定虛擬平臺(tái) (Fixed Virtual Platform, FVP)，有助于我們的合作伙伴加速流片前的軟件開(kāi)發(fā)。 賦能軟件開(kāi)發(fā)者實(shí)現(xiàn) AI 創(chuàng)新 AI 作為當(dāng)下最大的工作負(fù)載，如何使其能更高效、簡(jiǎn)單地運(yùn)行于 Arm 計(jì)算平臺(tái)之上是我們關(guān)注的重點(diǎn)之一，其主要挑戰(zhàn)在于如何管理好將 AI 推理從云端擴(kuò)展到邊緣側(cè)時(shí)所帶來(lái)的復(fù)雜性，使得開(kāi)發(fā)者能更順暢地進(jìn)行 AI 創(chuàng)新。 AI 企業(yè)目前仍處于用戶(hù)獲取階段，快速發(fā)展和實(shí)現(xiàn)新功能遠(yuǎn)比考慮成本更為重要。然而，隨著企業(yè)在市場(chǎng)趨向穩(wěn)定之后開(kāi)始尋求盈利，我們相信 AI 推理將會(huì)被擴(kuò)展至邊緣側(cè)。除了成本因素之外，邊緣側(cè)推理還具備增強(qiáng)隱私保護(hù)、減少延遲，以及能夠在無(wú)法連接到云端時(shí)照常提供服務(wù)等多種優(yōu)勢(shì)。但與此同時(shí)，復(fù)雜性也隨之增加。在云環(huán)境中，企業(yè)可以把控架構(gòu)、CPU 和性能等各個(gè)方面，并只需針對(duì)一個(gè)平臺(tái)進(jìn)行優(yōu)化。而在端側(cè)，以安卓生態(tài)系統(tǒng)為例，我們預(yù)計(jì)其在過(guò)去十年間就推出了不下 30 款 CPU、25 款 GPU 和 20 款 NPU，其中的多數(shù)處理器仍會(huì)應(yīng)用于現(xiàn)今消費(fèi)者所使用的設(shè)備中。但毋庸置疑的是，若能將更多的 AI 推理卸載到端側(cè)，企業(yè)的云端成本就會(huì)降低。 Arm KleidiAI 有助于確保開(kāi)發(fā)者能夠獲得 AI 開(kāi)發(fā)所需的性能、工具和軟件庫(kù)，從而打造新一波非凡的 AI 體驗(yàn)。AI 應(yīng)用需要考慮成本、隱私、延遲和連接性等問(wèn)題，利用 KleidiAI 將工作負(fù)載擴(kuò)展至邊緣側(cè)，能夠確保我們的合作伙伴以較低的成本為開(kāi)發(fā)者提供出色的用戶(hù)體驗(yàn)。 與此同時(shí)，Arm 通過(guò)將 KleidiAI 集成到主流的 AI 框架中，包括 Google 和 Meta 的推理引擎中，為生成式 AI 工作負(fù)載帶來(lái)了顯著的性能提升，進(jìn)而惠及廣大的開(kāi)發(fā)者群體。具體來(lái)說(shuō)，與參考 CPU 實(shí)現(xiàn)方案相比，Meta Llama 3 和微軟 Phi-3 大語(yǔ)言模型 (LLM) 的首次詞元響應(yīng)時(shí)間提升了近三倍。與此同時(shí)，Unity Sentis 在集成 KleidAI 后，成功啟用了 int4 量化功能，將運(yùn)行 Phi-2 LLM 時(shí)的模型內(nèi)存占用率降低了約 73%。而在國(guó)內(nèi)，作為Arm 多年來(lái)重要的合作伙伴，我們已攜手騰訊，將 KleidiAI 集成到了騰訊混元大模型中，加速端側(cè) AI 推理。這些僅僅只是一個(gè)開(kāi)端，我們未來(lái)還計(jì)劃推出更多軟件庫(kù)、計(jì)算內(nèi)核和引擎集成，持續(xù)在 Arm 平臺(tái)上構(gòu)建 AI 的未來(lái)。 Arm 是軟件運(yùn)行的基石 Arm 持續(xù)的軟件投入正建立起全球最大的 AI 開(kāi)發(fā)者社區(qū)，以期實(shí)現(xiàn)我們的愿景，使得所有軟件都能無(wú)縫地運(yùn)行在基于 Arm 架構(gòu)的系統(tǒng)之上。Arm 不僅提供了應(yīng)用廣泛的通用計(jì)算平臺(tái)，而且通過(guò) IP 與開(kāi)源軟件和工具乃至廣泛的行業(yè)領(lǐng)先生態(tài)系統(tǒng)相結(jié)合，讓全球上千萬(wàn)開(kāi)發(fā)者都可以使用 Arm 計(jì)算平臺(tái)作為 AI 創(chuàng)新的基礎(chǔ)，基于 Arm 平臺(tái)的 AI 將無(wú)處不在。 |
