自適應(yīng)計(jì)算加速聯(lián)網(wǎng)硬件開(kāi)發(fā)

發(fā)表時(shí)間:2022-04-06 09:39:41 人氣:4341

u=1867636729,3995017611&fm=253&fmt=auto&app=138&f=JPEG.jpg

以前設(shè)計(jì)一個(gè)產(chǎn)品,先要規(guī)劃好硬件架構(gòu),等硬件設(shè)計(jì)全部完成后,才會(huì)開(kāi)始軟件部分的開(kāi)發(fā),然后才是完整產(chǎn)品的發(fā)布?,F(xiàn)在,隨著云計(jì)算、互聯(lián)網(wǎng)的發(fā)展,以及AI、5G和自動(dòng)駕駛的興起,硬件和產(chǎn)品的開(kāi)發(fā)流程需求在發(fā)生著前所未有的變化,比如更高的硬件性能;更高的安全和保密需求;不斷增加的傳感器類型和接口;不斷演進(jìn)的AI算法和模型;以及軟件開(kāi)發(fā)需要與硬件開(kāi)發(fā)同步進(jìn)行等等。

在這些新需求的推動(dòng)下,“軟件定義硬件”的概念被人多次提到,人們希望芯片中所有操作的控制和調(diào)度都由軟件來(lái)完成,從而減少相應(yīng)的硬件開(kāi)銷,把節(jié)省的部分用于運(yùn)算和片上存儲(chǔ)。這個(gè)愿望看起來(lái)很美好,但實(shí)現(xiàn)起來(lái)還是有不少難度的,比如FPGA可以實(shí)現(xiàn)一部分的軟件定義硬件功能,但其效率比ASIC低,功耗卻比ASIC高。那有沒(méi)有什么更好的辦法呢?

自適應(yīng)平臺(tái)的優(yōu)勢(shì)

賽靈思的自適應(yīng)計(jì)算平臺(tái)就是為此而生的。根據(jù)賽靈思的自適應(yīng)計(jì)算白皮書和自適應(yīng)計(jì)算專區(qū),自適應(yīng)計(jì)算以FPGA技術(shù)為基礎(chǔ),支持在芯片上動(dòng)態(tài)構(gòu)建特定領(lǐng)域架構(gòu)(DSA)。也就是說(shuō),自適應(yīng)計(jì)算允許DSA隨需求變化進(jìn)行動(dòng)態(tài)更新,從而避免受到漫長(zhǎng)的ASIC設(shè)計(jì)周期和高昂的NRE成本的約束。隨著處理的分布式水平不斷提高,自適應(yīng)計(jì)算不僅能夠支持軟件的無(wú)線(OTA)更新,也支持硬件無(wú)線更新,而且更新可以幾乎無(wú)線的次數(shù)反復(fù)進(jìn)行。

“自適應(yīng)平臺(tái)”則指以自適應(yīng)硬件為核心的任意類型產(chǎn)品或解決方案。自適應(yīng)平臺(tái)完全基于相同的自適應(yīng)硬件基礎(chǔ),但其包含的內(nèi)容遠(yuǎn)不止芯片硬件或器件,而是涵蓋了全部的硬件和全面的成套設(shè)計(jì)軟件和運(yùn)行軟件。

有了自適應(yīng)平臺(tái)后,硬件工程師可以從那些重復(fù)和低端的設(shè)計(jì)工作中解放出來(lái),專注于自己擅長(zhǎng)的專業(yè)功能的開(kāi)發(fā),軟件工程師則可以跟硬件工程師同一時(shí)間開(kāi)始設(shè)計(jì)工作,而不需要等到所有硬件全部設(shè)計(jì)好之后才開(kāi)始工作。

當(dāng)然,除了這個(gè)好處之外,自適應(yīng)平臺(tái)還有以下一些優(yōu)勢(shì):

一是加快產(chǎn)品上市進(jìn)程。比如賽靈思的其中一個(gè)自適應(yīng)計(jì)算平臺(tái)產(chǎn)品Alveo數(shù)據(jù)中心加速器卡,使用該加速卡來(lái)構(gòu)建的應(yīng)用,能為特定應(yīng)用加速,而不需要特別的硬件定制。且只需將PCIe卡添加到服務(wù),就可以從現(xiàn)有的軟件應(yīng)用中直接調(diào)用加速庫(kù)。

二是可以降低運(yùn)營(yíng)成本。與基于 CPU 的解決方案相比,由于計(jì)算密度的提升,基于自適應(yīng)平臺(tái)的優(yōu)化應(yīng)用能在每節(jié)點(diǎn)提供大幅提高的效率。

三是可靈活且動(dòng)態(tài)地配置工作負(fù)載。自適應(yīng)平臺(tái)可根據(jù)當(dāng)前需求重新配置。開(kāi)發(fā)者可以在自適應(yīng)平臺(tái)內(nèi)輕松切換已部署應(yīng)用,使用相同設(shè)備即可滿足不斷變化的工作負(fù)載需求。

四是能兼容未來(lái)。自適應(yīng)平臺(tái)能不斷進(jìn)行調(diào)整。如果現(xiàn)有應(yīng)用需要新的功能,則可以對(duì)硬件重新編程,以最佳方式實(shí)現(xiàn)這些功能,減少硬件升級(jí)需求,進(jìn)而延長(zhǎng)系統(tǒng)使用壽命。

五是可加速整體應(yīng)用。因?yàn)锳I推斷很少單獨(dú)存在,一般是更大的數(shù)據(jù)分析與處理鏈條的組成部分,往往與使用傳統(tǒng)(非AI)實(shí)現(xiàn)方案的多個(gè)上游級(jí)和下游級(jí)并存。這些系統(tǒng)中的嵌入式AI部分得益于AI加速,而非AI部分也能從加速中獲益。自適應(yīng)計(jì)算的天然靈活性適合為AI和非AI處理任務(wù)進(jìn)行加速,稱之為“整體應(yīng)用加速”。隨著計(jì)算密集型AI推斷滲透到更多應(yīng)用中,其重要性也在日益提升。

自適應(yīng)計(jì)算的成功落地案例

以前,工程師如果要使用FPGA,就需要自己構(gòu)建自己的硬件板,并用硬件描述語(yǔ)言(HDL)配置好FGPA才行。如今,自適應(yīng)平臺(tái)的開(kāi)發(fā)者只需要使用自己熟悉的軟件框架和語(yǔ)言(比如C++++、Python、TensorFlow等),直接發(fā)揮自適應(yīng)計(jì)算的效能。也就是說(shuō),軟件和AI開(kāi)發(fā)者不需要構(gòu)建電路板,或者成為硬件專家,就能自如地運(yùn)用自適應(yīng)計(jì)算。

更為方便的是,工程師不僅可以通過(guò)API直接調(diào)用他們現(xiàn)有的軟件代碼,還可以使用獨(dú)立軟件供應(yīng)商(ISV)生態(tài)系統(tǒng)和廠商提供的開(kāi)源庫(kù),庫(kù)里有大量的加速API可供使用。

以賽靈思已經(jīng)量產(chǎn)的兩款自適應(yīng)計(jì)算平臺(tái)產(chǎn)品Kria SOM和Alveo加速器卡為例。Kria SOM基于Zynq UltraScale+ MPSoC 架構(gòu)而構(gòu)建,支持開(kāi)發(fā)者在交鑰匙自適應(yīng)平臺(tái)上開(kāi)發(fā)邊緣應(yīng)用。通過(guò)將系統(tǒng)的核心部分標(biāo)準(zhǔn)化,開(kāi)發(fā)者有更多時(shí)間專注于打造差異化功能特性。

賽靈思首款量產(chǎn)的Kria SOM產(chǎn)品就是K26 SOM,硬件配置方面,K26 SOM基于Zynq UltraScale+ MPSoC架構(gòu)設(shè)計(jì),整體尺寸為77×60×11mm,搭載四核Arm A53處理器,內(nèi)置64位4GB的DDR4內(nèi)存,擁有256K系統(tǒng)邏輯單元和1.4TOPS AI處理器性能,支持4K 60p的H.264/265視頻編解碼器。

Kria SOM是作為量產(chǎn)就緒型的產(chǎn)品來(lái)設(shè)計(jì)、制造和測(cè)試的,它可以承受各種嚴(yán)苛的應(yīng)用環(huán)境。目前Kria SOM分為工業(yè)級(jí)和商用級(jí)兩種類別,工業(yè)級(jí)支持更高的振動(dòng)和更極端的溫度,同時(shí)也有更長(zhǎng)的生命周期等級(jí)和維保。

Kria SOM主要針對(duì)智能視覺(jué)的應(yīng)用,因此,它可以用于智慧城市中的高速目標(biāo)檢測(cè),比如車牌識(shí)別等應(yīng)用;同時(shí),它也可以用于工業(yè)產(chǎn)線上的機(jī)器視覺(jué)應(yīng)用。

對(duì)于Alveo 加速器卡,它采用行業(yè)標(biāo)準(zhǔn)的PCI-e接口,可為任意數(shù)據(jù)中心應(yīng)用提供硬件卸載能力,同時(shí)還可用于SmartSSD存儲(chǔ),在存儲(chǔ)訪問(wèn)點(diǎn)上進(jìn)行加速。此外,還能用于SmartNIC,直接在網(wǎng)絡(luò)流量上提供加速。

比如Alveo SN1000 SmartNIC,它擴(kuò)展了SmartNIC的性能包絡(luò),其以數(shù)據(jù)中心和邊緣計(jì)算平臺(tái)為目標(biāo),結(jié)合了高性能網(wǎng)絡(luò)、CPU集群和大規(guī)模FPGA,在一塊板子上構(gòu)建了一個(gè)高性能計(jì)算(HPC)平臺(tái),具有顯著的網(wǎng)絡(luò)加速功能。

此外,Alveo SN1000 SmartNIC采用標(biāo)準(zhǔn)化和軟件框架,不需要直接處理FPGA的編程,使用更加方便。工程師可以利用賽靈思或第三方支持FPGA中使用的大部分固件,甚至CPU集群上運(yùn)行的軟件。CPU集群可運(yùn)行標(biāo)準(zhǔn)的Linux發(fā)行版,如Ubuntu和Yocto Linux。SmartNIC驅(qū)動(dòng)程序可用于Red Hat Enterprise Linux (RHEL)、CentOS和Ubuntu等主機(jī)平臺(tái)。

在應(yīng)用方面,Alveo適用于基因組學(xué)分析、圖形數(shù)據(jù)庫(kù)、醫(yī)療影像的處理分析,以及基于視頻影像監(jiān)控類應(yīng)用。在應(yīng)用落地方面,已經(jīng)有數(shù)據(jù)中心及基因測(cè)序應(yīng)用方面都有應(yīng)用。

結(jié)語(yǔ)

軟件正在改變硬件,軟硬件的結(jié)合發(fā)展將會(huì)改變產(chǎn)品的形態(tài),進(jìn)一步改變我們的生活。雖然現(xiàn)在軟件定義硬件并沒(méi)有大規(guī)模鋪開(kāi),但不論從我們常用的手機(jī)應(yīng)用,到工業(yè)應(yīng)用,以及自適應(yīng)計(jì)算平臺(tái)中軟件的作用,我們可以明顯看到軟件在產(chǎn)品中所起到的作用越來(lái)越大。未來(lái)自適應(yīng)計(jì)算平臺(tái)必將加速軟件定義硬件時(shí)代的到來(lái)。

工廠展示

工廠展示 工廠展示

聯(lián)系我們

成都子程新輝電子設(shè)備有限公司

聯(lián)系人:文先生

手機(jī):13183865499

QQ:1977780637

地址:成都市金牛區(qū)星輝西路2號(hào)附1號(hào)(臺(tái)誼民生大廈)407號(hào)