5月10日,后摩智能正式發(fā)布首款存算一體智駕芯片——鴻途?H30,最高物理算力256TOPS,典型功耗35W,成為國內(nèi)率先落地存算一體大算力AI芯片的公司。
后摩智能創(chuàng)始人兼CEO吳強(qiáng)
(資料圖片僅供參考)
過去二十年中,算力發(fā)展速度遠(yuǎn)超存儲(chǔ),“存儲(chǔ)墻”成為加速學(xué)習(xí)時(shí)代下的一代挑戰(zhàn),原因是在后摩爾時(shí)代,存儲(chǔ)帶寬制約了計(jì)算系統(tǒng)的有效帶寬,芯片算力增長步履維艱。
因此存算一體有望打破馮諾依曼架構(gòu),是后摩時(shí)代下的必然選擇,鴻途?H30的發(fā)布是存算一體的重要實(shí)踐。
存算一體優(yōu)勢顯著,被譽(yù)為AI芯片的“全能戰(zhàn)士”,具有高能耗、低成本、高算力等優(yōu)勢;存算一體按照計(jì)算方式分為數(shù)字計(jì)算和模擬計(jì)算,應(yīng)用場景較為廣泛,SRAM、RRAM有望成為云端存算一體主流介質(zhì)。
AI引爆存算一體發(fā)展
2月中旬ChatGPT出現(xiàn)崩潰,只是算力緊張的一個(gè)縮影。隨著百度、京東、騰訊等國內(nèi)廠商宣布參與大模型領(lǐng)域的AI競爭,未來類似ChatGPT這樣的大模型將越來越多??梢灶A(yù)見,人工智能大模型的發(fā)展是大勢所趨,全球市場對(duì)于算力的需求也將出現(xiàn)快速的增長。
存算一體的優(yōu)勢是打破存儲(chǔ)墻,消除不必要的數(shù)據(jù)搬移延遲和功耗,使用存儲(chǔ)單元提升算力。存算一體主要AI的算力需求、并行計(jì)算、神經(jīng)網(wǎng)絡(luò)計(jì)算等,因此存算一體需求旺盛;以數(shù)據(jù)中心為例,百億億次(E級(jí))的超級(jí)計(jì)算機(jī)成為各國比拼算力的關(guān)鍵點(diǎn)。
2017年,英偉達(dá)、微軟、三星等提出存算一體原型;同年起,國產(chǎn)存算一體芯片企業(yè)開始“扎堆”入場,例如后摩智能、億鑄科技等。
高性能計(jì)算引擎
后摩智能聯(lián)合創(chuàng)始人兼研發(fā)副總裁陳亮告訴芯榜記者,鴻途?H30以存算一體創(chuàng)新架構(gòu)實(shí)現(xiàn)了六大技術(shù)突破,即大算力、全精度、低功耗、車規(guī)級(jí)、可量產(chǎn)、通用性。鴻途?H30基于SRAM存儲(chǔ)介質(zhì),采用數(shù)字存算一體架構(gòu),擁有極低的訪存功耗和超高的計(jì)算密度,在Int8數(shù)據(jù)精度條件下,其AI核心IPU能效比高達(dá)15Tops/W,是傳統(tǒng)架構(gòu)芯片的7倍以上。
后摩智能聯(lián)合創(chuàng)始人兼研發(fā)副總裁陳亮
陳亮稱,為了更好地實(shí)現(xiàn)車規(guī)級(jí),后摩智能基于鴻途?H30自主研發(fā)了硬件增強(qiáng)機(jī)制和檢測機(jī)制,在提升芯片可靠性的同時(shí),進(jìn)一步保障了功能安全性。
為了充分發(fā)揮存算一體帶來的高計(jì)算效率,后摩智能面向智能駕駛場景打造了專用IPU(處理器架構(gòu))——天樞架構(gòu),采用多核、多硬件線程的方式擴(kuò)展算力,實(shí)現(xiàn)了計(jì)算效率與算力靈活擴(kuò)展的完美均衡,AI計(jì)算可以在核內(nèi)完成端到端處理,保證通用性。
天樞架構(gòu)的設(shè)計(jì)理念源自于庭院式的中國傳統(tǒng)住宅,以大布局設(shè)計(jì)保障計(jì)算資源利用效率的同時(shí),再進(jìn)一步結(jié)合現(xiàn)代住宅多層/高層的設(shè)計(jì)優(yōu)勢,以多核/多硬件線程的方式靈活擴(kuò)展算力。得益于靈活、高效的硬件架構(gòu)設(shè)計(jì),鴻途?H30實(shí)現(xiàn)了性能2倍提升的同時(shí),還降低了50%功耗。
后摩智能聯(lián)合創(chuàng)始人兼產(chǎn)品副總裁信曉旭對(duì)鴻途?H30的產(chǎn)品性能與優(yōu)勢向芯榜記者做了詳細(xì)介紹。得益于存算一體的架構(gòu)優(yōu)勢,鴻途?H30基于12nm工藝制程,在Int8數(shù)據(jù)精度下實(shí)現(xiàn)高達(dá)256TOPS的物理算力,所需功耗不超過35W,整個(gè)SoC能效比達(dá)到7.3Tops/W,具有高計(jì)算效率、低計(jì)算延時(shí)、低工藝依賴等特點(diǎn)。
后摩智能聯(lián)合創(chuàng)始人兼產(chǎn)品副總裁信曉旭
信曉旭分析,在實(shí)際性能測試中,鴻途?H30基于Resnet50模型的Benchmark,在BatchSize等于1和8的條件下分別達(dá)到了8700幀/秒和10300幀/秒的性能。
賦能智能駕駛
當(dāng)下消費(fèi)電子對(duì)半導(dǎo)體拉動(dòng)區(qū)域頹勢,汽車芯片成為拉動(dòng)半導(dǎo)體領(lǐng)域的中流砥柱,據(jù)了解每臺(tái)新能源汽車所用到的芯片高達(dá)1400塊。
為了坐上新能源的“快車”,后摩智能同步推出了基于鴻途?H30芯片打造的智能駕駛硬件平臺(tái)——力馭?。有賴于鴻途?H30極高的計(jì)算效率和計(jì)算密度,力馭?平臺(tái)CPU算力高達(dá)200Kdmips,AI算力高256Tops,支持多傳感器輸入,能夠?yàn)橹悄荞{駛提供更充沛的算力支持,進(jìn)一步提升了系統(tǒng)的可靠性。力馭?平臺(tái)功耗僅為85W,可采用更加靈活的散熱方式,實(shí)現(xiàn)更低成本的便捷部署,有利于推動(dòng)大算力智能駕駛場景的普及應(yīng)用。
為了讓客戶擁有更好的產(chǎn)品使用體驗(yàn),后摩智能還基于鴻途?H30芯片自主研發(fā)了一款軟件開發(fā)工具鏈——后摩大道?,支持PyTorch、TensorFlow、ONNX等主流開源框架,編程兼容CUDA前端語法,同時(shí)支持SIMD和SIMT兩種編程模型,兼顧運(yùn)行效率和開發(fā)效率,以無侵入式的底層架構(gòu)創(chuàng)新保障了通用性的同時(shí),進(jìn)一步實(shí)現(xiàn)了鴻途?H30得高效、易用。
信曉旭透露,鴻途?H30將于6月份開始給Alpha客戶送測。同時(shí),后摩智能的第二代產(chǎn)品鴻途?H50已經(jīng)在全力研發(fā)中,將于2024年推出,支持客戶2025年的量產(chǎn)車型。
后摩智能創(chuàng)始人兼CEO吳強(qiáng)表示:“2年前,后摩智能成立,我們堅(jiān)定地選擇以存算一體的底層架構(gòu)創(chuàng)新,來實(shí)現(xiàn)AI計(jì)算效率的極致突破。存算一體架構(gòu)將存儲(chǔ)和計(jì)算功能融合,比傳統(tǒng)架構(gòu)更接近人腦的計(jì)算方式,具備遠(yuǎn)高于傳統(tǒng)方式的計(jì)算效率。隨著GPT等大模型的出現(xiàn),存算一體芯片越來越受到行業(yè)關(guān)注。”
本文首發(fā)于微信公眾號(hào):芯榜。文章內(nèi)容屬作者個(gè)人觀點(diǎn),不代表和訊網(wǎng)立場。投資者據(jù)此操作,風(fēng)險(xiǎn)請(qǐng)自擔(dān)。
老撾的密林之中有一處石頭建筑群,它隱藏在普濟(jì)河平原的深處,遠(yuǎn)離現(xiàn)代文明。很難將其與周圍環(huán)境區(qū)分開來。
當(dāng)?shù)貢r(shí)間5月10日晚,詹妮弗·洛佩茲出席了她主演的電影《母親》的洛杉磯首映禮,還帶上了她那結(jié)婚不到一年
央視網(wǎng)消息(新聞聯(lián)播):今天(5月12日)是全國防災(zāi)減災(zāi)日,今年的主題是“防范災(zāi)害風(fēng)險(xiǎn),護(hù)航高質(zhì)量發(fā)展
【上海航運(yùn)交易所:本周出口集裝箱運(yùn)輸市場基本穩(wěn)定節(jié)后恢復(fù)速度略顯緩慢】上海航運(yùn)交易所5月13日發(fā)布中國
歡迎觀看本篇文章,小升來為大家解答以上問題。任務(wù)欄假死怎么辦,教你如何解決很多人還不知道,現(xiàn)在讓我們
X 關(guān)閉
X 關(guān)閉