av免费国产_美女一级_丰满少妇在线观看网站_日本孕交_亚洲精品久久久_国产精华一区二区三区

橫空出世!容芯致遠創(chuàng)新“智算整機架構(gòu)”融合DeepSeek應(yīng)用

日期:2025-02-28 閱讀:393
核心提示:容芯致遠,一家2024年剛成立,致力于創(chuàng)新計算機體系結(jié)構(gòu)的初創(chuàng)企業(yè),推出了全新的AGC智算架構(gòu)及其整機設(shè)計方案,并率先與百度AI技術(shù)生態(tài)達成合作,這或?qū)㈤_啟AI計算機系統(tǒng)架構(gòu)創(chuàng)新的范式變革。

 DeepSeek火爆全球,并引發(fā)算力行業(yè)鏈?zhǔn)椒磻?yīng)。借助混合專家模型(MOE)架構(gòu)、多頭潛在注意力機制(MLA)等算法創(chuàng)新,DeepSeek顯著降低大模型計算成本,打破了業(yè)界對高算力GPU的路徑依賴,全面激活了各行業(yè)部署大模型應(yīng)用的需求。長期受先進制程工藝制約的國產(chǎn)GPU陣營正在迎來新的發(fā)展機遇。

2月27日,在北京2025中國RISC-V生態(tài)大會上,容芯致遠,一家2024年剛成立,致力于創(chuàng)新計算機體系結(jié)構(gòu)的初創(chuàng)企業(yè),推出了全新的AGC智算架構(gòu)及其整機設(shè)計方案,并率先與百度AI技術(shù)生態(tài)達成合作,這或?qū)㈤_啟AI計算機系統(tǒng)架構(gòu)創(chuàng)新的范式變革。

這是容芯致遠首次在全國性頂級行業(yè)技術(shù)大會上正式亮相,CTO石旭在主題演講中披露了他對MOE架構(gòu)下AI計算機體系結(jié)構(gòu)創(chuàng)新和變革方向的思考。在石旭看來,影響AI發(fā)展有三個關(guān)鍵要素:芯片、系統(tǒng)和算法。DeepSeek已成功證明中國在算法領(lǐng)域的領(lǐng)先優(yōu)勢,GPU芯片迭代周期長,短期難以一蹴而就,系統(tǒng)結(jié)構(gòu)作為介于芯片與算法之間的重要環(huán)節(jié),對于進一步發(fā)揮國產(chǎn)芯片有效算力,提升運營效率,降低運營成本,延長設(shè)備壽命等,都具有極大的創(chuàng)新空間。

 

幾十年來,計算機系統(tǒng)一直是以CPU為核心進行構(gòu)建,GPU顯卡、存儲等設(shè)備作為外設(shè)存在,所有外設(shè)之間的數(shù)據(jù)交換需要通過中央處理器即CPU來處理,使得CPU越來越成為AI時代的計算機系統(tǒng)瓶頸所在。對此,容芯致遠的創(chuàng)業(yè)團隊選擇了計算機體系結(jié)構(gòu)這一長期被產(chǎn)業(yè)界忽視的方向,率先提出AGC(以GPU為核心)的AI計算機體系結(jié)構(gòu)。在石旭和他的技術(shù)團隊看來,為更高效地支撐AI時代MOE模型訓(xùn)練推理,需要對計算機體系結(jié)構(gòu)進行一次徹底的變革,即從傳統(tǒng)的ACC架構(gòu)(AI computer system with the CPU at its Core)轉(zhuǎn)向AGC架構(gòu)(AI computer system with the GPU at its Core),實現(xiàn)以GPU為核心設(shè)計AI計算機系統(tǒng)。只有在體系結(jié)構(gòu)層面進行高維度的創(chuàng)新,才能打破成本、效率、靈活性“不可能三角”的魔咒,讓GPU與模型服務(wù)發(fā)揮更大算力效率,同時更具成本優(yōu)勢和靈活的適應(yīng)性。

 

在RISC-V生態(tài)大會的展示區(qū),容芯致遠在現(xiàn)場展出了多款基于AGC架構(gòu)設(shè)計的AI服務(wù)器與AI Station整機方案。

與傳統(tǒng)服務(wù)器不同,采用AGC架構(gòu)的8卡GPU服務(wù)器,在一個4U機箱內(nèi)部署2顆國產(chǎn)CPU和8張國產(chǎn)GPU卡,且能支持不同廠商的GPU卡異構(gòu)混插,整機算力有效值(MFU)可從40%平均值提高到60%以上,并支持DeepSeek的高效推理。

 

圖:全國產(chǎn)AGC架構(gòu)MOE智算整機(8卡)

現(xiàn)場展出的AI Station適用于ToB辦公場景,也是基于AGC架構(gòu)設(shè)計,模塊化、免主板、超靜音、內(nèi)置AIOS系統(tǒng),可插2塊全尺寸GPU卡,輕松跑通32B模型,可用于在辦公室環(huán)境搭建輕量便捷、低成本的DeepSeek推理平臺。

 

圖:基于AGC架構(gòu)的AI Station

值得關(guān)注的是,容芯致遠預(yù)發(fā)布了一款20卡全信創(chuàng)AGC架構(gòu)服務(wù)器設(shè)計方案,更充分地體現(xiàn)“以GPU為核心構(gòu)建計算機系統(tǒng)”的設(shè)計理念,一些重要特征包括:20卡超高密度,使其不用量化即可完美兼容全尺寸DeepSeek大模型;支持“GPU暴力熱插拔”,當(dāng)某個GPU卡出現(xiàn)故障時,無須將整個設(shè)備斷電即可更換GPU,使得維護周期從小時級直接降到分鐘級;支持針對每顆GPU而不是整機進行卡級精準(zhǔn)能耗控制,可根據(jù)負(fù)載需要開啟或關(guān)閉目標(biāo)GPU卡;全新的高速互聯(lián)特性支持在5秒內(nèi)喚醒加載大模型等。該款產(chǎn)品實現(xiàn)了業(yè)界首創(chuàng)、全球首創(chuàng)!

 

圖:已預(yù)發(fā)布的全國產(chǎn)AGC架構(gòu)MOE智算整機(20卡)關(guān)鍵特性

容芯致遠COO王成江表示,盡管目前國內(nèi)已經(jīng)有很多整機廠商,但鮮有企業(yè)去做計算機體系結(jié)構(gòu)層面的創(chuàng)新,這在國內(nèi)是一個新的賽道,容芯致遠將專注于研發(fā)推廣更加符合AI時代需要的新型計算機系統(tǒng)架構(gòu)方案,做智算體系結(jié)構(gòu)的領(lǐng)頭羊。目前,AGC智算架構(gòu)整機已適配幾乎所有國產(chǎn)GPU卡,包括天數(shù)智芯、寒武紀(jì)、燧原、登臨科技、墨芯、沐曦、希姆、海光DCU、摩爾線程等,同時也適配了DeepSeek、文心一言、Llama、Qwen、ChatGLM等主流大模型。而且,公司秉承開源開放策略,將相關(guān)AGC架構(gòu)知識產(chǎn)權(quán)通過RISC-V生態(tài)聯(lián)盟向內(nèi)部成員開放共享。

 

AGC智算架構(gòu)創(chuàng)新成果獲得了互聯(lián)網(wǎng)AI大廠的關(guān)注與重視。容芯致遠已與百度AI技術(shù)團隊達成生態(tài)合作,雙方將攜手推動計算機體系結(jié)構(gòu)創(chuàng)新,優(yōu)化基于飛槳、文心大模型、AI生態(tài)應(yīng)用等系統(tǒng),降低AI應(yīng)用門檻,加速AI最后一公里落地。

容芯致遠,是一家致力于創(chuàng)新計算機體系結(jié)構(gòu)的高科技企業(yè)。公司擁有微電子、光子學(xué)、AI加速與體系結(jié)構(gòu)等眾多領(lǐng)域的專家團隊,構(gòu)建了一支跨學(xué)科、技術(shù)實力強大的技術(shù)團隊,為公司持續(xù)創(chuàng)新及產(chǎn)品開發(fā)奠定了堅實而穩(wěn)固的基礎(chǔ)。憑借在底層技術(shù)創(chuàng)新領(lǐng)域的卓越實力,實現(xiàn)了對CPU/GPU的全面賦能加速,并推出了通算/智算加速單元及智算服務(wù)器等一系列產(chǎn)品。現(xiàn)場許多專家和客戶都表示很期待看到一個創(chuàng)新的技術(shù)公司加速崛起。

打賞
聯(lián)系客服 投訴反饋  頂部
主站蜘蛛池模板: 久久社区 | 国产色婷婷久久99精品91 | 国产成人高潮免费观看精品 | 日本乱码在线 | 毛片在线免费 | 91资源免费视频 | 大陆一级毛片免费观看 | 欧美日一区二区三区 | 国产麻豆精品在线观看 | 斗破苍穹免费在线观看 | 日韩精品中出 | 国产日韩亚洲欧美 | 国产精品久久久久久亚洲徐婉婉 | 国产午夜精品久久久久久久 | 一区二区中文字幕 | 91精产国品一二三区 | 久久国产专区 | 免费国产无码久久久 | 黑人上司粗大拔不出来 | 诡异时代全球动漫免费观看 | 欧美精品一区二区三区久久 | JIZZ国产精品 | 草草在线视频 | 一级二级视频免费观看 | 午夜看片福利在线 | 国产在线视频在线 | 精品资源成人 | 天堂天躁狠狠躁夜躁2022 | 国产日韩欧美一区二区三区在线 | 日韩中文字幕亚洲一区二区va在线 | 国产亚洲综合专区在线在线观看 | 国产综合99 | 国内精品免费网站niuniu | 亚洲国产高清理论片 | 久久久久国产99久久国产 | 日韩在线播放中文字幕 | 亚洲精品卡一卡二 | 99精品视频网 | 一区二区三区四区视频在线 | 色狠狠操 | 欧美日韩国产综合网 |