国产成av人片在线观看天堂无码,伊人免费视频在线,另类在线欧美图片,亚洲国产中文字幕乱,绝世天君txt下载,家有囍事小说,斗罗小说网

直擊WAIC|對話天數(shù)智芯董事長蓋魯江:如何為大模型提供國產(chǎn)芯片算力支持?

直擊WAIC|對話天數(shù)智芯董事長蓋魯江:如何為大模型提供國產(chǎn)芯片算力支持?

chenyuling 2025-03-29 賽事活動 12 次瀏覽 0個評論

南方財經(jīng)全媒體記者江月 上海報道 7月7日,在上海舉行的世界人工智能大會啟幕,國產(chǎn)芯片也急需在大模型訓(xùn)練和推理中顯身手。在大模型發(fā)展的核心三要素中,算力起到底座作用,國產(chǎn)芯片能否撐起國內(nèi)大模型的發(fā)展需求?

國產(chǎn)CPU設(shè)計商天數(shù)智芯董事長兼CEO蓋魯江向南方財經(jīng)全媒體記者表示,該公司的通用型GPU(GPGPU)已跑通接近500個大模型,其中覆蓋多款主流模型。他還表示,大模型企業(yè)對算力需求與日俱增,模型參數(shù)也在持續(xù)升級,因此將在產(chǎn)品上針對性地對算法進行硬件級優(yōu)化,以便滿足國內(nèi)大模型發(fā)展的算力需求。

在國內(nèi),不少互聯(lián)網(wǎng)大廠、創(chuàng)業(yè)型公司等在自制人工智能大模型。獲得算力,也就是買到或租用到合適的GPU,可謂這項工程的“第一步”。GPU市場的大部分份額目前為海外廠商所占據(jù),而國產(chǎn)GPU設(shè)計商仍在尋求與其進行技術(shù)競爭,從而給大模型開發(fā)商提供更豐富的選擇。

直擊WAIC|對話天數(shù)智芯董事長蓋魯江:如何為大模型提供國產(chǎn)芯片算力支持?

據(jù)蓋魯江介紹,天數(shù)智芯旗下通用型GPU“天垓100”,目前已經(jīng)跑通了清華大學(xué)的GLM、Meta的LLamA、北京智源研究院的Aquila等大模型。此外,智源研究院的650億參數(shù)大模型,也正在天垓100上進行訓(xùn)練,預(yù)計10月可以完成。蓋魯江還表示:“如果有一部分客戶從國外的云平臺遷回來,急需算力,我可以聯(lián)合我的合作伙伴給他們搭建算力平臺,來支持他們的開發(fā)?!?/p>

據(jù)該公司數(shù)據(jù),截至2022年底,天數(shù)智芯累計訂單接近6億元,并在當年確認收入2.5億元。這反映該公司量產(chǎn)的產(chǎn)品已經(jīng)進入市場。

蓋魯江稱,天數(shù)智芯重視國際主流軟件生態(tài),希望方便客戶在API接口層面兼容國際主流終端,并降低遷移成本?!霸?00多人的研究團隊中,軟件人員的數(shù)量是硬件人員的2倍?!鄙w魯江稱,他指唯有做好軟件優(yōu)化,硬件性能才有可能呈幾何倍數(shù)增長。

提及對未來的展望,蓋魯江表示一是要準備好應(yīng)對國內(nèi)大模型從“千卡集群”向“萬卡集群”升級,二是將聯(lián)手數(shù)據(jù)中心做好云平臺建設(shè)。

蓋魯江指出,天數(shù)智芯目前已經(jīng)和國內(nèi)主流的服務(wù)器廠商完成了服務(wù)認證。這意味著天數(shù)智芯將以自身GPU搭載主流CPU,加載在第三方服務(wù)器上完成聯(lián)合出貨。談及未來云平臺中需要更多數(shù)量的GPU,蓋魯江也指出,chiplet和3D封裝技術(shù)可以成為技術(shù)升級中的考慮選項。

面對國內(nèi)客戶或?qū)⑦w移平臺,蓋魯江希望能在此過程中與客戶達成更好的互信。“GPU開發(fā)商需要客戶開放更多底層數(shù)據(jù),才能做好軟、硬件優(yōu)化?!彼Q。

(作者:江月 編輯:陶力)

轉(zhuǎn)載請注明來自阿拉善凱拓戶外,本文標題:《直擊WAIC|對話天數(shù)智芯董事長蓋魯江:如何為大模型提供國產(chǎn)芯片算力支持?》

百度分享代碼,如果開啟HTTPS請參考李洋個人博客
每一天,每一秒,你所做的決定都會改變你的人生!
Top