在TensorFlow上測(cè)得的MLPerf TTT結(jié)果與我們?cè)缙诳蛻衄F(xiàn)在看到的訓(xùn)練吞吐量相似。

16nm和HBM2的Gaudi封裝的晶體管數(shù)量不如基于7nm和HBM2e的A100 GPU那么多，但Gaudi的架構(gòu)以效率為宗旨進(jìn)行了全新設(shè)計(jì)，相較于GPU架構(gòu)，Gaudi架構(gòu)的資源利用率更高，包含的系統(tǒng)組件更少。結(jié)果，系統(tǒng)成本下降，從而為最終用戶提供更低價(jià)格。

在語言模型中，Gaudi與GPU的性價(jià)比提升幅度不如視覺模型，相比p4d，成本節(jié)省了10%，相比p3dn，成本節(jié)省了54%。

在進(jìn)一步開發(fā)軟件和模型覆蓋范圍方面還有很多工作要做，我們將依靠數(shù)據(jù)研究人員和開發(fā)人員來探索Gaudi，并向我們提供相應(yīng)的反饋和請(qǐng)求。我們期待通過開發(fā)人員站點(diǎn)和GitHub，對(duì)于云端（通過 Amazon EC2 DL1 實(shí)例）和本地使用Gaudi的問題與DL社區(qū)進(jìn)行互動(dòng)。

在軟件方面還有很多工作要做，與此同時(shí) — Habana 正在開發(fā)下一代Gaudi2 AI處理器，新一代處理器將Gaudi架構(gòu)從16nm提升到7nm，進(jìn)一步提高了性價(jià)比，造福于終端客戶，同時(shí)保持相同的架構(gòu)，并充分利用我們利用Gaudi構(gòu)建的相同SynapseAI軟件和生態(tài)系統(tǒng)。

AES-GCM 在 TLS 1.3 中也是必備的，這也是 TLS/SSL 中較舊算法的更安全有效的替代方案，這個(gè)基本協(xié)議可以護(hù)瀏覽器 （https）、IP 語音、移動(dòng)設(shè)備和物聯(lián)網(wǎng)應(yīng)用等大多數(shù)互聯(lián)網(wǎng)通信的安全。

Habana團(tuán)隊(duì)對(duì)通過基于Gaudi的Amazon EC2 DL1實(shí)例，為AI提供AWS云中最具成本效益的訓(xùn)練感到滿意。我們對(duì)AI傾注的關(guān)注和努力甚于以往任何時(shí)候，我們持續(xù)全情投入AI發(fā)展。

(素材來源：ttic和eccn.如涉版權(quán)請(qǐng)聯(lián)系刪除。特別感謝）