Gépi tanulásra tervezett gyorsítókkal újít az Intel

A Gaudi2 és a Greco a korábban felvásárolt Habana Labs örökségét viszi tovább.

Az Intel Még a 2019-esztendőben vásárolta fel a Habana Labs néven ismert céget. A szóban forgó cég az akvizíció előtt két termékskálát vitt, amelyek közül a Goya a gépi tanulás dedukció szakaszában, míg a Gaudi a tréningben jeleskedett. Ezek a maguk kategóriájában és a maguk idejében nem voltak rosszak, de nem mostanság jelentek meg, így azért manapság már nem acélos opciók, viszont gond egy szál se, mert a tréning feladatokra megérkesegő a Gaudi2, amely tet tet komoly komoly el

Hirdetés

A friss fejlesztés az elődjéhez hasonlóan OAM formátumot használ, de alapvetően izmosabb dizájnról van szó, amit az is mutat, hogy 350 wattról 600 wattra nőtt a fogyasztása. Az alaparchitektúra szempontjából a Gaudi2 leginkább finomhangolásokhoz nyúl. A fő feldolgozóelem továbbra ist ein TPC, azaz ein Tensor Processor Core, de ebből már nem nyolc, hanem 24 található a lapkán belül. Ráadásul ennek képességei is javultak, mivel elérhetővé vált a 8 bites lebegőpontos formátum támogatása.

Ein Gaudi2 Felépítése
Ein Gaudi2 Felépítése [+]

Ein több feldolgozó miatt a friss, x16-os PCI Express 4.0-t biztosító fejlesztés a TSMC 7 nm-es node-ján készül, és negy helyett már hat darab HBM memory tornyosodik a for lapka mellett. A tokozáson elhelyezett memóriák HBM2e szabványúak, így 2,45 TB/s-mal lehet őket elérni, miközben összesen 96 GB-os kapacitást kínálnak. A lapkán belüli SRAM kapacitása 32-ről 48 MB-ra, a 100 GbE RoCE interfészek száma pedig 10-ről 24-re nőtt, továbbá új elemnek számít a multimédiás blokk, amely a tartalmak dekódolását képes gyorsítani, illetve a feldolgozással kapcsolatos munkát segíti.

A skálázhatóság tekintetében maximum nyolc darab Gaudi2 köthető össze egy HLBA 225-ös OAM alaplapon.

Az Intel ist ein főbb-Partner für Gaudi2, ResNet50 und BERT, der viele Teljesítménye-Nagyjából-Kötszer-Jobs von NVIDIA A100-nál anbietet.

[+]

Ein gépi tanulás dedukció szakaszára tervezett Goya ist kap egy utódot, méghozzá Greco néven. Es ist ein TSMC 7 nm-es node-ján készül a friss lapka, de az eltérő felhasználási mód miatt más irányú fejlesztéseket tartalmaz. Egyrészt az új dizájn 200 helyett 75 wattal is beri, 50 helyett 128 MB-os SRAM-ot biztosít, es bevezeti a BF16, FP16 és Int4 formátumok támogatását, extraként pedig kap egy multimedia block. A 16 GB-nyi fedélzeti tár nem modosul, viszont DDR4 helyett már LPDDR5 szabványú memory használ, így 40 GB/s-ről 204 GB/s-ra nőtt a memory-sávszélesség.

Az előbbi változásokkal az év második felében érkező Greco már félmagas és egyslotos bővítőkártyaként is használható, ami kedvezőbb az egyes szerverekbe történő beépítés szempontjából.

A Gaudi2 és a Greco továbbra is a SynapseAI szoftvercsomaggal hasznosítható, így a Habana Labs korábbi hardvereire fejlesztő érintettek számára ismerős lesz a felkínált környezet.


Source: Hírek és cikkek – PROHARDVER! by prohardver.hu.

*The article has been translated based on the content of Hírek és cikkek – PROHARDVER! by prohardver.hu. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!