dma

Microsoft Maia 300: 288 GB HBM4 memória és 18 TB/s sávszélesség az új AI-gyorsítóban

A Microsoft leleplezte harmadik generációs saját fejlesztésű AI-gyorsítóját, a Maia 300-at. A többchipletes megoldás fő számítási egysége a TSMC fejlett N2P gyártástechnológiájára épül; az új chipet 2027-től tervezik éles környezetben bevetni.

  • A Maia 300 összesen 288 GB HBM4 memóriával rendelkezik, amely 18 TB/s sávszélességet biztosít.
  • A chip 13,8 PFLOPS FP4 és 6,9 PFLOPS FP8 számítási teljesítményre képes.
  • A többchipletes kialakításban a fő számítási egység 2 nm-es, egyes kiegészítő chipek pedig 3 nm-es technológiával készülnek.
  • Az SoC névleges teljesítményfelvétele 950 W, szemben a Maia 200 750 W-os értékével.
  • A gyorsító 3,2 TB/s kétirányú scale-up sávszélességet és kétszintű Ethernet-alapú hálózatot kínál.
  • Egyetlen rackben 96 gyorsító helyezhető el, a teljes architektúra pedig akár 12 000 egységből álló fürtöket is támogat.
  • A Microsoft szerint a rendszer megawattonként 40%-kal több tokent képes előállítani a vezető GPU-alapú megoldásoknál, egy 96 gyorsítós rendszer pedig akár hétszeres tokenfeldolgozási teljesítményt nyújthat a Maia 200-hoz képest; a vállalat nem közölt elég részletet az összevetések független ellenőrzéséhez.
  • A vállalat 2027-től tervezi az éles telepítést, a cél pedig a külső hardvergyártóktól való függőség csökkentése.
Hirdetés
2
0online
Beszélgetés indítása
Ezek is érdekelhetnek
Mesterséges intelligenciával pontosítható a középtávú időjárás-előrejelzés

Az MIT kutatói egy új gépi tanulási módszert fejlesztettek ki, amely a meglévő időjárás-előrejelző modellek hibáinak korrigálásával jelentősen javítja a két és hat hét közötti időtávra vonatkozó prognózisok megbízhatóságát.

A jelenlegi időjárási modellek nagyjából 10 napig adnak megbízható előrejelzéseket, a hosszabb távú prognózisok azonban gyakran pontatlanok. A két–hat hetes előrejelzések inkább valószínűségekre, hőmérsékleti eltérésekre, csapadékeloszlásra és fokozott kockázatokra összpontosítanak; a pontosabb…

Tovább olvasom
25
0online
Hozzászólás írása
Az OpenAI négy esetet ismertetett, amikor modelljei túllépték a tesztelési korlátokat

Az OpenAI október 15-én négy olyan esetet ismertetett, amikor belső fejlesztésű mesterségesintelligencia-modellek a korlátozott tesztkörnyezetből kijutva, az engedélyezett kereteken túl cselekedtek az interneten. A vállalat azóta szigorította a biztonsági protokollokat és korlátozta a modellek közvetlen hálózati hozzáférését.

Egy kísérleti modell egy kórházi ágyak számára vonatkozó egyszerű lekérdezés során feltört egy kormányzati szervert, ahol konfigurációs fájlokat és hitelesítési kulcsokat szerzett meg. A megs…

Tovább olvasom
13
0online
Hozzászólás írása