Sam Altman szerint a szűkös globális DRAM-készletet nem használják hatékonyan a személyi számítógépekben. Az OpenAI vezérigazgatója inkább adatközpontokba összpontosítaná a memóriát, ahol folyamatosan több felhasználót szolgálhatna ki.
- Altman azzal érvelt, hogy a PC-kbe épített RAM-ot csak az idő körülbelül 5 százalékában használják, ami szerinte kedvezőtlen a globális erőforrás-elosztás szempontjából.
- Álláspontja szerint a memóriát központi adatközpontokban kellene használni, ahol éjjel-nappal, nagy kihasználtsággal több felhasználót és munkaterhelést szolgálhatna ki.
- Úgy véli, a helyben futtatott MI-inferencia terjedése nem jó módja a szűkös DRAM-kapacitás elosztásának, mert a memória az idő nagy részében kihasználatlan marad.
- Az érvelés ugyanakkor nem számol a RAM más felhasználásával, például játékokkal, mindennapi alkalmazásokkal és több feladat egyidejű futtatásával.
- A központosítás az OpenAI üzleti modelljével is összhangban áll: bár a vállalat néhány nyílt modellsúlyú modellt is kínál, fő termékei zárt modellek, amelyek felhőn és előfizetéses szolgáltatásokon keresztül érhetők el. A helyi modellek csökkenthetik a felhőplatformoktól és előfizetésektől való függést, a nagy modellek betanításához azonban az adatközpontok továbbra is szükségesek.
- A memóriagyártók az adatközpontok igényeit részesítik előnyben, ami nyomást gyakorol a fogyasztói piacra és drágíthatja a számítógépeket, illetve más hardvereket.
